Ponte en Contacto

Temario del curso

Módulo 1 — Sistemas de IA para ingenieros de seguridad

Lab: Lab 01 — 01-Introducción

Comprensión de la arquitectura.

Temas:

  • LLMs vs aplicaciones normales
  • Pipelines de inferencia de IA
  • Flujo de comandos (prompt flow)
  • Arquitectura RAG
  • embeddings / bases de datos vectoriales
  • flujos de trabajo agentivos
  • llamada a herramientas (tool calling)
  • gateways de IA
  • copilotos
  • MCP y protocolos de agentes
  • dónde existe la visibilidad del WAF
  • dónde desaparece la visibilidad del WAF

Insight clave: Los WAFs tradicionales a menudo pierden visibilidad una vez que el comando alcanza el modelo.

Módulo 2 — Las Top 10 de OWASP para GenAI

Lab: ninguno — recapitulación/discusión interactiva

Categorías principales de ataques a IA.

Temas: 

  • Inyección de comandos
  • Manejo inseguro de salidas
  • Envenenamiento de datos de entrenamiento
  • DoS del modelo
  • Vulnerabilidades en la cadena de suministro
  • Revelación de información sensible
  • Agencia excesiva
  • Fallas en vectores/embeddings
  • Desinformación
  • Consumo ilimitado

Incluir:

  • Diferencias con las OWASP clásicas
  • Mapeo a controles defensivos (WAF, gateway, capa de app)
  • Dónde cada control ayuda
  • Dónde falla cada control

Módulo 3 — Detección de inyección de comandos

Lab: Lab 02 — 02-Inyección-de-Comandos

El «momento de la inyección SQL» para la IA.

Temas:

  • Inyección directa de comandos
  • Inyección indirecta de comandos
  • Instrucciones ocultas
  • Ataques basados en documentos
  • Inyección HTML/Markdown
  • Patrones de jailbreak
  • Ataques de sobrescritura de contexto
  • Ataques de confusión de rol

Estrategias de detección:

  • heurísticas de palabras clave
  • clasificación semántica
  • linting de comandos (prompt linting)
  • aplicación de límites de instrucción
  • políticas de permisos/prohibiciones
  • patrones regex conscientes de IA

Laboratorios prácticos:

  • Atacar un chatbot
  • Eludir filtros ingenuos
  • Construir detección en capas

Módulo 4 — Reglas de WAF conscientes de IA

Lab: Lab 03 — 03-Básicos-de-WAF

Cómo evolucionan las reglas del WAF para sistemas de IA.

  • Temas:
  • protección de endpoints LLM
  • protección de API de inferencia
  • limitación de tasa consciente de tokens
  • inspección del tamaño del comando
  • firmas específicas para IA
  • detección de anomalías en conversaciones
  • patrones de abuso multi-turno
  • intentos de enumeración de modelos
  • explotación (scraping) de inferencia
  • protección contra denegación de billetera

Ejemplos:

  • protección de /v1/chat/completions
  • defensa de APIs en streaming
  • bloqueo de llamadas recursivas de agentes

Módulo 5 — Seguridad de pipelines RAG

Lab: Lab 04 — 04-Seguridad-RAG

Una de las nuevas superficies de ataque más grandes.

Temas:

  • amenazas a bases de datos vectoriales
  • envenenamiento de embeddings
  • PDFs/docs maliciosos
  • manipulación de recuperación
  • envenenamiento semántico
  • instrucciones ocultas en documentos
  • contaminación cruzada entre documentos
  • fuga de datos mediante recuperación

Defensas:

  • saneamiento de ingestión
  • puntuación de confianza
  • aislamiento de metadatos
  • procedencia de documentos
  • políticas de recuperación
  • segmentación

Caso de estudio: «Sube un PDF envenenado y toma el control del asistente de IA.»

Módulo 6 — Seguridad de IA Agentiva

Lab: Lab 05 — 05-Seguridad-de-Agentes

Donde las cosas se vuelven peligrosas.

Temas:

  • agencia excesiva
  • abuso de herramientas
  • cadenado de APIs
  • bucles autónomos
  • escalamiento de permisos
  • envenenamiento de memoria
  • ejecución indirecta de herramientas
  • suplantación de identidad de agentes
  • fuga de credenciales
  • ataques multi-agente

Defensas:

  • principio de mínimo privilegio para agentes
  • puertas de aprobación
  • motores de política en runtime
  • aislamiento (sandboxing)
  • credenciales acotadas
  • listas blancas de herramientas
  • intervención humana

Esta es la sección que a los gestores suele interesarles más porque el riesgo se vuelve operativo y afecta al negocio.

Módulo 7 — Seguridad de API para IA

Lab: Lab 06 — 06-Denial-of-Wallet

Los sistemas de IA están muy cargados de APIs.

Temas:

  • gateways de API
  • Riesgos de GraphQL para IA
  • Abuso de MCP/API
  • Protección JWT
  • Seguridad de plugins de IA
  • autenticación de agentes
  • autorización delegada
  • Gestión de secretos
  • comandos firmados
  • Inventario de APIs para IA

Vinculado a: Las Top 10 de Seguridad de API de OWASP

Módulo 8 — Ingeniería de Detección e Integración con SOC

Lab: Lab 07 — 07-Detección

Defensa operativa.

Temas:

  • telemetría de IA
  • registro de comandos
  • analítica de tokens
  • detección de anomalías
  • pipelines de SIEM semántico para IA
  • indicadores de ataque de IA
  • búsqueda de amenazas para abuso de LLM
  • observabilidad en runtime de IA

Ejemplos:

  • detección de campañas de jailbreak
  • identificación de abuso automatizado por agentes
  • identificación de scraping de modelos

Módulo 9 — WAFs en la nube y seguridad de IA

Lab: ninguno — recapitulación/discusión interactiva

Implementaciones específicas de vendedores.

Temas:

  • AWS WAF para APIs de IA
  • Azure WAF
  • Cloudflare AI Gateway
  • gateways de API
  • Filtrado de IA en Envoy
  • Kong AI Gateway
  • Patrones de seguridad para IA en NGINX

Comparación:

  • WAF tradicional vs gateway de IA vs guardrail de capa de app
  • Filtrado basado en proxy vs filtrado semántico

Módulo 10 — Construcción de una defensa en capas para IA

Lab: Lab 08 — 08-Defensa-en-Capas

Conclusión filosófica importante:

Ninguna capa única puede asegurar la IA (un WAF lo menos de todos, por sí solo).

Los estudiantes construyen un modelo en capas:

  1. WAF
  2. Gateway de API
  3. Gateway de IA
  4. Guardrails
  5. Monitoreo en runtime
  6. Identidad/autorización
  7. Sandbox
  8. Aprobación humana
  9. Observabilidad
  10. Respuesta a incidentes

Esto se alinea fuertemente con el modelo de «seguridad multicapa».

Módulo ↔ Mapa de Labs

Los laboratorios se ejecutan en orden, siguiendo el orden de los módulos.

El curso tiene 10 módulos pero 8 laboratorios: Los Módulos 2 y 9 son de recapitulación/discusión interactiva y no tienen laboratorio.

Cada laboratorio está etiquetado con su módulo a lo largo de este programa.

  • Lab 01 (Módulo 1)
    • Carpeta: 01-Introducción
    • Título: Explorar un sistema de IA — qué hay en la transmisión
  • Lab 02 (Módulo 3)
    • Carpeta: 02-Inyección-de-Comandos
    • Título: Atacar un chatbot y eludir filtros ingenuos
  • Lab 03 (Módulo 4)
    • Carpeta: 03-Básicos-de-WAF
    • Título: Construir reglas de WAF conscientes de IA
  • Lab 04 (Módulo 5)
    • Carpeta: 04-Seguridad-RAG
    • Título: Envenenar un pipeline RAG
  • Lab 05 (Módulo 6)
    • Carpeta: 05-Seguridad-de-Agentes
    • Título: Asegurar un agente autónomo
  • Lab 06 (Módulo 7)
    • Carpeta: 06-Denial-of-Wallet
    • Título: Detectar ataques de denegación de billetera
  • Lab 07 (Módulo 8)
    • Carpeta: 07-Detección
    • Título: Monitorear patrones de abuso de IA en registros
  • Lab 08 (Módulo 10)
    • Carpeta: 08-Defensa-en-Capas
    • Título: Construir una arquitectura de defensa en capas para IA

Proyecto final (Capstone)

Los estudiantes defienden un asistente de IA empresarial simulado.

Los atacantes intentan: 

  1. Inyección de comandos
  2. Abuso de herramientas
  3. Robo de credenciales
  4. Envenenamiento de recuperación
  5. Consumo excesivo de API
  6. Escalamiento de agente

Los equipos construyen:

  • Reglas WAF
  • Políticas de gateway de IA
  • Detección en runtime
  • Guardrails
  • Respuesta a incidentes

Requerimientos

  • Los estudiantes deben comprender ya la seguridad de HTTP/API, proxies/reverse proxies, autenticación, OWASP Top 10, APIs REST y conceptos básicos de redes en la nube

Público objetivo

  • Ingenieros de seguridad y especialistas en AppSec
  • Analistas SOC e ingenieros de detección
  • Ingenieros de seguridad de API
  • Seguridad de nube / API / plataforma
  • Ingenieros DevSecOps
  • Arquitectos de seguridad
  • Especialistas en seguridad de red / WAF
  • Ingenieros de plataformas de IA
 35 Horas

Número de participantes


Precio por participante

Reseñas (2)

Próximos cursos

Categorías Relacionadas