Temario del curso
Módulo 1 — Sistemas de IA para ingenieros de seguridad
Lab: Lab 01 — 01-Introducción
Comprensión de la arquitectura.
Temas:
- LLMs vs aplicaciones normales
- Pipelines de inferencia de IA
- Flujo de comandos (prompt flow)
- Arquitectura RAG
- embeddings / bases de datos vectoriales
- flujos de trabajo agentivos
- llamada a herramientas (tool calling)
- gateways de IA
- copilotos
- MCP y protocolos de agentes
- dónde existe la visibilidad del WAF
- dónde desaparece la visibilidad del WAF
Insight clave: Los WAFs tradicionales a menudo pierden visibilidad una vez que el comando alcanza el modelo.
Módulo 2 — Las Top 10 de OWASP para GenAI
Lab: ninguno — recapitulación/discusión interactiva
Categorías principales de ataques a IA.
Temas:
- Inyección de comandos
- Manejo inseguro de salidas
- Envenenamiento de datos de entrenamiento
- DoS del modelo
- Vulnerabilidades en la cadena de suministro
- Revelación de información sensible
- Agencia excesiva
- Fallas en vectores/embeddings
- Desinformación
- Consumo ilimitado
Incluir:
- Diferencias con las OWASP clásicas
- Mapeo a controles defensivos (WAF, gateway, capa de app)
- Dónde cada control ayuda
- Dónde falla cada control
Módulo 3 — Detección de inyección de comandos
Lab: Lab 02 — 02-Inyección-de-Comandos
El «momento de la inyección SQL» para la IA.
Temas:
- Inyección directa de comandos
- Inyección indirecta de comandos
- Instrucciones ocultas
- Ataques basados en documentos
- Inyección HTML/Markdown
- Patrones de jailbreak
- Ataques de sobrescritura de contexto
- Ataques de confusión de rol
Estrategias de detección:
- heurísticas de palabras clave
- clasificación semántica
- linting de comandos (prompt linting)
- aplicación de límites de instrucción
- políticas de permisos/prohibiciones
- patrones regex conscientes de IA
Laboratorios prácticos:
- Atacar un chatbot
- Eludir filtros ingenuos
- Construir detección en capas
Módulo 4 — Reglas de WAF conscientes de IA
Lab: Lab 03 — 03-Básicos-de-WAF
Cómo evolucionan las reglas del WAF para sistemas de IA.
- Temas:
- protección de endpoints LLM
- protección de API de inferencia
- limitación de tasa consciente de tokens
- inspección del tamaño del comando
- firmas específicas para IA
- detección de anomalías en conversaciones
- patrones de abuso multi-turno
- intentos de enumeración de modelos
- explotación (scraping) de inferencia
- protección contra denegación de billetera
Ejemplos:
- protección de /v1/chat/completions
- defensa de APIs en streaming
- bloqueo de llamadas recursivas de agentes
Módulo 5 — Seguridad de pipelines RAG
Lab: Lab 04 — 04-Seguridad-RAG
Una de las nuevas superficies de ataque más grandes.
Temas:
- amenazas a bases de datos vectoriales
- envenenamiento de embeddings
- PDFs/docs maliciosos
- manipulación de recuperación
- envenenamiento semántico
- instrucciones ocultas en documentos
- contaminación cruzada entre documentos
- fuga de datos mediante recuperación
Defensas:
- saneamiento de ingestión
- puntuación de confianza
- aislamiento de metadatos
- procedencia de documentos
- políticas de recuperación
- segmentación
Caso de estudio: «Sube un PDF envenenado y toma el control del asistente de IA.»
Módulo 6 — Seguridad de IA Agentiva
Lab: Lab 05 — 05-Seguridad-de-Agentes
Donde las cosas se vuelven peligrosas.
Temas:
- agencia excesiva
- abuso de herramientas
- cadenado de APIs
- bucles autónomos
- escalamiento de permisos
- envenenamiento de memoria
- ejecución indirecta de herramientas
- suplantación de identidad de agentes
- fuga de credenciales
- ataques multi-agente
Defensas:
- principio de mínimo privilegio para agentes
- puertas de aprobación
- motores de política en runtime
- aislamiento (sandboxing)
- credenciales acotadas
- listas blancas de herramientas
- intervención humana
Esta es la sección que a los gestores suele interesarles más porque el riesgo se vuelve operativo y afecta al negocio.
Módulo 7 — Seguridad de API para IA
Lab: Lab 06 — 06-Denial-of-Wallet
Los sistemas de IA están muy cargados de APIs.
Temas:
- gateways de API
- Riesgos de GraphQL para IA
- Abuso de MCP/API
- Protección JWT
- Seguridad de plugins de IA
- autenticación de agentes
- autorización delegada
- Gestión de secretos
- comandos firmados
- Inventario de APIs para IA
Vinculado a: Las Top 10 de Seguridad de API de OWASP
Módulo 8 — Ingeniería de Detección e Integración con SOC
Lab: Lab 07 — 07-Detección
Defensa operativa.
Temas:
- telemetría de IA
- registro de comandos
- analítica de tokens
- detección de anomalías
- pipelines de SIEM semántico para IA
- indicadores de ataque de IA
- búsqueda de amenazas para abuso de LLM
- observabilidad en runtime de IA
Ejemplos:
- detección de campañas de jailbreak
- identificación de abuso automatizado por agentes
- identificación de scraping de modelos
Módulo 9 — WAFs en la nube y seguridad de IA
Lab: ninguno — recapitulación/discusión interactiva
Implementaciones específicas de vendedores.
Temas:
- AWS WAF para APIs de IA
- Azure WAF
- Cloudflare AI Gateway
- gateways de API
- Filtrado de IA en Envoy
- Kong AI Gateway
- Patrones de seguridad para IA en NGINX
Comparación:
- WAF tradicional vs gateway de IA vs guardrail de capa de app
- Filtrado basado en proxy vs filtrado semántico
Módulo 10 — Construcción de una defensa en capas para IA
Lab: Lab 08 — 08-Defensa-en-Capas
Conclusión filosófica importante:
Ninguna capa única puede asegurar la IA (un WAF lo menos de todos, por sí solo).
Los estudiantes construyen un modelo en capas:
- WAF
- Gateway de API
- Gateway de IA
- Guardrails
- Monitoreo en runtime
- Identidad/autorización
- Sandbox
- Aprobación humana
- Observabilidad
- Respuesta a incidentes
Esto se alinea fuertemente con el modelo de «seguridad multicapa».
Módulo ↔ Mapa de Labs
Los laboratorios se ejecutan en orden, siguiendo el orden de los módulos.
El curso tiene 10 módulos pero 8 laboratorios: Los Módulos 2 y 9 son de recapitulación/discusión interactiva y no tienen laboratorio.
Cada laboratorio está etiquetado con su módulo a lo largo de este programa.
- Lab 01 (Módulo 1)
- Carpeta: 01-Introducción
- Título: Explorar un sistema de IA — qué hay en la transmisión
- Lab 02 (Módulo 3)
- Carpeta: 02-Inyección-de-Comandos
- Título: Atacar un chatbot y eludir filtros ingenuos
- Lab 03 (Módulo 4)
- Carpeta: 03-Básicos-de-WAF
- Título: Construir reglas de WAF conscientes de IA
- Lab 04 (Módulo 5)
- Carpeta: 04-Seguridad-RAG
- Título: Envenenar un pipeline RAG
- Lab 05 (Módulo 6)
- Carpeta: 05-Seguridad-de-Agentes
- Título: Asegurar un agente autónomo
- Lab 06 (Módulo 7)
- Carpeta: 06-Denial-of-Wallet
- Título: Detectar ataques de denegación de billetera
- Lab 07 (Módulo 8)
- Carpeta: 07-Detección
- Título: Monitorear patrones de abuso de IA en registros
- Lab 08 (Módulo 10)
- Carpeta: 08-Defensa-en-Capas
- Título: Construir una arquitectura de defensa en capas para IA
Proyecto final (Capstone)
Los estudiantes defienden un asistente de IA empresarial simulado.
Los atacantes intentan:
- Inyección de comandos
- Abuso de herramientas
- Robo de credenciales
- Envenenamiento de recuperación
- Consumo excesivo de API
- Escalamiento de agente
Los equipos construyen:
- Reglas WAF
- Políticas de gateway de IA
- Detección en runtime
- Guardrails
- Respuesta a incidentes
Requerimientos
- Los estudiantes deben comprender ya la seguridad de HTTP/API, proxies/reverse proxies, autenticación, OWASP Top 10, APIs REST y conceptos básicos de redes en la nube
Público objetivo
- Ingenieros de seguridad y especialistas en AppSec
- Analistas SOC e ingenieros de detección
- Ingenieros de seguridad de API
- Seguridad de nube / API / plataforma
- Ingenieros DevSecOps
- Arquitectos de seguridad
- Especialistas en seguridad de red / WAF
- Ingenieros de plataformas de IA
Reseñas (2)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática