Temario del curso
Día 1
Anatomía de un agente de IA moderno
Más allá de los chatbots: los agentes como sistemas autónomos de razonamiento y acción
Paradigmas de agentes reactivos, proactivos, híbridos y dirigidos a objetivos
Componentes esenciales: percepción, planificación, memoria, uso de herramientas y acción
Ventajas y desventajas del diseño con un agente único frente a múltiples agentes
Frameworks para agentes y la pila tecnológica moderna
LangChain, LlamaIndex, AutoGen, CrewAI y sus respectivos trade-offs
Comparación con frameworks clásicos como JADE y SPADE
Cómo elegir un framework según los requisitos de producción
Llamada a herramientas, llamada a funciones y salidas estructuradas
Práctica: creación de la estructura básica de un agente individual en Python con llamadas a herramientas
Arquitecturas de sistemas multi-agente
Diseños centralizados, descentralizados, híbridos y en capas para MAS (Sistemas Multi-Agente)
FIPA ACL, paso de mensajes y sus equivalentes modernos
Patrones de coordinación: planificación, negociación y sincronización
Comportamiento emergente y autoorganización en poblaciones de agentes
Toma de decisiones y aprendizaje en agentes
Teoría de juegos para interacciones cooperativas y competitivas entre agentes
Aprendizaje por refuerzo en entornos multi-agente
Aprendizaje por transferencia y compartición de conocimiento entre agentes
Resolución de conflictos y construcción de confianza entre agentes coordinados
Día 2
Fundamentos multimodales para agentes
La IA multimodal como un flujo de trabajo unificado que abarca texto, imágenes, voz y video
Modelos líderes multimodales: GPT-4 Vision, Gemini, Claude, Whisper
Técnicas de fusión para combinar distintas modalidades dentro del ciclo de razonamiento del agente
Ventajas y desventajas en latencia, costo y precisión en pipelines multimodales
Construcción de la capa de percepción
Procesamiento de imágenes para agentes: clasificación, descripción e identificación de objetos
Reconocimiento de voz con Whisper ASR y transcripción en tiempo real
Síntesis de texto a voz e interacción con voz natural
Vinculación de las salidas de percepción con el razonamiento impulsado por LLMs y la selección de herramientas
Práctica: construcción de un agente multimodal en Python
Definición de la tarea del agente, ventana de contexto e inventario de herramientas
Conexión completa de las API de GPT-4 Vision y Whisper
Implementación de memoria, estado y gestión de conversaciones
Añadido de llamadas a herramientas que generan efectos secundarios en el mundo real de forma segura
Práctica: orquestación de un sistema multi-agente
Composición de agentes especializados con AutoGen o CrewAI
Definición de roles, responsabilidades y protocolos de comunicación entre agentes
Asignación de recursos y coordinación en un entorno simulado
Registro del razonamiento, llamadas a herramientas y decisiones de los agentes para inspección y auditoría
Día 3
Superficie de amenazas de agentes de IA en producción
Lo que hace que la IA agéntica sea única y vulnerable comparada con el software tradicional
Superficie de ataque: capas de datos, modelo, prompt, herramienta, salida e interfaz
Modelado de amenazas para sistemas basados en agentes con uso autónomo de herramientas
Comparación entre prácticas de ciberseguridad de IA y ciberseguridad tradicional
Práctica: ataques adversarios
Ejemplos adversarios y métodos de perturbación: FGSM, PGD, DeepFool
Escenarios de ataque con caja blanca versus caja negra
Ataques de inversión de modelos e inferencia de pertenencia a bases de datos
Intoxicación de datos e inyección de puertas traseras durante el entrenamiento
Inyección de prompts, elusión de restricciones (jailbreaking) y mal uso de herramientas en agentes basados en LLMs
Técnicas defensivas y endurecimiento de modelos
Estrategias de entrenamiento adversario y aumento de datos
Destilación defensiva y otras técnicas de robustez
Preprocesamiento de entradas, enmascaramiento de gradientes y regularización
Privacidad diferencial, inyección de ruido y presupuestos de privacidad
Aprendizaje federado y agregación segura para entrenamiento distribuido
Práctica con la Adversarial Robustness Toolbox
Simulación de ataques contra el agente multimodal construido en el Día 2
Medición de la robustez bajo perturbación y cuantificación de la degradación
Aplicación iterativa de defensas y reevaluación de las tasas de éxito del ataque
Pruebas de estrés en las vías de llamadas a herramientas y vectores de inyección de prompts
Día 4
Marco de gestión de riesgos para IA
NIST AI Risk Management Framework: gobernar, mapear, medir y gestionar
ISO/IEC 42001 y estándares emergentes específicos para IA
Mapeo de riesgos de IA a frameworks GRC (Gobernanza, Riesgo y Cumplimiento) empresariales existentes
Requisitos de rendición de cuentas, audibilidad y documentación en IA
Cumplimiento regulatorio para sistemas agénticos
Ley de IA de la UE: niveles de riesgo, usos prohibidos y obligaciones para sistemas de alto riesgo
Implicaciones del GDPR y CCPA para los flujos de datos de los agentes
Orden Ejecutiva de EE.UU. sobre una IA segura, fiable y confiable
Orientaciones sectoriales específicas para finanzas, salud y servicios públicos
Gestión del riesgo de terceros y uso de herramientas de IA por proveedores
Ética, sesgo y explicabilidad
Detección y mitigación de sesgos en la percepción y el razonamiento del agente
Explicabilidad y transparencia como propiedades relevantes para la seguridad
Ecuidad, daños derivados y despliegue responsable
Diseño de comportamientos de agentes inclusivos y auditables
Despliegue en producción, monitoreo y respuesta a incidentes
Patrones de despliegue seguro para sistemas de agente único y multi-agente
Monitoreo continuo para detectar deriva, anomalías y abusos
Registro de logs, trazas de auditoría y preparación forense para las acciones del agente
Protocolos de respuesta a incidentes de seguridad de IA y recuperación
Casos de estudio de brechas reales de IA y lecciones aprendidas
Capstone y síntesis
Revisión del sistema multi-agente multimodal construido durante el curso
Revisión integral del pipeline: diseño, construcción, seguridad, gobernanza y despliegue
Autoevaluación del sistema frente a las funciones del NIST AI RMF
Perspectiva futura sobre tendencias emergentes en IA agéntica y seguridad de la IA
Resumen y próximos pasos
Requerimientos
Audiencia objetivo
Ingenieros y arquitectos de IA que desarrollan sistemas agénticos para uso en producción. Profesionales de ciberseguridad, riesgo y cumplimiento responsables de la garantía de calidad de IA en industrias reguladas como finanzas, salud y consultoría. Desarrolladores senior y líderes de soluciones que integran capacidades multimodales y multi-agente en plataformas empresariales.
Reseñas (3)
El instructor es paciente y muy útil. Conoce bien el tema.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Curso - Agentic AI for Business Automation: Use Cases & Integration
Traducción Automática
Buena mezcla de conocimiento y práctica
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curso - Agentic AI for Enterprise Applications
Traducción Automática
La mezcla de teoría y práctica, así como de perspectivas de alto y bajo nivel
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curso - Autonomous Decision-Making with Agentic AI
Traducción Automática