Contacta con nosotros

Temario del curso

Día 1
Anatomía de un agente de IA moderno

Más allá de los chatbots: los agentes como sistemas autónomos de razonamiento y acción

Paradigmas de agentes reactivos, proactivos, híbridos y dirigidos a objetivos

Componentes esenciales: percepción, planificación, memoria, uso de herramientas y acción

Ventajas y desventajas del diseño con un agente único frente a múltiples agentes

Frameworks para agentes y la pila tecnológica moderna

LangChain, LlamaIndex, AutoGen, CrewAI y sus respectivos trade-offs

Comparación con frameworks clásicos como JADE y SPADE

Cómo elegir un framework según los requisitos de producción

Llamada a herramientas, llamada a funciones y salidas estructuradas

Práctica: creación de la estructura básica de un agente individual en Python con llamadas a herramientas

Arquitecturas de sistemas multi-agente

Diseños centralizados, descentralizados, híbridos y en capas para MAS (Sistemas Multi-Agente)

FIPA ACL, paso de mensajes y sus equivalentes modernos

Patrones de coordinación: planificación, negociación y sincronización

Comportamiento emergente y autoorganización en poblaciones de agentes

Toma de decisiones y aprendizaje en agentes

Teoría de juegos para interacciones cooperativas y competitivas entre agentes

Aprendizaje por refuerzo en entornos multi-agente

Aprendizaje por transferencia y compartición de conocimiento entre agentes

Resolución de conflictos y construcción de confianza entre agentes coordinados

Día 2
Fundamentos multimodales para agentes

La IA multimodal como un flujo de trabajo unificado que abarca texto, imágenes, voz y video

Modelos líderes multimodales: GPT-4 Vision, Gemini, Claude, Whisper

Técnicas de fusión para combinar distintas modalidades dentro del ciclo de razonamiento del agente

Ventajas y desventajas en latencia, costo y precisión en pipelines multimodales

Construcción de la capa de percepción

Procesamiento de imágenes para agentes: clasificación, descripción e identificación de objetos

Reconocimiento de voz con Whisper ASR y transcripción en tiempo real

Síntesis de texto a voz e interacción con voz natural

Vinculación de las salidas de percepción con el razonamiento impulsado por LLMs y la selección de herramientas

Práctica: construcción de un agente multimodal en Python

Definición de la tarea del agente, ventana de contexto e inventario de herramientas

Conexión completa de las API de GPT-4 Vision y Whisper

Implementación de memoria, estado y gestión de conversaciones

Añadido de llamadas a herramientas que generan efectos secundarios en el mundo real de forma segura

Práctica: orquestación de un sistema multi-agente

Composición de agentes especializados con AutoGen o CrewAI

Definición de roles, responsabilidades y protocolos de comunicación entre agentes

Asignación de recursos y coordinación en un entorno simulado

Registro del razonamiento, llamadas a herramientas y decisiones de los agentes para inspección y auditoría

Día 3
Superficie de amenazas de agentes de IA en producción

Lo que hace que la IA agéntica sea única y vulnerable comparada con el software tradicional

Superficie de ataque: capas de datos, modelo, prompt, herramienta, salida e interfaz

Modelado de amenazas para sistemas basados en agentes con uso autónomo de herramientas

Comparación entre prácticas de ciberseguridad de IA y ciberseguridad tradicional

Práctica: ataques adversarios

Ejemplos adversarios y métodos de perturbación: FGSM, PGD, DeepFool

Escenarios de ataque con caja blanca versus caja negra

Ataques de inversión de modelos e inferencia de pertenencia a bases de datos

Intoxicación de datos e inyección de puertas traseras durante el entrenamiento

Inyección de prompts, elusión de restricciones (jailbreaking) y mal uso de herramientas en agentes basados en LLMs

Técnicas defensivas y endurecimiento de modelos

Estrategias de entrenamiento adversario y aumento de datos

Destilación defensiva y otras técnicas de robustez

Preprocesamiento de entradas, enmascaramiento de gradientes y regularización

Privacidad diferencial, inyección de ruido y presupuestos de privacidad

Aprendizaje federado y agregación segura para entrenamiento distribuido

Práctica con la Adversarial Robustness Toolbox

Simulación de ataques contra el agente multimodal construido en el Día 2

Medición de la robustez bajo perturbación y cuantificación de la degradación

Aplicación iterativa de defensas y reevaluación de las tasas de éxito del ataque

Pruebas de estrés en las vías de llamadas a herramientas y vectores de inyección de prompts

Día 4
Marco de gestión de riesgos para IA

NIST AI Risk Management Framework: gobernar, mapear, medir y gestionar

ISO/IEC 42001 y estándares emergentes específicos para IA

Mapeo de riesgos de IA a frameworks GRC (Gobernanza, Riesgo y Cumplimiento) empresariales existentes

Requisitos de rendición de cuentas, audibilidad y documentación en IA

Cumplimiento regulatorio para sistemas agénticos

Ley de IA de la UE: niveles de riesgo, usos prohibidos y obligaciones para sistemas de alto riesgo

Implicaciones del GDPR y CCPA para los flujos de datos de los agentes

Orden Ejecutiva de EE.UU. sobre una IA segura, fiable y confiable

Orientaciones sectoriales específicas para finanzas, salud y servicios públicos

Gestión del riesgo de terceros y uso de herramientas de IA por proveedores

Ética, sesgo y explicabilidad

Detección y mitigación de sesgos en la percepción y el razonamiento del agente

Explicabilidad y transparencia como propiedades relevantes para la seguridad

Ecuidad, daños derivados y despliegue responsable

Diseño de comportamientos de agentes inclusivos y auditables

Despliegue en producción, monitoreo y respuesta a incidentes

Patrones de despliegue seguro para sistemas de agente único y multi-agente

Monitoreo continuo para detectar deriva, anomalías y abusos

Registro de logs, trazas de auditoría y preparación forense para las acciones del agente

Protocolos de respuesta a incidentes de seguridad de IA y recuperación

Casos de estudio de brechas reales de IA y lecciones aprendidas

Capstone y síntesis

Revisión del sistema multi-agente multimodal construido durante el curso

Revisión integral del pipeline: diseño, construcción, seguridad, gobernanza y despliegue

Autoevaluación del sistema frente a las funciones del NIST AI RMF

Perspectiva futura sobre tendencias emergentes en IA agéntica y seguridad de la IA

Resumen y próximos pasos

Requerimientos

Audiencia objetivo

Ingenieros y arquitectos de IA que desarrollan sistemas agénticos para uso en producción. Profesionales de ciberseguridad, riesgo y cumplimiento responsables de la garantía de calidad de IA en industrias reguladas como finanzas, salud y consultoría. Desarrolladores senior y líderes de soluciones que integran capacidades multimodales y multi-agente en plataformas empresariales.

 28 Horas

Número de participantes


Precio por participante

Reseñas (3)

Próximos cursos

Categorías Relacionadas