Contacta con nosotros

Temario del curso

Visión general de la arquitectura de LLM y la superficie de ataque

  • Cómo se construyen, despliegan y acceden a los LLM a través de APIs.
  • Componentes clave en las capas de aplicaciones con LLM (por ejemplo, instrucciones, agentes, memoria, APIs).
  • Dónde y cómo surgen los problemas de seguridad en el uso real.

Inyección de instrucciones y ataques de elusión de seguridad (Jailbreak)

  • Qué es la inyección de instrucciones y por qué es peligrosa.
  • Escenarios de inyección directa e indirecta de instrucciones.
  • Técnicas de elusión de seguridad para saltarse los filtros de seguridad.
  • Estrategias de detección y mitigación.

Filtración de datos y riesgos de privacidad

  • Exposición accidental de datos a través de las respuestas.
  • Filtración de datos personales (PII) y uso indebido de la memoria del modelo.
  • Diseño de instrucciones conscientes de la privacidad y generación aumentada por recuperación (RAG).

Filtrado y protección de la salida de LLM

  • Uso de Guardrails AI para el filtrado y validación de contenido.
  • Definición de esquemas y restricciones de salida.
  • Monitoreo y registro de salidas inseguras.

Enfoques de supervisión humana (Human-in-the-Loop) y flujos de trabajo

  • Dónde y cuándo introducir la supervisión humana.
  • Colas de aprobación, umbrales de puntuación y gestión de errores.
  • Calibración de confianza y el papel de la explicabilidad.

Patrones de diseño seguro para aplicaciones con LLM

  • Principio de privilegio mínimo y aislamiento para llamadas a APIs y agentes.
  • Limitación de tasa, control de velocidad y detección de abusos.
  • Encadenamiento robusto con LangChain y aislamiento de instrucciones.

Cumplimiento, registro y gobernanza

  • Asegurar la auditoría de las salidas de LLM.
  • Mantener la trazabilidad y el control de versiones de instrucciones.
  • Alinear con las políticas de seguridad internas y los requisitos normativos.

Resumen y próximos pasos

Requerimientos

  • Conocimiento de los modelos de lenguaje grandes y las interfaces basadas en instrucciones.
  • Experiencia en el desarrollo de aplicaciones con LLM utilizando Python.
  • Conocimiento de las integraciones de APIs y despliegues en la nube.

Público objetivo

  • Desarrolladores de IA.
  • Arquitectos de aplicaciones y soluciones.
  • Gestores de producto técnicos que trabajan con herramientas LLM.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas