Construcción de Aplicaciones Seguras y Responsables con LLMs

Resumen de la Arquitectura y Superficie de Ataque de los LLMs

• Cómo se construyen, despliegan y acceden a los LLMs a través de APIs.
• Componentes clave en las pilas de aplicaciones con LLM (por ejemplo, instrucciones, agentes, memoria, APIs).
• Dónde y cómo surgen los problemas de seguridad en el uso del mundo real.

Inyección de Instrucciones y Ataques de Bypass de Seguridad (Jailbreak)

• Qué es la inyección de instrucciones y por qué es peligrosa.
• Escenarios de inyección directa e indirecta de instrucciones.
• Técnicas de bypass de seguridad para eludir los filtros de seguridad.
• Estrategias de detección y mitigación.

Filtración de Datos y Riesgos de Privacidad

• Exposición accidental de datos a través de las respuestas.
• Filtraciones de información personal identificable (PII) y mal uso de la memoria del modelo.
• Diseño de instrucciones respetuosas con la privacidad y generación aumentada por recuperación (RAG).

Filtrado y Protección de las Salidas de los LLMs

• Uso de Guardrails AI para el filtrado y validación de contenido.
• Definición de esquemas de salida y restricciones.
• Monitoreo y registro de salidas inseguras.

Enfoques de Supervisión Humana en el Ciclo (Human-in-the-Loop) y de Flujo de Trabajo

• Dónde y cuándo introducir la supervisión humana.
• Filas de aprobación, umbrales de puntuación y manejo de errores de respaldo.
• Calibración de la confianza y el papel de la explicabilidad.

Patrones de Diseño Seguro para Aplicaciones con LLM

• Principio de mínimo privilegio y aislamiento en sandbox para llamadas de API y agentes.
• Límites de velocidad, limitación y detección de abusos.
• Cadenas robustas con LangChain y aislamiento de instrucciones.

Cumplimiento, Registro y Gobernanza

• Garantizar la audibilidad de las salidas de los LLMs.
• Mantener la trazabilidad y el control de versiones de instrucciones.
• Alinear con las políticas de seguridad internas y necesidades regulatorias.

Resumen y Próximos Pasos