Contacta con nosotros

Temario del curso

Fundamentos de una IA segura e imparcial

  • Conceptos clave: seguridad, sesgo, imparcialidad, transparencia
  • Tipos de sesgo: conjunto de datos, representación, algorítmico
  • Resumen de marcos regulatorios (Ley de IA de la UE, RGPD, etc.)

Sesgos en modelos ajustados finamente

  • Cómo el ajuste fino puede introducir o amplificar sesgos
  • Estudios de caso y fracasos en el mundo real
  • Identificación de sesgos en conjuntos de datos y predicciones del modelo

Técnicas para la mitigación de sesgos

  • Estrategias a nivel de datos (rebalanceo, aumento de datos)
  • Estrategias durante el entrenamiento (regularización, debiasing adversarial)
  • Estrategias post-procesamiento (filtrado de salida, calibración)

Seguridad y robustez del modelo

  • Detección de salidas inseguras o dañinas
  • Manejo de entradas adversariales
  • Evaluaciones con equipos rojos (red teaming) y pruebas de estrés en modelos ajustados finamente

Auditoría y monitoreo de sistemas de IA

  • Métricas de evaluación de sesgo e imparcialidad (ej. paridad demográfica)
  • Herramientas de explicabilidad y marcos de transparencia
  • Monitoreo continuo y prácticas de gobernanza

Kits de herramientas y práctica manual

  • Uso de bibliotecas de código abierto (ej. Fairlearn, Transformers, CheckList)
  • Práctica: Detección y mitigación de sesgos en un modelo ajustado finamente
  • Generación de salidas seguras mediante diseño de prompts y restricciones

Casos de uso empresarial y preparación para el cumplimiento

  • Mejores prácticas para integrar la seguridad en flujos de trabajo de LLMs
  • Documentación y tarjetas de modelo para el cumplimiento normativo
  • Preparación para auditorías y revisiones externas

Resumen y próximos pasos

Requerimientos

  • Comprensión de los modelos de aprendizaje automático y los procesos de entrenamiento
  • Experiencia trabajando con ajuste fino y modelos de lenguaje grandes (LLMs)
  • Conocimiento familiar de Python y conceptos de procesamiento de lenguaje natural (NLP)

Público objetivo

  • Equipos de cumplimiento de IA
  • Ingenieros de aprendizaje automático
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas