Contacta con nosotros

Temario del curso

Fundamentos de la Ética en Sistemas Autónomos

  • Definición de autonomía en agentes de IA
  • Principales teorías éticas aplicadas al comportamiento de la máquina
  • Perspectivas de los grupos interesados y diseño sensible a los valores

Riesgos Sociales y Casos de Uso de Alto Riesgo

  • Agentes autónomos en seguridad pública, salud y defensa
  • Colaboración humano-IA y límites de confianza
  • Escenarios de consecuencias no deseadas y amplificación de riesgos

Panorama Legal y Regulatorio

  • Visión general de la legislación y tendencias de políticas de IA (Reglamento de IA de la UE, NIST, OCDE)
  • Rendición de cuentas, responsabilidad legal y personalidad jurídica de los agentes de IA
  • Iniciativas globales de gobernanza y vacíos regulatorios

Explicabilidad y Transparencia en las Decisiones

  • Desafíos de la toma de decisiones autónoma de caja negra
  • Diseño para agentes explicables y auditables
  • Herramientas y marcos de transparencia (por ejemplo, tarjetas de modelo, hojas de datos)

Alineación, Control y Responsabilidad Moral

  • Estrategias de alineación de IA para el comportamiento del agente
  • Paradigmas de control con humano en el bucle versus humano sobre el bucle
  • Responsabilidad compartida entre diseñadores, usuarios e instituciones

Evaluación y Mitigación de Riesgos Éticos

  • Mapeo de riesgos y análisis de fallos críticos en el diseño de agentes
  • Medidas de seguridad y mecanismos de apagado
  • Auditoría de sesgo, discriminación e imparcialidad

Diseño de Gobernanza y Supervisión Institucional

  • Principios de gobernanza responsable de IA
  • Modelos de supervisión multisectorial y auditorías
  • Diseño de marcos de cumplimiento para agentes autónomos

Resumen y Próximos Pasos

Requerimientos

  • Comprensión de sistemas de IA y fundamentos del aprendizaje automático
  • Familiaridad con agentes autónomos y sus aplicaciones
  • Conocimiento de marcos éticos y legales en políticas tecnológicas

Público Objetivo

  • Éticos de IA (AI ethicists)
  • Tomadores de decisiones y reguladores
  • Profesionales e investigadores avanzados en IA
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas