Temario del curso
IA en la Empresa: Perspectivas Estratégicas y Legales
- Adopción de IA en funciones comerciales clave: oportunidades y riesgos
- Responsabilidad ejecutiva en la gobernanza de IA
- Sistemas de IA de alto riesgo y exposición organizacional
Clasificación de Riesgos de IA y Panorama Regulatorio Global
- Ley de IA de la UE: niveles de riesgo, requisitos, sanciones
- Orden Ejecutiva de EE. UU. sobre IA y normas federales/estatales emergentes
- Cumplimiento normativo relacionado con la IA dentro del RGPD, HIPAA y otros marcos
- Descripción general de ISO/IEC 42001, NIST AI RMF, Principios de IA de la OCDE
Seguridad y Supervisión de Sistemas de IA
- Postura de seguridad de IA: amenazas, vulnerabilidades y salvaguardas
- Respuesta ante incidentes y notificación de brechas en flujos de trabajo impulsados por IA
- Auditoría y trazabilidad de entradas del modelo, decisiones y resultados
Adquisición Responsable de IA y Riesgos de Proveedores
- Debida diligencia al adquirir herramientas de IA (incluidas LLMs y APIs)
- Elementos clave del contrato: propiedad de datos, explicabilidad del modelo, Acuerdos de Nivel de Servicio (SLAs)
- Evaluación de afirmaciones de proveedores: mitigación de sesgos, garantías de privacidad, seguridad
Marcos de Gobernanza Interna y Controles Organizacionales
- Creación de políticas de uso de IA en diversos departamentos
- Comités de ética, juntas de revisión de riesgos y supervisión interfuncional
- Capacitación, documentación e integración del cumplimiento normativo
Evaluación de Casos de Uso y Escenarios de Riesgo
- Evaluación de casos de uso de alto impacto (por ejemplo, selección de RR. HH., calificación financiera, chatbots de atención al cliente)
- Herramientas y plantillas para evaluaciones de riesgo de IA
- Escenarios: desalineación, deriva, alucinaciones, discriminación
Tendencias Emergentes y Consideraciones Futuras
- Anticipar la evolución regulatoria y la convergencia global
- Riesgos específicos de IA Generativa y extensiones de gobernanza
- Escalamiento responsable de las operaciones de IA en la empresa
Resumen y Próximos Pasos
Requerimientos
- Comprensión de marcos de riesgos empresariales, legales o tecnológicos
- Experiencia en liderazgo ejecutivo, ciberseguridad o supervisión del cumplimiento normativo
- No se requiere conocimiento técnico previo sobre el desarrollo de IA
Público Objetivo
- Directores de Seguridad de la Información (CISOs)
- Asesores legales y oficiales de cumplimiento normativo
- Directores de Tecnología (CTOs)
Reseñas (2)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática