Temario del curso
Introducción a la contenerización acelerada por GPU
- Comprensión del uso de GPU en flujos de trabajo de aprendizaje profundo.
- Cómo Docker soporta cargas de trabajo basadas en GPU.
- Consideraciones clave de rendimiento.
Instalación y configuración de NVIDIA Container Toolkit
- Configuración de controladores y compatibilidad con CUDA.
- Validación del acceso a GPU dentro de los contenedores.
- Configuración del entorno de tiempo de ejecución.
Construcción de imágenes Docker habilitadas para GPU
- Uso de imágenes base de CUDA.
- Empaquetado de marcos de IA en contenedores listos para GPU.
- Gestión de dependencias para entrenamiento e inferencia.
Ejecución de cargas de trabajo de IA aceleradas por GPU
- Ejecución de trabajos de entrenamiento utilizando GPU.
- Gestión de cargas de trabajo multi-GPU.
- Monitoreo de la utilización de GPU.
Optimización del rendimiento y la asignación de recursos
- Limitación y aislamiento de recursos de GPU.
- Optimización de memoria, tamaños de lote y ubicación de dispositivos.
- Ajuste de rendimiento y diagnóstico.
Inferencia contenerizada y servicio de modelos
- Construcción de contenedores listos para inferencia.
- Servicio de cargas de trabajo de alta demanda en GPU.
- Integración de ejecutores de modelos y APIs.
Escalar cargas de trabajo de GPU con Docker
- Estrategias para el entrenamiento distribuido de GPU.
- Escala de microservicios de inferencia.
- Coordinación de sistemas de IA multi-contenedor.
Seguridad y confiabilidad para contenedores habilitados para GPU
- Aseguramiento de un acceso seguro a GPU en entornos compartidos.
- Endurecimiento de las imágenes de contenedores.
- Gestión de actualizaciones, versiones y compatibilidad.
Resumen y próximos pasos
Requerimientos
- Comprensión de los fundamentos del aprendizaje profundo.
- Experiencia con Python y marcos de trabajo comunes de IA.
- Conocimiento de los conceptos básicos de contenerización.
Público Objetivo
- Ingenieros de aprendizaje profundo.
- Equipos de investigación y desarrollo.
- Entrenadores de modelos de IA.
Reseñas (3)
Cómo los formadores transmiten el conocimiento de manera efectiva
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Traducción Automática
el formador tenía mucho conocimiento y paciencia para compartir con nosotros
Bogdan Olaru
Curso - Introduction to Docker
Traducción Automática
El conocimiento y los intercambios con Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curso - Docker and Kubernetes
Traducción Automática
