Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Visión general de las capacidades de optimización de CANN
- Cómo se maneja el rendimiento de la inferencia en CANN.
- Objetivos de optimización para sistemas de IA embebidos y en el extremo.
- Comprensión de la utilización de los núcleos AI (AI Core) y la asignación de memoria.
Uso del Motor de Gráficos para análisis
- Introducción al Motor de Gráficos y al proceso de ejecución.
- Visualización de gráficos de operadores y métricas en tiempo de ejecución.
- Modificación de gráficos computacionales para la optimización.
Herramientas de perfilado y métricas de rendimiento
- Uso de la herramienta de perfilado de CANN (profiler) para el análisis de la carga de trabajo.
- Análisis del tiempo de ejecución de kernels y de los cuellos de botella.
- Perfilado del acceso a la memoria y estrategias de segmentación (tiling).
Desarrollo de operadores personalizados con TIK
- Visión general de TIK y el modelo de programación de operadores.
- Implementación de un operador personalizado utilizando el DSL de TIK.
- Pruebas y evaluación del rendimiento del operador.
Optimización avanzada de operadores con TVM
\r- Introducción a la integración de TVM con CANN.
- Estrategias de ajuste automático para gráficos computacionales.
- Cuándo y cómo alternar entre TVM y TIK.
Técnicas de optimización de memoria
- Gestión de la disposición de la memoria y la colocación de buffers.
- Técnicas para reducir el consumo de memoria interna del chip.
- Mejores prácticas para la ejecución asíncrona y la reutilización.
Implementación en el mundo real y casos de estudio
- Caso de estudio: ajuste de rendimiento para el canal de procesamiento de cámaras de ciudad inteligente.
- Caso de estudio: optimización de la pila de inferencia para vehículos autónomos.
- Guías para el perfilado iterativo y la mejora continua.
Resumen y próximos pasos
Requerimientos
- Conocimiento sólido de las arquitecturas de modelos de aprendizaje profundo y los flujos de trabajo de entrenamiento.
- Experiencia en la implementación de modelos utilizando CANN, TensorFlow o PyTorch.
- Conocimiento de la línea de comandos de Linux, scripts de shell y programación en Python.
Audiencia objetivo
- Ingenieros de rendimiento de IA.
- Especialistas en optimización de inferencia.
- Desarrolladores que trabajan con IA en el extremo (edge AI) o sistemas en tiempo real.
14 Horas
