Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Introducción al desarrollo de operadores personalizados
- ¿Por qué construir operadores personalizados? Casos de uso y limitaciones
- Estructura del tiempo de ejecución de CANN y puntos de integración de operadores
- Descripción general de TBE, TIK y TVM en el ecosistema de IA de Huawei
Utilización de TIK para la programación de operadores de bajo nivel
- Comprensión del modelo de programación de TIK y las API admitidas
- Gestión de memoria y estrategia de partición en TIK
- Creación, compilación y registro de un operador personalizado con CANN
Pruebas y validación de operadores personalizados
- Pruebas unitarias e integración de operadores en el grafo
- Depuración de problemas de rendimiento a nivel de núcleo
- Visualización de la ejecución del operador y el comportamiento de los búferes
Programación y optimización basada en TVM
- Descripción general de TVM como compilador para operadores tensoriales
- Escritura de una programación (schedule) para un operador personalizado en TVM
- Ajuste, evaluación comparativa y generación de código en TVM para Ascend
Integración con frameworks y modelos
- Registro de operadores personalizados para MindSpore y ONNX
- Verificación de la integridad del modelo y del comportamiento de respaldo
- Soporte para grafos con múltiples operadores usando precisión mixta
Estudios de caso y optimizaciones especializadas
- Estudio de caso: convolución de alta eficiencia para tamaños de entrada pequeños
- Estudio de caso: optimización de operadores de atención conscientes de la memoria
- Mejores prácticas en el despliegue de operadores personalizados en dispositivos
Resumen y próximos pasos
Requerimientos
- Sólidos conocimientos sobre el funcionamiento interno de los modelos de IA y el cálculo a nivel de operador
- Experiencia con entornos de desarrollo Python y Linux
- Familiaridad con compiladores de redes neuronales o optimizadores a nivel de grafo
Público objetivo
- Ingenieros de compiladores que trabajan en herramientas de IA
- Desarrolladores de sistemas centrados en la optimización de bajo nivel para IA
- Desarrolladores que crean operadores personalizados o que apuntan a cargas de trabajo de IA novedosas
14 Horas