Creación de operadores de IA personalizados con CANN TIK y TVM

Introducción al Desarrollo de Operadores Personalizados

• ¿Por qué construir operadores personalizados? Casos de uso y restricciones
• Estructura del runtime de CANN y puntos de integración de operadores
• Visión general de TBE, TIK y TVM en el ecosistema de IA de Huawei

Uso de TIK para Programación de Operadores a Nivel Bajo

• Comprensión del modelo de programación TIK y las APIs soportadas
• Gestión de memoria y estrategia de rebanado (tiling) en TIK
• Creación, compilación y registro de una operación personalizada con CANN

Pruebas y Validación de Operaciones Personalizadas

• Pruebas unitarias y de integración de operadores en el grafo
• Depuración de problemas de rendimiento a nivel de núcleo (kernel)
• Visualización de la ejecución de operadores y el comportamiento de los buffers

Programación (Scheduling) y Optimización Basadas en TVM

• Visión general de TVM como compilador para operaciones de tensores
• Escritura de una programación (schedule) para una operación personalizada en TVM
• Ajuste (tuning), benchmarking y generación de código de TVM para Ascend

Integración con Marcos (Frameworks) y Modelos

• Registro de operaciones personalizadas para MindSpore y ONNX
• Verificación de la integridad del modelo y el comportamiento de respaldo (fallback)
• Soporte para grafos de múltiples operadores con precisión mixta

Estudios de Caso y Optimizaciones Especializadas

• Estudio de caso: convolución de alta eficiencia para formas de entrada pequeñas
• Estudio de caso: optimización de operador de atención con conciencia de memoria
• Mejores prácticas en el despliegue de operaciones personalizadas entre dispositivos

Resumen y Próximos Pasos