Ajuste fino de modelos y modelos de lenguaje grandes (LLM)

Introducción al ajuste fino

• ¿Qué es el ajuste fino?
• Casos de uso y beneficios del ajuste fino
• Resumen de modelos preentrenados y aprendizaje por transferencia

Preparación para el ajuste fino

• Recopilación y limpieza de conjuntos de datos
• Comprensión de los requisitos específicos de los datos según la tarea
• Análisis exploratorio de datos y preprocesamiento

Técnicas de ajuste fino

• Aprendizaje por transferencia y extracción de características
• Ajuste fino de transformadores con Hugging Face
• Ajuste fino para tareas supervisadas frente a no supervisadas

Ajuste fino de Modelos de Lenguaje Grandes (LLM)

• Adaptación de LLM para tareas de PLN (por ejemplo, clasificación de texto, resumen)
• Entrenamiento de LLM con conjuntos de datos personalizados
• Control del comportamiento de LLM mediante ingeniería de instrucciones (prompt engineering)

Optimización y evaluación

• Ajuste de hiperparámetros
• Evaluación del rendimiento del modelo
• Abordar el sobreajuste y el subajuste

Escalar los esfuerzos de ajuste fino

• Ajuste fino en sistemas distribuidos
• Aprovechar soluciones basadas en la nube para la escalabilidad
• Estudios de caso: proyectos de ajuste fino a gran escala

Mejores prácticas y desafíos

• Mejores prácticas para el éxito del ajuste fino
• Desafíos comunes y resolución de problemas
• Consideraciones éticas en el ajuste fino de modelos de IA

Tópicos avanzados (opcional)

• Ajuste fino de modelos multimodales
• Aprendizaje zero-shot y few-shot
• Exploración de técnicas LoRA (Adaptación de Bajo Rango)

Resumen y próximos pasos