Curso de Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs
Parameter-Efficient Fine-Tuning (PEFT) is a collection of techniques that enable efficient adaptation of large language models (LLMs) by modifying only a small subset of parameters.
This instructor-led, live training (online or onsite) is aimed at intermediate-level data scientists and AI engineers who wish to fine-tune large language models more affordably and efficiently using methods like LoRA, Adapter Tuning, and Prefix Tuning.
By the end of this training, participants will be able to:
- Understand the theory behind parameter-efficient fine-tuning approaches.
- Implement LoRA, Adapter Tuning, and Prefix Tuning using Hugging Face PEFT.
- Compare performance and cost trade-offs of PEFT methods vs. full fine-tuning.
- Deploy and scale fine-tuned LLMs with reduced compute and storage requirements.
Format of the Course
- Interactive lecture and discussion.
- Lots of exercises and practice.
- Hands-on implementation in a live-lab environment.
Course Customization Options
- To request a customized training for this course, please contact us to arrange.
Programa del Curso
Introduction to Parameter-Efficient Fine-Tuning (PEFT)
- Motivation and limitations of full fine-tuning
- Overview of PEFT: goals and benefits
- Applications and use cases in industry
LoRA (Low-Rank Adaptation)
- Concept and intuition behind LoRA
- Implementing LoRA using Hugging Face and PyTorch
- Hands-on: Fine-tuning a model with LoRA
Adapter Tuning
- How adapter modules work
- Integration with transformer-based models
- Hands-on: Applying Adapter Tuning to a transformer model
Prefix Tuning
- Using soft prompts for fine-tuning
- Strengths and limitations compared to LoRA and adapters
- Hands-on: Prefix Tuning on an LLM task
Evaluating and Comparing PEFT Methods
- Metrics for evaluating performance and efficiency
- Trade-offs in training speed, memory usage, and accuracy
- Benchmarking experiments and result interpretation
Deploying Fine-Tuned Models
- Saving and loading fine-tuned models
- Deployment considerations for PEFT-based models
- Integrating into applications and pipelines
Best Practices and Extensions
- Combining PEFT with quantization and distillation
- Use in low-resource and multilingual settings
- Future directions and active research areas
Summary and Next Steps
Requerimientos
- An understanding of machine learning fundamentals
- Experience working with large language models (LLMs)
- Familiarity with Python and PyTorch
Audience
- Data scientists
- AI engineers
Los cursos de formación abiertos requieren más de 5 participantes.
Curso de Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs - Booking
Curso de Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs - Enquiry
Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs - Consultas
Consultas
Próximos cursos
Cursos Relacionados
Advanced Techniques in Transfer Learning
14 HorasEsta capacitación en vivo dirigida por un instructor en Venezuela (en línea o presencial) está dirigida a profesionales del aprendizaje automático de nivel avanzado que desean dominar técnicas de transferencia de aprendizaje de vanguardia y aplicarlas a problemas complejos del mundo real.
Al final de esta formación, los participantes serán capaces de:
- Comprender conceptos y metodologías avanzadas en el aprendizaje por transferencia.
- Implemente técnicas de adaptación específicas del dominio para modelos previamente entrenados.
- Aplique el aprendizaje continuo para gestionar tareas y conjuntos de datos en evolución.
- Domine el ajuste multitarea para mejorar el rendimiento del modelo en todas las tareas.
AI Automation with n8n and LangChain
14 HorasEsta capacitación en vivo dirigida por un instructor en Venezuela (en línea o en el sitio) está dirigida a desarrolladores y profesionales de TI de todos los niveles de habilidad que deseen automatizar tareas y procesos utilizando IA sin escribir código extenso.
Al final de esta capacitación, los participantes serán capaces de:
- Diseñe e implemente flujos de trabajo complejos utilizando la interfaz de programación visual de n8n.
- Integre las capacidades de IA en los flujos de trabajo mediante LangChain.
- Cree chatbots y asistentes virtuales personalizados para varios casos de uso.
- Realice análisis y procesamiento avanzados de datos con agentes de IA.
Automating Workflows with LangChain and APIs
14 HorasEsta capacitación en vivo dirigida por un instructor en Venezuela (en línea o presencial) está dirigida a analistas de negocios e ingenieros de automatización de nivel principiante que deseen comprender cómo usar LangChain y las API para automatizar tareas y flujos de trabajo repetitivos.
Al final de esta formación, los participantes serán capaces de:
- Comprenda los conceptos básicos de la integración de API con LangChain.
- Automatice los flujos de trabajo repetitivos con LangChain y Python.
- Utilice LangChain para conectar varias API para procesos empresariales eficientes.
- Cree y automatice flujos de trabajo personalizados utilizando las API y las capacidades de automatización de LangChain.
Building Conversational Agents with LangChain
14 HorasEsta capacitación en vivo dirigida por un instructor en Venezuela (en línea o presencial) está dirigida a profesionales de nivel intermedio que desean profundizar su comprensión de los agentes conversacionales y aplicar LangChain a casos de uso del mundo real.
Al final de esta formación, los participantes serán capaces de:
- Comprender los fundamentos de LangChain y su aplicación en la creación de agentes conversacionales.
- Desarrolle e implemente agentes conversacionales con LangChain.
- Integre agentes conversacionales con API y servicios externos.
- Aplicar Natural Language Processing (NLP) técnicas para mejorar el rendimiento de los agentes conversacionales.
Building Private AI Workflows with Ollama
14 HorasEste entrenamiento dirigido por un instructor, en vivo en Venezuela (en línea o en sitio), está dirigido a profesionales de nivel avanzado que deseen implementar flujos de trabajo seguros y eficientes impulsados por inteligencia artificial utilizando Ollama.
Al finalizar este entrenamiento, los participantes serán capaces de:
- Desplegar y configurar Ollama para el procesamiento de IA privada.
- Integrar modelos de IA en flujos de trabajo empresariales seguros.
- Optimizar el rendimiento de la IA manteniendo la privacidad de los datos.
- Automatizar procesos empresariales con capacidades de IA en las instalaciones.
- Garantizar el cumplimiento de las políticas de seguridad y gobernanza empresarial.
Deploying Fine-Tuned Models in Production
21 HorasEsta capacitación en vivo dirigida por un instructor en Venezuela (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean implementar modelos ajustados de manera confiable y eficiente.
Al final de esta formación, los participantes serán capaces de:
- Comprenda los desafíos de implementar modelos ajustados en producción.
- Incluya e implemente modelos en contenedores con herramientas como Docker y Kubernetes.
- Implemente la supervisión y el registro para los modelos implementados.
- Optimice los modelos para la latencia y la escalabilidad en escenarios del mundo real.
Deploying and Optimizing LLMs with Ollama
14 HorasEste entrenamiento dirigido por un instructor, en vivo en Venezuela (en línea o presencial), está dirigido a profesionales de nivel intermedio que deseen implementar, optimizar e integrar LLMs utilizando Ollama.
Al finalizar este entrenamiento, los participantes podrán:
- Configurar e implementar LLMs utilizando Ollama.
- Optimizar modelos de IA para mejorar el rendimiento y la eficiencia.
- Aprovechar la aceleración de GPU para mejorar la velocidad de inferencia.
- Integrar Ollama en flujos de trabajo y aplicaciones.
- Monitorear y mantener el rendimiento de los modelos de IA a lo largo del tiempo.
Ethical Considerations in AI Development with LangChain
21 HorasEsta capacitación en vivo dirigida por un instructor en Venezuela (en línea o presencial) está dirigida a investigadores de IA de nivel avanzado y responsables políticos que deseen explorar las implicaciones éticas del desarrollo de la IA y aprender a aplicar las pautas éticas al crear soluciones de IA con LangChain.
Al final de esta formación, los participantes serán capaces de:
- Identifique los problemas éticos clave en el desarrollo de la IA con LangChain.
- Comprender el impacto de la IA en la sociedad y en los procesos de toma de decisiones.
- Desarrollar estrategias para crear sistemas de IA justos y transparentes.
- Implemente directrices éticas de IA en proyectos basados en LangChain.
Enhancing User Experience with LangChain in Web Apps
14 HorasEsta capacitación en vivo dirigida por un instructor en Venezuela (en línea o en el sitio) está dirigida a desarrolladores web de nivel intermedio y diseñadores de UX que desean aprovechar LangChain para crear aplicaciones web intuitivas y fáciles de usar.
Al final de esta formación, los participantes serán capaces de:
- Comprender los conceptos fundamentales de LangChain y su papel en la mejora de la experiencia del usuario web.
- Implemente LangChain en aplicaciones web para crear interfaces dinámicas y receptivas.
- Integre las API en las aplicaciones web para mejorar la interactividad y la participación de los usuarios.
- Optimice la experiencia del usuario utilizando las funciones de personalización avanzadas de LangChain.
- Analice los datos de comportamiento de los usuarios para ajustar el rendimiento y la experiencia de las aplicaciones web.
Fine-Tuning and Customizing AI Models on Ollama
14 HorasEste entrenamiento dirigido por un instructor, en vivo en Venezuela (en línea o en sitio), está dirigido a profesionales de nivel avanzado que desean ajustar y personalizar modelos de IA en Ollama para mejorar el rendimiento y aplicaciones específicas del dominio.
Al finalizar este entrenamiento, los participantes podrán:
- Configurar un entorno eficiente para el ajuste fino de modelos de IA en Ollama.
- Preparar conjuntos de datos para el ajuste fino supervisado y el aprendizaje por refuerzo.
- Optimizar modelos de IA para mejorar el rendimiento, la precisión y la eficiencia.
- Implementar modelos personalizados en entornos de producción.
- Evaluar las mejoras del modelo y garantizar su robustez.
LangChain: Building AI-Powered Applications
14 HorasEsta capacitación en vivo dirigida por un instructor en Venezuela (en línea o en el sitio) está dirigida a desarrolladores e ingenieros de software de nivel intermedio que deseen crear aplicaciones impulsadas por IA utilizando el marco LangChain.
Al final de esta capacitación, los participantes serán capaces de:
- Comprender los fundamentos de LangChain y sus componentes.
- Integre LangChain con modelos de lenguaje grandes (LLM) como GPT-4.
- Cree aplicaciones modulares de IA con LangChain.
- Solucione problemas comunes en las aplicaciones de LangChain.
Integrating LangChain with Cloud Services
14 HorasEsta capacitación en vivo dirigida por un instructor en Venezuela (en línea o presencial) está dirigida a ingenieros de datos de nivel avanzado y DevOps profesionales que deseen aprovechar las capacidades de LangChain integrándola con varios servicios en la nube.
Al final de esta formación, los participantes serán capaces de:
- Integre LangChain con las principales plataformas en la nube, como AWS, Azure y Google Cloud.
- Utilice API y servicios basados en la nube para mejorar las aplicaciones con tecnología LangChain.
- Escale e implemente agentes conversacionales en la nube para la interacción en tiempo real.
- Implemente las mejores prácticas de supervisión y seguridad en entornos de nube.
LangChain for Data Analysis and Visualization
14 HorasEsta capacitación en vivo dirigida por un instructor en Venezuela (en línea o presencial) está dirigida a profesionales de datos de nivel intermedio que desean utilizar LangChain para mejorar sus capacidades de análisis y visualización de datos.
Al final de esta formación, los participantes serán capaces de:
- Automatice la recuperación y limpieza de datos mediante LangChain.
- Realice análisis de datos avanzados utilizando Python y LangChain.
- Cree visualizaciones con Matplotlib y otras bibliotecas Python integradas con LangChain.
- Aproveche LangChain para generar información sobre el lenguaje natural a partir del análisis de datos.
LangChain Fundamentals
14 HorasEsta capacitación en vivo dirigida por un instructor en Venezuela (en línea o en el sitio) está dirigida a desarrolladores e ingenieros de software de nivel principiante a intermedio que deseen aprender los conceptos básicos y la arquitectura de LangChain y adquirir las habilidades prácticas para crear aplicaciones impulsadas por IA.
Al final de esta capacitación, los participantes serán capaces de:
- Comprender los principios fundamentales de LangChain.
- Instale y configure el entorno de LangChain.
- Comprenda la arquitectura y cómo LangChain interactúa con grandes modelos de lenguaje (LLM).
- Desarrolle aplicaciones sencillas con LangChain.
Getting Started with Ollama: Running Local AI Models
7 HorasEste entrenamiento dirigido por un instructor, en vivo en Venezuela (en línea o en sitio) está dirigido a profesionales de nivel principiante que deseen instalar, configurar y utilizar Ollama para ejecutar modelos de IA en sus máquinas locales.
Al finalizar este entrenamiento, los participantes podrán:
- Comprender los fundamentos de Ollama y sus capacidades.
- Configurar Ollama para ejecutar modelos de IA locales.
- Implementar e interactuar con LLMs utilizando Ollama.
- Optimizar el rendimiento y el uso de recursos para cargas de trabajo de IA.
- Explorar casos de uso para la implementación de IA local en diversas industrias.