Ollama: Modelos de Lenguaje Grande Autohospedados que Reemplazan las APIs de OpenAI y Claude
Ollama es una herramienta de código abierto para ejecutar modelos de lenguaje grande (LLM) localmente en hardware de consumo y empresarial. Abstrae la cuantización de modelos, la asignación de GPU y el servicio de API en una única interfaz de línea de comandos, lo que permite a las organizaciones autohospedar LLMs como Llama, Mistral y Qwen sin enviar sugerencias (prompts) ni datos a OpenAI, Anthropic o Google.
Esta formación en vivo con instrucción directa (en línea o presencial) está dirigida a ingenieros de IA intermedios y operadores de plataforma que desean usar Ollama para reemplazar las APIs de LLM en la nube con inferencia de modelos de lenguaje autohospedada y soberana.
Al finalizar esta formación, los participantes serán capaces de:
- Instalar Ollama en Linux, macOS y Windows con soporte para GPU.
- Descargar (pull), cuantizar y servir modelos desde el registro de Ollama y HuggingFace.
- Crear Modelfiles personalizados con sugerencias del sistema y ajuste de parámetros.
- Integrar LLMs locales con aplicaciones a través de la API compatible con OpenAI.
- Optimizar el rendimiento de inferencia para configuraciones solo con CPU y con múltiples GPUs.
Formato del Curso
- Clase interactiva y discusión.
- Muchas ejercicios y práctica.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de Personalización del Curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinarlo.
Temario del curso
Soberanía de IA y Despliegue Local de LLMs
- Riesgos de los LLMs en la nube: retención de datos, entrenamiento con entradas, jurisdicción extranjera.
- Arquitectura de Ollama: servidor de modelos, registro y API compatible con OpenAI.
- Comparación con vLLM, llama.cpp y Text Generation Inference.
- Licencias de modelos: términos de Llama, Mistral, Qwen y Gemma.
Instalación y Configuración de Hardware
- Instalación de Ollama en Linux con soporte para CUDA y ROCm.
- Fallo a CPU únicamente y optimización AVX/AVX2.
- Despliegue en Docker y mapeo de volúmenes persistentes.
- Configuración multi-GPU y estrategias de asignación de VRAM.
Gestión de Modelos
- Descarga (pull) de modelos desde el registro de Ollama: ollama pull llama3.
- Importación de modelos GGUF desde HuggingFace y TheBloke.
- Niveles de cuantización: compensaciones entre Q4_K_M, Q5_K_M, Q8_0.
- Cambio de modelos y límites de carga concurrente de modelos.
Modelfiles Personalizados
- Escribir sintaxis de Modelfile: FROM, PARAMETER, SYSTEM, TEMPLATE.
- Ajuste de temperatura, top_p y repeat_penalty.
- Ingeniería de sugerencias del sistema para comportamientos específicos por rol.
- Crear y publicar modelos personalizados en el registro local.
Integración de API
- Endpoint /v1/chat/completions compatible con OpenAI.
- Respuestas en streaming y modo JSON.
- Integración con LangChain, LlamaIndex y aplicaciones personalizadas.
- Autenticación y limitación de velocidad (rate limiting) con proxy inverso.
Optimización del Rendimiento
- Tamaño de la ventana de contexto y gestión del caché KV.
- Inferencia por lotes y manejo paralelo de solicitudes.
- Asignación de hilos de CPU y conciencia de NUMA.
- Monitoreo de uso de GPU y presión de memoria.
Seguridad y Cumplimiento
- Aislamiento de red para los puntos finales de servicio de modelos.
- Pipelines de filtrado de entradas y moderación de salidas.
- Registro de auditoría de sugerencias (prompts) y completados.
- Procedencia de modelos y verificación de hashes.
Requerimientos
- Administración intermedia de Linux y contenedores.
- Comprensión de modelos de aprendizaje automático y transformers a un nivel alto.
- Familiaridad con APIs REST y JSON.
Público Objetivo
- Ingenieros de IA y desarrolladores que reemplazan las APIs de LLM en la nube.
- Organizaciones con sensibilidad de datos que impide el uso de modelos en la nube.
- Equipos gubernamentales y de defensa que requieren modelos de lenguaje aislados (air-gapped).
Los cursos públicos requieren más de 5 participantes.
Ollama: Modelos de Lenguaje Grande Autohospedados que Reemplazan las APIs de OpenAI y Claude - Reserva
Ollama: Modelos de Lenguaje Grande Autohospedados que Reemplazan las APIs de OpenAI y Claude - Consulta
Ollama: Modelos de Lenguaje Grande Autohospedados que Reemplazan las APIs de OpenAI y Claude - Solicitud de consultoría
Próximos cursos
Cursos Relacionados
Depuración y evaluación avanzadas de modelos de Ollama
35 HorasLa depuración y evaluación avanzadas de modelos de Ollama es un curso en profundidad centrado en diagnosticar, probar y medir el comportamiento de los modelos al implementar despliegues locales o privados de Ollama.
Esta formación impartida por un instructor (en línea o presencial) está dirigida a ingenieros de IA de nivel avanzado, profesionales de MLOps y especialistas en QA que deseen garantizar la fiabilidad, fidelidad y preparación operativa de los modelos basados en Ollama en entornos de producción.
Al finalizar esta formación, los participantes serán capaces de:
- Realizar una depuración sistemática de los modelos alojados en Ollama y reproducir fallos de manera fiable.
- Diseñar y ejecutar pipelines de evaluación robustos con métricas cuantitativas y cualitativas.
- Implementar observabilidad (registros, trazas, métricas) para monitorizar la salud del modelo y su deriva.
- Automatizar pruebas, validaciones y verificaciones de regresión integradas en pipelines CI/CD.
Formato del curso
- Clases interactivas y discusión.
- Laboratorios prácticos y ejercicios de depuración con despliegues de Ollama.
- Casos de estudio, sesiones grupales de resolución de problemas y talleres de automatización.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, contáctenos para coordinarlo.
Construcción de flujos de trabajo privados de IA con Ollama
14 HorasEsta formación en vivo dirigida por instructores en Venezuela (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean implementar flujos de trabajo basados en IA seguros y eficientes utilizando Ollama.
Al finalizar esta formación, los participantes podrán:
- Desplegar y configurar Ollama para el procesamiento de IA privada.
- Integrar modelos de IA en flujos de trabajo empresariales seguros.
- Optimizar el rendimiento de la IA manteniendo la privacidad de los datos.
- Automatizar procesos empresariales con capacidades de IA en instalaciones propias (on-premise).
- Asegurar el cumplimiento de las políticas de seguridad y gobernanza corporativa.
Implementación y optimización de LLM con Ollama
14 HorasEsta formación en vivo con instructor en Venezuela (en línea o presencial) está dirigida a profesionales de nivel intermedio que deseen implementar, optimizar e integrar LLM utilizando Ollama.
Al finalizar esta formación, los participantes podrán:
- Configurar y desplegar LLM usando Ollama.
- Optimizar modelos de IA para mejorar su rendimiento y eficiencia.
- Aprovechar la aceleración por GPU para obtener velocidades de inferencia superiores.
- Integrar Ollama en flujos de trabajo y aplicaciones.
- Monitorear y mantener el rendimiento de los modelos de IA a lo largo del tiempo.
EXO: Implementación de un clúster de IA local de extremo a extremo
21 HorasEsta formación en vivo y dirigida por un instructor en Venezuela (en línea o presencial) está orientada a administradores de sistemas e ingenieros DevOps que deseen implementar, configurar y gestionar clústeres EXO para la inferencia privada de LLMs en múltiples nodos con chip Apple Silicon o Linux.
EXO para DevOps: Construcción de Infraestructura Privada de IA
21 HorasEsta formación en vivo con instructores en Venezuela (en línea o presencial) está dirigida a ingenieros de DevOps y arquitectos de infraestructura que deseen automatizar el aprovisionamiento, monitoreo y gestión del ciclo de vida de clústeres privados de IA basados en EXO.
Seguridad y gobernanza de EXO: Gestión de modelos sin conexión
14 HorasEsta formación impartida por un instructor, en vivo, en Venezuela (en línea o presencial), está dirigida a ingenieros de seguridad y oficiales de cumplimiento que deseen endurecer las implementaciones de EXO, controlar el acceso a los modelos y gobernar las cargas de trabajo de IA que se ejecutan completamente en instalaciones propias.
Ajuste Fino y Personalización de Modelos de IA en Ollama
14 HorasEsta formación en vivo impartida por un instructor en Venezuela (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean realizar ajuste fino y personalizar modelos de IA en Ollama para mejorar el rendimiento y aplicar soluciones específicas del dominio.
Al finalizar esta formación, los participantes serán capaces de:
- Configurar un entorno eficiente para realizar ajuste fino de modelos de IA en Ollama.
- Preparar conjuntos de datos para el ajuste fino supervisado y el aprendizaje por refuerzo.
- Optimizar los modelos de IA en términos de rendimiento, precisión y eficiencia.
- Desplegar modelos personalizados en entornos de producción.
- Evaluar las mejoras de los modelos y garantizar su robustez.
Agentic AI local y seguro: Desarrollo con Ollama en instalaciones para industrias reguladas
21 HorasEsta formación en vivo, impartida por un instructor, en Venezuela (en línea o en las instalaciones), está dirigida a desarrolladores y equipos técnicos que desean utilizar Ollama y modelos abiertos para crear e implementar soluciones de IA agéntica privadas en su infraestructura interna.
Al finalizar esta formación, los participantes podrán: instalar y configurar Ollama, evaluar y ejecutar modelos locales, crear flujos de trabajo agénticos y basados en recuperación simples, y aplicar controles de seguridad y gobernanza para entornos regulados.
Aplicaciones multimodales con Ollama
21 HorasOllama es una plataforma que permite ejecutar y ajustar modelos de lenguaje grande y multimodales localmente.
Esta formación en vivo, impartida por instructores (en línea o presencial), está dirigida a ingenieros de ML avanzados, investigadores de IA y desarrolladores de productos que desean crear e implementar aplicaciones multimodales con Ollama.
Al final de esta formación, los participantes podrán:
- Configurar y ejecutar modelos multimodales con Ollama.
- Integrar entradas de texto, imagen y audio para aplicaciones del mundo real.
- Crear sistemas de comprensión de documentos y QA visual.
- Desarrollar agentes multimodales capaces de razonar entre diferentes modalidades.
Formato del curso
- Clase interactiva y discusión.
- Práctica hands-on con conjuntos de datos multimodales reales.
- Implementación en laboratorio en vivo de tuberías multimodales usando Ollama.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinar.
Introducción a Ollama: Ejecución de Modelos de IA Locales
7 HorasEsta capacitación en vivo con instrucción presencial en Venezuela (en línea o in situ) está dirigida a profesionales principiantes que deseen instalar, configurar y utilizar Ollama para ejecutar modelos de IA en sus máquinas locales.
Al finalizar esta capacitación, los participantes serán capaces de:
- Comprender los fundamentos de Ollama y sus capacidades.
- Configurar Ollama para ejecutar modelos de IA locales.
- Desplegar e interactuar con LLMs utilizando Ollama.
- Optimizar el rendimiento y el uso de recursos para cargas de trabajo de IA.
- Explorar casos de uso para el despliegue de IA local en diversas industrias.
Ollama y Privacidad de los Datos: Patrones de Despliegue Seguro
14 HorasOllama es una plataforma que permite ejecutar modelos de lenguaje grande (LLM) y multimodales de manera local, apoyando al mismo tiempo estrategias de despliegue seguras.
Esta formación en vivo con instrucción presencial (en línea o in situ) está dirigida a profesionales de nivel intermedio que deseen desplegar Ollama con sólidas medidas de privacidad de datos y cumplimiento normativo.
Al finalizar esta formación, los participantes serán capaces de:
- Desplegar Ollama de forma segura en entornos contenerizados y locales (on-prem).
- Aplicar técnicas de privacidad diferencial para salvaguardar datos sensibles.
- Implementar prácticas seguras de registro, monitoreo y auditoría.
- Hacer cumplir el control de acceso a los datos en conformidad con los requisitos normativos.
Formato del Curso
- Clases interactivas y discusión.
- Laboratorios prácticos con patrones de despliegue seguro.
- Estudios de casos centrados en el cumplimiento normativo y ejercicios prácticos.
Opciones de Personalización del Curso
- Para solicitar una formación personalizada para este curso, contáctenos para coordinar.
Aplicaciones de Ollama en Finanzas
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes localmente.
Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a profesionales del sector financiero y personal de TI de nivel intermedio que deseen implementar, personalizar y poner en operación soluciones de IA basadas en Ollama en entornos financieros.
Al completar esta formación, los participantes adquirirán las habilidades necesarias para:
- Desplegar y configurar Ollama para un uso seguro en operaciones financieras.
- Integrar modelos de lenguaje grandes (LLM) locales en flujos de trabajo analíticos y de informes.
- Adaptar los modelos a la terminología y tareas específicas del sector financiero.
- Aplicar las mejores prácticas en seguridad, privacidad y cumplimiento normativo.
Formato del Curso
- Conferencia interactiva y discusión.
- Ejercicios prácticos con datos financieros.
- Implementación en laboratorio en vivo de escenarios enfocados en finanzas.
Opciones de Personalización del Curso
- Para solicitar una formación personalizada para este curso, contáctenos para coordinarla.
Aplicaciones de Ollama en el sector salud
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grande localmente.
Esta formación en vivo con instructores (en línea o presencial) está dirigida a profesionales del sector salud y equipos de TI de nivel intermedio que deseen implementar, personalizar y operar soluciones basadas en Ollama dentro de entornos clínicos y administrativos.
Al finalizar esta formación, los participantes serán capaces de:
- Instalar y configurar Ollama para un uso seguro en entornos del sector salud.
- Integrar modelos de lenguaje grandes locales en flujos de trabajo clínicos y procesos administrativos.
- Personalizar los modelos para adaptarlos a terminología y tareas específicas del sector salud.
- Aplicar las mejores prácticas en materia de privacidad, seguridad y cumplimiento normativo.
Formato del curso
- Conferencia interactiva y debate.
- Demostraciones prácticas y ejercicios guiados.
- Implementación práctica en un entorno simulado de sandbox específico para el sector salud.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, contáctenos para concertar los detalles.
Ollama para la IA responsable y la gobernanza
14 HorasOllama es una plataforma para ejecutar modelos de lenguaje grande y multimodales de forma local, que admite prácticas de gobernanza e IA responsable.
Esta formación impartida por un instructor (en línea o presencial) está dirigida a profesionales de nivel intermedio a avanzado que deseen implementar equidad, transparencia y rendición de cuentas en aplicaciones impulsadas por Ollama.
Al finalizar esta formación, los participantes serán capaces de:
- Aplicar principios de IA responsable en las implementaciones de Ollama.
- Implementar estrategias de filtrado de contenido y mitigación de sesgos.
- Diseñar flujos de trabajo de gobernanza para la alineación de la IA y su auditabilidad.
- Establecer marcos de monitoreo e informes para el cumplimiento normativo.
Formato del curso
- Clases magistrales interactivas y discusión grupal.
- Laboratorios prácticos de diseño de flujos de trabajo de gobernanza.
- Análisis de casos y ejercicios centrados en el cumplimiento normativo.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, contáctenos para coordinar los detalles.
IA Soberana para Organizaciones Reguladas: Control de Datos, Modelos y Entornos de Inferencia
7 HorasEste entrenamiento en vivo con instructor en Venezuela (en línea o presencial) está dirigido a líderes de TI intermedios, profesionales del cumplimiento normativo, equipos de seguridad y arquitectos de empresa que desean utilizar principios y prácticas de gobernanza de IA soberana para diseñar entornos de IA que protejan los datos sensibles, cumplan con los requisitos de localización y reduzcan la dependencia de proveedores.
Al finalizar este entrenamiento, los participantes podrán: explicar los conceptos de IA soberana, evaluar opciones de alojamiento y gobernanza, definir controles para prompts y registros, y crear una hoja de ruta práctica de adopción.
