Ollama: Modelos de Lenguaje Grande autoalojados que reemplazan las APIs de OpenAI y Claude
Ollama es una herramienta de código abierto para ejecutar modelos de lenguaje grande (LLM) localmente en hardware de consumo y empresarial. Abstrae la cuantización de modelos, la asignación de GPU y el servicio de API en una única interfaz de línea de comandos, lo que permite a las organizaciones alojar sus propios LLMs como Llama, Mistral y Qwen sin enviar indicaciones (prompts) ni datos a OpenAI, Anthropic o Google.
Esta capacitación supervisada por un instructor (en línea o presencial) está dirigida a ingenieros de IA y operadores de plataformas intermedios que desean utilizar Ollama para reemplazar las APIs de LLM en la nube con inferencia de modelos de lenguaje autoalojada y soberana.
Al finalizar esta capacitación, los participantes serán capaces de:
- Instalar Ollama en Linux, macOS y Windows con soporte para GPU.
- Extraer (pull), cuantizar y servir modelos desde el registro de Ollama y HuggingFace.
- Crear archivos Modelfile personalizados con indicaciones del sistema y ajuste de parámetros.
- Integrar LLMs locales con aplicaciones a través de la API compatible con OpenAI.
- Optimizar el rendimiento de la inferencia para configuraciones solo con CPU y múltiples GPUs.
Formato del curso
- Lecciones y discusiones interactivas.
- Abundantes ejercicios y prácticas.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, por favor contáctenos para coordinarlo.
Temario del curso
Soberanía de IA y Despliegue Local de LLM
- Riesgos de los LLMs en la nube: retención de datos, entrenamiento con las entradas, jurisdicción extranjera.
- Arquitectura de Ollama: servidor de modelos, registro y API compatible con OpenAI.
- Comparación con vLLM, llama.cpp y Text Generation Inference.
- Licencias de modelos: términos de Llama, Mistral, Qwen y Gemma.
Instalación y Configuración de Hardware
- Instalación de Ollama en Linux con soporte CUDA y ROCm.
- Fallback solo para CPU y optimización AVX/AVX2.
- Despliegue con Docker y mapeo de volúmenes persistentes.
- Configuración multi-GPU y estrategias de asignación de VRAM.
Gestión de Modelos
- Extracción (pull) de modelos desde el registro de Ollama: ollama pull llama3.
- Importación de modelos GGUF desde HuggingFace y TheBloke.
- Niveles de cuantización: compensaciones entre Q4_K_M, Q5_K_M y Q8_0.
- Cambio de modelos y límites de carga concurrente de modelos.
Archivos Modelfile Personalizados
- Redacción de la sintaxis de Modelfile: FROM, PARAMETER, SYSTEM, TEMPLATE.
- Ajuste de temperatura, top_p y repeat_penalty.
- Ingeniería de indicaciones del sistema para comportamientos específicos del rol.
- Creación y publicación de modelos personalizados en el registro local.
Integración de API
- Endpoint /v1/chat/completions compatible con OpenAI.
- Respuestas en streaming y modo JSON.
- Integración con LangChain, LlamaIndex y aplicaciones personalizadas.
- Autenticación y limitación de tasa mediante proxy inverso.
Optimización del Rendimiento
- Tamaño de la ventana de contexto y gestión de la caché KV.
- Inferencia por lotes y manejo paralelo de solicitudes.
- Asignación de hilos de CPU y conciencia NUMA.
- Monitoreo del uso de GPU y presión de memoria.
Seguridad y Cumplimiento
- Aislamiento de red para los puntos finales de servicio de modelos.
- Filtrado de entradas y canales de moderación de salidas.
- Registro de auditoría de indicaciones y completados.
- Procedencia de modelos y verificación de hash.
Requerimientos
- Administración intermedia de Linux y contenedores.
- Comprensión general de modelos de aprendizaje automático y transformadores.
- Familiaridad con APIs REST y JSON.
Audiencia
- Ingenieros de IA y desarrolladores que reemplazan las APIs de LLM en la nube.
- Organizaciones con sensibilidad de datos que impiden el uso de modelos en la nube.
- Equipos gubernamentales y de defensa que requieren modelos de lenguaje aislados (air-gapped).
Los cursos públicos requieren más de 5 participantes.
Ollama: Modelos de Lenguaje Grande autoalojados que reemplazan las APIs de OpenAI y Claude - Reserva
Ollama: Modelos de Lenguaje Grande autoalojados que reemplazan las APIs de OpenAI y Claude - Consulta
Ollama: Modelos de Lenguaje Grande autoalojados que reemplazan las APIs de OpenAI y Claude - Solicitud de consultoría
Próximos cursos
Cursos Relacionados
Depuración y evaluación avanzadas de modelos Ollama
35 HorasLa depuración y evaluación avanzadas de modelos Ollama es un curso en profundidad centrado en diagnosticar, probar y medir el comportamiento de los modelos al implementar despliegues locales o privados de Ollama.
Esta capacitación en vivo dirigida por instructores (en línea o presencial) está dirigida a ingenieros de IA de nivel avanzado, profesionales de ML Ops y especialistas en QA que desean garantizar la confiabilidad, la fidelidad y la preparación operativa de los modelos basados en Ollama en producción.
Al finalizar esta capacitación, los participantes podrán:
- Ejecutar una depuración sistemática de modelos alojados en Ollama y reproducir modos de fallo de manera confiable.
- Diseñar y ejecutar pipelines de evaluación robustos con métricas cuantitativas y cualitativas.
- Implementar observabilidad (registros, trazas, métricas) para monitorear la salud del modelo y la deriva de datos (data drift).
- Automatizar pruebas, validaciones y verificaciones de regresión integradas en pipelines CI/CD.
Formato del curso
- Clase magistral interactiva y discusión.
- Laboratorios prácticos y ejercicios de depuración utilizando despliegues de Ollama.
- Casos de estudio, sesiones grupales de resolución de problemas y talleres de automatización.
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para organizarlo.
Construcción de Flujos de Trabajo de IA Privada con Ollama
14 HorasEsta formación en vivo impartida por un instructor en Argentina (en línea o presencial) está dirigida a profesionales de nivel avanzado que deseen implementar flujos de trabajo impulsados por IA seguros y eficientes utilizando Ollama.
Al finalizar esta capacitación, los participantes serán capaces de:
- Desplegar y configurar Ollama para el procesamiento de IA privada.
- Integrar modelos de IA en flujos de trabajo empresariales seguros.
- Optimizar el rendimiento de la IA manteniendo la privacidad de los datos.
- Automatizar procesos comerciales con capacidades de IA on-premise.
- Garantizar el cumplimiento de las políticas de seguridad y gobernanza empresariales.
Despliegue y optimización de LLMs con Ollama
14 HorasEsta capacitación en vivo, impartida por un instructor en Argentina (en línea o presencial), está dirigida a profesionales de nivel intermedio que desean desplegar, optimizar e integrar LLMs utilizando Ollama.
Al finalizar esta capacitación, los participantes serán capaces de:
- Configurar y desplegar LLMs usando Ollama.
- Optimizar modelos de IA para mejorar su rendimiento y eficiencia.
- Aprovechar la aceleración mediante GPU para obtener velocidades de inferencia más rápidas.
- Integrar Ollama en flujos de trabajo y aplicaciones.
- Monitorear y mantener el rendimiento de los modelos de IA con el tiempo.
EXO: Implementación de un Cluster de IA Local de Extremo a Extremo
21 HorasEsta formación en vivo impartida por un instructor en Argentina (en línea o presencial) está dirigida a administradores de sistemas e ingenieros DevOps que deseen desplegar, configurar y gestionar clusters EXO para la inferencia de LLM privados entre múltiples nodos Apple Silicon o Linux.
EXO para DevOps: Construyendo Infraestructura Privada de IA
21 HorasEsta capacitación presencial impartida por un instructor en Argentina (en línea o in situ) está dirigida a ingenieros DevOps y arquitectos de infraestructura que deseen automatizar el aprovisionamiento, monitoreo y gestión del ciclo de vida de clústeres de IA privados basados en EXO.
Seguridad y gobernanza de EXO: gestión de modelos sin conexión
14 HorasEsta formación presencial impartida por un instructor en Argentina (en línea o en las instalaciones) está dirigida a ingenieros de seguridad y oficiales de cumplimiento que deseen endurecer los despliegues de EXO, controlar el acceso a los modelos y gobernar las cargas de trabajo de IA ejecutándose exclusivamente en infraestructura local.
Ajuste fino y personalización de modelos de IA en Ollama
14 HorasEsta formación en vivo con instrucción presencial en Argentina (en línea o in situ) está dirigida a profesionales de nivel avanzado que deseen ajustar finamente y personalizar modelos de IA en Ollama para mejorar el rendimiento y aplicarlo a dominios específicos.
Al finalizar esta formación, los participantes serán capaces de:
- Configurar un entorno eficiente para realizar ajuste fino de modelos de IA en Ollama.
- Preparar conjuntos de datos para ajuste fino supervisado y aprendizaje por refuerzo.
- Optimizar los modelos de IA en términos de rendimiento, precisión y eficiencia.
- Desplegar modelos personalizados en entornos de producción.
- Evaluar las mejoras de los modelos y garantizar su robustez.
IA Agente Segurada Localmente: Desarrollo con Ollama On-Prem para Industrias Reguladas
21 HorasEsta formación impartida por instructores en vivo en Argentina (en línea o presencial) está dirigida a desarrolladores y equipos técnicos que desean utilizar Ollama y modelos de código abierto para construir y ejecutar soluciones de IA agente privada sobre infraestructura interna.
Al finalizar esta formación, los participantes podrán: instalar y configurar Ollama, evaluar y ejecutar modelos locales, crear flujos de trabajo agentes simples y basados en recuperación, y aplicar controles de seguridad y gobernanza para entornos regulados.
Aplicaciones multimodales con Ollama
21 HorasOllama es una plataforma que permite ejecutar y ajustar modelos de lenguaje grande y multimodales en entornos locales.
Este entrenamiento impartido por un instructor, en vivo (en línea o presencial), está dirigido a ingenieros de ML avanzados, investigadores de IA y desarrolladores de productos que desean crear e implementar aplicaciones multimodales con Ollama.
Al finalizar este entrenamiento, los participantes serán capaces de:
- Configurar y ejecutar modelos multimodales con Ollama.
- Integrar entradas de texto, imagen y audio para aplicaciones del mundo real.
- Construir sistemas de comprensión de documentos y respuesta a preguntas visuales.
- Desarrollar agentes multimodales capaces de razonar a través de múltiples modalidades.
Formato del curso
- Ponencia interactiva y debate.
- Práctica con conjuntos de datos reales multimodales.
- Implementación en laboratorio de flujos de trabajo multimodales utilizando Ollama.
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, por favor contáctenos para coordinar los detalles.
Primeros pasos con Ollama: Ejecución de modelos de IA locales
7 HorasEsta formación presencial impartida por un instructor en Argentina (en línea o in situ) está dirigida a profesionales principiantes que desean instalar, configurar y utilizar Ollama para ejecutar modelos de IA en sus máquinas locales.
Al finalizar esta capacitación, los participantes serán capaces de:
- Comprender los fundamentos de Ollama y sus capacidades.
- Configurar Ollama para ejecutar modelos de IA locales.
- Desplegar e interactuar con LLMs utilizando Ollama.
- Optimizar el rendimiento y el uso de recursos para cargas de trabajo de IA.
- Explorar casos de uso del despliegue de IA local en diversas industrias.
Ollama y Privacidad de los Datos: Patrones de Despliegue Seguro
14 HorasOllama es una plataforma que permite ejecutar modelos de lenguaje grande (LLM) y multimodales de forma local, al mismo tiempo que soporta estrategias de despliegue seguras.
Esta capacitación presencial y en vivo (en línea o in situ) está dirigida a profesionales de nivel intermedio que deseen desplegar Ollama con sólidas medidas de privacidad de datos y cumplimiento normativo.
Al finalizar esta capacitación, los participantes serán capaces de:
- Desplegar Ollama de forma segura en entornos contenerizados y on-premises.
- Aplicar técnicas de privacidad diferencial para proteger datos sensibles.
- Implementar prácticas seguras de registro, monitoreo y auditoría.
- Hacer cumplir el control de acceso a los datos en línea con los requisitos de cumplimiento.
Formato del Curso
- Clase interactiva y discusión.
- Talleres prácticos con patrones de despliegue seguro.
- Estudios de caso y ejercicios prácticos centrados en el cumplimiento normativo.
Opciones de Personalización del Curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinar los detalles.
Aplicaciones de Ollama en Finanzas
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes (LLM) localmente.
Esta formación en vivo, impartida por instructores (en línea o presenciales), está dirigida a profesionales intermedios del sector financiero y al personal de TI que deseen implementar, personalizar y poner en operación soluciones de IA basadas en Ollama en entornos financieros.
Al completar esta capacitación, los participantes adquirirán las habilidades necesarias para:
- Desplegar y configurar Ollama para su uso seguro en operaciones financieras.
- Integrar LLMs locales en flujos de trabajo analíticos y de generación de informes.
- Adaptar los modelos a terminología y tareas específicas del ámbito financiero.
- Aplicar mejores prácticas en seguridad, privacidad y cumplimiento normativo.
Formato del Curso
- Conferencia interactiva y discusión grupal.
- Ejercicios prácticos con datos financieros.
- Implementación en laboratorio en vivo de escenarios centrados en finanzas.
Opciones de Personalización del Curso
- Para solicitar una formación personalizada para este curso, comunícate con nosotros para coordinar los detalles.
Aplicaciones de Ollama en el sector salud
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes (LLM) de forma local.
Esta formación en vivo, con instructores (en línea o presencial), está orientada a profesionales del sector salud y equipos de TI de nivel intermedio que deseen implementar, personalizar y poner en producción soluciones de IA basadas en Ollama dentro de entornos clínicos y administrativos.
Al finalizar esta capacitación, los participantes podrán:
- Instalar y configurar Ollama para un uso seguro en contextos de atención sanitaria.
- Integrar LLMs locales en flujos de trabajo clínicos y procesos administrativos.
- Personalizar modelos para terminología y tareas específicas del sector salud.
- Aplicar mejores prácticas en materia de privacidad, seguridad y cumplimiento normativo.
Formato del curso
- Clase interactiva con debate.
- Demostraciones prácticas y ejercicios guiados.
- Implementación práctica en un entorno simulado de atención sanitaria aislado.
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinarlo.
Ollama para IA Responsable y Gobernanza
14 HorasOllama es una plataforma para ejecutar modelos de lenguaje grande y multimodales de forma local, apoyando prácticas de gobernanza e IA responsable.
Esta formación en vivo con instructores (en línea o presencial) está dirigida a profesionales de nivel intermedio a avanzado que desean implementar equidad, transparencia y rendición de cuentas en aplicaciones basadas en Ollama.
Al finalizar esta capacitación, los participantes serán capaces de:
- Aplicar principios de IA responsable en despliegues de Ollama.
- Implementar estrategias de filtrado de contenido y mitigación de sesgos.
- Diseñar flujos de trabajo de gobernanza para la alineación de la IA y su auditabilidad.
- Establecer marcos de monitoreo y reportes para el cumplimiento normativo.
Formato del Curso
- Ponencias interactivas y discusión.
- Laboratorios prácticos de diseño de flujos de trabajo de gobernanza.
- Estudios de caso y ejercicios enfocados en cumplimiento normativo.
Opciones de Personalización del Curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para organizarlo.
IA Soberana para Organizaciones Reguladas: Control de Datos, Modelos y Entornos de Inferencia
7 HorasEsta formación en vivo impartida por un instructor en Argentina (en línea o presencial) está dirigida a líderes de TI de nivel intermedio, profesionales de cumplimiento, equipos de seguridad y arquitectos empresariales que deseen utilizar principios e prácticas de gobernanza de IA soberana para diseñar entornos de IA que protejan datos sensibles, cumplan con requisitos de localización y reduzcan la dependencia de proveedores.
Al finalizar esta formación, los participantes podrán: explicar conceptos de IA soberana, evaluar opciones de alojamiento y gobernanza, definir controles para prompts y registros, y crear una hoja de ruta práctica de adopción.
