Contacta con nosotros

Temario del curso

Introducción a Ollama para el despliegue de LLM

  • Visión general de las capacidades de Ollama.
  • Ventajas del despliegue local de modelos de IA.
  • Comparativa con soluciones de alojamiento de IA en la nube.

Configuración del entorno de despliegue

  • Instalación de Ollama y las dependencias necesarias.
  • Configuración del hardware y la aceleración GPU.
  • Contenedorización de Ollama para despliegues escalables.

Despliegue de LLM con Ollama

  • Carga y gestión de modelos de IA.
  • Despliegue de modelos como Llama 3, DeepSeek, Mistral y otros.
  • Creación de APIs y puntos de enlace para acceder a los modelos de IA.

Optimización del rendimiento de los LLM

  • Afinado de modelos para mejorar la eficiencia.
  • Reducción de la latencia y mejora de los tiempos de respuesta.
  • Gestión de la memoria y la asignación de recursos.

Integración de Ollama en flujos de trabajo de IA

  • Conexión de Ollama con aplicaciones y servicios.
  • Automatización de procesos impulsados por IA.
  • Uso de Ollama en entornos de computación en el borde (edge).

Supervisión y mantenimiento

  • Seguimiento del rendimiento y depuración de problemas.
  • Actualización y gestión de modelos de IA.
  • Garantía de seguridad y cumplimiento normativo en los despliegues de IA.

Escalado de los despliegues de modelos de IA

  • Mejores prácticas para gestionar cargas de trabajo elevadas.
  • Escalado de Ollama para casos de uso empresarial.
  • Avances futuros en el despliegue local de modelos de IA.

Resumen y próximos pasos

Requerimientos

  • Experiencia básica con modelos de aprendizaje automático (machine learning) e inteligencia artificial.
  • Conocimiento de las interfaces de línea de comandos y la scripting.
  • Comprensión de los entornos de despliegue (local, edge o borde, nube).

Público objetivo

  • Ingenieros de IA que optimicen despliegues de IA locales y en la nube.
  • Profesionales de aprendizaje automático (ML) que desplieguen y afinen LLM.
  • Especialistas en DevOps que gestionen la integración de modelos de IA.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas