Contacta con nosotros

Temario del curso

Introducción a QLoRA y la Cuantificación

  • Visión general de la cuantificación y su rol en la optimización de modelos
  • Introducción al marco de QLoRA y sus beneficios
  • Diferencias clave entre QLoRA y métodos tradicionales de afinamiento

Fundamentos de los Grandes Modelos de Lenguaje (LLM)

  • Introducción a los LLM y su arquitectura
  • Desafíos del afinamiento de modelos grandes a gran escala
  • Cómo la cuantificación ayuda a superar las limitaciones computacionales en el afinamiento de LLM

Implementación de QLoRA para el Afinamiento de LLM

  • Configuración del marco de QLoRA y su entorno
  • Preparación de conjuntos de datos para el afinamiento con QLoRA
  • Guía paso a paso para implementar QLoRA en LLM utilizando Python y PyTorch/TensorFlow

Optimización del Rendimiento del Afinamiento con QLoRA

  • Cómo equilibrar la precisión del modelo y el rendimiento mediante la cuantificación
  • Técnicas para reducir los costos de cómputo y el uso de memoria durante el afinamiento
  • Estrategias para afinar con requisitos mínimos de hardware

Evaluación de Modelos Afinados

  • Cómo evaluar la efectividad de los modelos afinados
  • Métricas comunes de evaluación para modelos de lenguaje
  • Optimización del rendimiento del modelo después del afinamiento y resolución de problemas

Despliegue y Escalamiento de Modelos Afinados

  • Mejores prácticas para desplegar LLM cuantizados en entornos de producción
  • Escalar el despliegue para manejar solicitudes en tiempo real
  • Herramientas y frameworks para el despliegue y monitoreo de modelos

Casos de Uso y Ejemplos del Mundo Real

  • Estudio de caso: Afinamiento de LLM para soporte al cliente y tareas de PLN
  • Ejemplos de afinamiento de LLM en diversas industrias como salud, finanzas y comercio electrónico
  • Lecciones aprendidas de despliegues reales de modelos basados en QLoRA

Resumen y Próximos Pasos

Requerimientos

  • Comprensión de los fundamentos del aprendizaje automático y las redes neuronales
  • Experiencia en el afinamiento de modelos y aprendizaje transferencial (transfer learning)
  • Familiaridad con grandes modelos de lenguaje (LLM) y frameworks de aprendizaje profundo (por ejemplo, PyTorch, TensorFlow)

Audiencia

  • Ingenieros de aprendizaje automático
  • Desarrolladores de IA
  • Científicos de datos
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas