Ajuste fino de modelos y Modelos de Lenguaje Grande (LLM)

Introducción al ajuste fino

• ¿Qué es el ajuste fino?
• Casos de uso y beneficios del ajuste fino
• Visión general de los modelos preentrenados y el aprendizaje por transferencia

Preparación para el ajuste fino

• Recopilación y limpieza de conjuntos de datos
• Comprensión de los requisitos de datos específicos de la tarea
• Análisis exploratorio de datos y preprocesamiento

Técnicas de ajuste fino

• Aprendizaje por transferencia y extracción de características
• Ajuste fino de transformadores con Hugging Face
• Ajuste fino para tareas supervisadas frente a no supervisadas

Ajuste fino de grandes modelos de lenguaje (LLM)

• Adaptación de LLM para tareas de PLN (por ejemplo, clasificación de texto, resumen)
• Entrenamiento de LLM con conjuntos de datos personalizados
• Control del comportamiento de LLM mediante ingeniería de prompts

Optimización y evaluación

• Ajuste de hiperparámetros
• Evaluación del rendimiento del modelo
• Abordar el sobreajuste (overfitting) y el subajuste (underfitting)

Escalar los esfuerzos de ajuste fino

• Ajuste fino en sistemas distribuidos
• Aprovechar soluciones basadas en la nube para la escalabilidad
• Casos de estudio: proyectos de ajuste fino a gran escala

Mejores prácticas y desafíos

• Mejores prácticas para el éxito del ajuste fino
• Desafíos comunes y solución de problemas
• Consideraciones éticas en el ajuste fino de modelos de IA

Tópicos avanzados (opcional)

• Ajuste fino de modelos multimodales
• Aprendizaje zero-shot y few-shot
• Exploración de técnicas LoRA (Low-Rank Adaptation)

Resumen y próximos pasos