Temario del curso
Preparar Modelos de Aprendizaje Automático para el Despliegue
- Empaquetar modelos con Docker
- Exportar modelos de TensorFlow y PyTorch
- Consideraciones sobre versionado y almacenamiento
Servir Modelos en Kubernetes
- Visión general de servidores de inferencia
- Desplegar TensorFlow Serving y TorchServe
- Configurar puntos finales de modelos
Técnicas de Optimización de Inferencia
- Estrategias de batch
- Manejo de solicitudes concurrentes
- Ajuste de latencia y throughput
Escalado Automático de Cargas de Trabajo de ML
- Escalador Horizontal de Pods (HPA)
- Escalador Vertical de Pods (VPA)
- Escalado Automático Evento-Driven de Kubernetes (KEDA)
Provisionamiento y Gestión de Recursos GPU
- Configurar nodos GPU
- Visión general del plugin de dispositivo NVIDIA
- Solicitudes y límites de recursos para cargas de trabajo de ML
Estrategias de Despliegue y Liberación de Modelos
- Despliegues azul/verde
- Patrones de despliegue canario
- Pruebas A/B para la evaluación de modelos
Monitoreo y Observabilidad del ML en Producción
- Métricas para cargas de trabajo de inferencia
- Prácticas de registro y trazado
- Tableros y alertas
Consideraciones de Seguridad y Fiabilidad
- Seguridad en los puntos finales de modelos
- Políticas de red y control de acceso
- Asegurar alta disponibilidad
Resumen y Próximos Pasos
Requerimientos
- Comprensión de los flujos de trabajo de aplicaciones contenerizadas
- Experiencia con modelos de aprendizaje automático basados en Python
- Familiaridad con los fundamentos de Kubernetes
Audiencia
- Ingenieros de ML
- Ingenieros DevOps
- Equipos de ingeniería de plataformas
Testimonios (5)
Interactividad, sin leer diapositivas todo el día
Emilien Bavay - IRIS SA
Curso - Kubernetes Advanced
Traducción Automática
él fue paciente y entendió que nos retrasamos
Albertina - REGNOLOGY ROMANIA S.R.L.
Curso - Deploying Kubernetes Applications with Helm
Traducción Automática
El entrenamiento fue más práctico
Siphokazi Biyana - Vodacom SA
Curso - Kubernetes on AWS
Traducción Automática
Aprendiendo sobre Kubernetes.
Felix Bautista - SGS GULF LIMITED ROHQ
Curso - Kubernetes on Azure (AKS)
Traducción Automática
Que Brian tiene buen conocimiento del tema y explica bien