Temario del curso
Introducción a la inferencia de IA con Docker
- Comprensión de las cargas de trabajo de inferencia de IA.
- Beneficios de la inferencia contenerizada.
- Escenarios y restricciones de despliegue.
Construcción de contenedores de inferencia de IA
- Selección de imágenes base y frameworks.
- Empaquetado de modelos preentrenados.
- Estructuración del código de inferencia para su ejecución en contenedores.
Seguridad de servicios de IA contenerizados
- Minimización de la superficie de ataque del contenedor.
- Gestión de secretos y archivos sensibles.
- Estrategias de red seguras y exposición de APIs.
Técnicas de despliegue portátil
- Optimización de imágenes para portabilidad.
- Garantía de entornos de tiempo de ejecución predecibles.
- Gestión de dependencias entre plataformas.
Despliegue y pruebas locales
- Ejecución de servicios localmente con Docker.
- Depuración de contenedores de inferencia.
- Pruebas de rendimiento y fiabilidad.
Despliegue en servidores y VMs en la nube
- Adaptación de contenedores para entornos remotos.
- Configuración de acceso seguro al servidor.
- Despliegue de APIs de inferencia en VMs de la nube.
Uso de Docker Compose para sistemas de IA de múltiples servicios
- Orquestación de la inferencia junto con componentes de soporte.
- Gestión de variables de entorno y configuraciones.
- Escala de microservicios con Compose.
Monitoreo y mantenimiento de servicios de inferencia de IA
- Enfoques de registro de eventos (logging) y observabilidad.
- Detección de fallos en los flujos de trabajo (pipelines) de inferencia.
- Actualización y control de versiones de modelos en producción.
Resumen y próximos pasos
Requerimientos
- Comprensión de conceptos básicos de aprendizaje automático.
- Experiencia en Python o desarrollo de backend.
- Familiaridad con conceptos fundamentales de contenedores.
Público objetivo
- Desarrolladores.
- Ingenieros de backend.
- Equipos que despliegan servicios de IA.
Reseñas (2)
Como mencioné anteriormente, para una persona como yo (sin experiencia), esto supuso una puerta de entrada para comprender las funciones y características de estos programas, herramientas y demás.
Patrick V. Duylovski - UBB + DZI (KBC GROUP)
Curso - Docker and Kubernetes
Traducción Automática
programa de cursos estructurado en múltiples niveles.
Bert Paelinckx - Cube SoftwareSolutions
Curso - Introduction to Docker
Traducción Automática