Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
El panorama de amenazas de IA
- Por qué la seguridad de IA es diferente: no determinismo, razonamiento opaco, el prompt como superficie de ataque.
- Taxonomía de ataques: en tiempo de entrenamiento vs. en tiempo de inferencia vs. ataques a la cadena de suministro.
- Modelo de adversario de ML: quién ataca a los sistemas de IA y por qué.
OWASP Top 10 para Aplicaciones LLM
- Inyección de prompts: vectores de ataque directos e indirectos.
- Manejo inseguro de salidas y suplantación de solicitud entre plugins (cross-plugin request forgery).
- Envenenamiento de datos de entrenamiento y vulnerabilidades en la cadena de suministro.
- Denegación de servicio del modelo, divulgación de información sensible y agencia excesiva.
- Laboratorio práctico: explotación de cada categoría OWASP contra una aplicación de prueba.
Red Teaming de Inyección de Prompts y Jailbreak
- Taxonomía de técnicas de inyección: directa, indirecta, multiconversacional y multimodal.
- Red teaming automatizado con Giskard, Garak y herramientas de fuzzing personalizadas.
- Clasificación de jailbreaks y evaluación de defensas.
- Construcción de un entorno de red teaming para pruebas de seguridad continuas de LLM.
Ataques a nivel de modelo y defensas
- Extracción de modelos: robo de pesos y funcionalidad del modelo mediante consultas API.
- Inferencia de membresía: determinar si un dato formaba parte del conjunto de entrenamiento.
- Ejemplos adversarios: perturbaciones que engañan a clasificadores y embeddings.
- Envenenamiento de datos: corrupción de datos de entrenamiento para inducir backdoors o degradar el rendimiento.
Controles de seguridad de entrada y salida
- Saneamiento de entrada más allá de las defensas web tradicionales.
- Filtrado de salida: toxicidad, fuga de PII (Información de Identificación Personal), ejecución de código hallucinado.
- Guardrails como infraestructura de seguridad: NeMo, Guardrails AI y políticas personalizadas.
- Aplicación de salida estructurada como límite de seguridad.
Seguridad de la cadena de suministro de IA
- Procedencia del modelo: verificación de autenticidad e integridad del modelo.
- Escaneo de dependencias para frameworks de ML y formatos de modelo.
- Servicio seguro de modelos: aislamiento en sandbox, aislamiento de red y acceso de menor privilegio.
- Evaluación de modelos ajustados finamente (fine-tuned) y comunitarios en busca de malware incrustado.
Seguridad operativa para sistemas de IA
- Control de acceso para endpoints de modelo, almacenes de vectores y herramientas de agentes.
- Registro de auditoría para cada interacción y decisión del modelo.
- Respuesta a incidentes para brechas específicas de IA: cuándo el propio modelo está comprometido.
- Pruebas de seguridad continuas en CI/CD para pipelines de ML.
Construcción de un programa de seguridad de IA
- Modelo de madurez y hoja de ruta para la seguridad de IA.
- Integración de la seguridad de IA en programas existentes de seguridad de aplicaciones (AppSec) y seguridad en la nube.
- Marco de gobernanza y regulaciones emergentes para sistemas de IA.
- Creación y mantenimiento de un manual organizacional de seguridad de IA.
Requerimientos
- Experiencia desplegando modelos de ML o aplicaciones LLM en producción.
- Conocimiento de conceptos de seguridad, incluyendo autenticación, autorización y modelado de amenazas.
- Protagonidad en Python para ejercicios de pruebas adversarias.
Público objetivo
- Ingenieros de seguridad que se expanden hacia superficies de amenaza de IA/ML.
- Ingenieros de ML responsables de la seguridad y robustez de los modelos.
- Miembros de equipos de red teaming que incorporan sistemas de IA a su alcance de pruebas.
14 Horas
