Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Fundamentos: Modelos de amenaza para IA agéntica
- Tipos de amenazas agénticas: uso indebido, escalada, filtración de datos y riesgos en la cadena de suministro.
- Perfiles de adversarios y capacidades del atacante específicas para agentes autónomos.
- Mapeo de activos, límites de confianza y puntos de control críticos para los agentes.
Gobernanza, políticas y gestión de riesgos
- Marcos de gobernanza para sistemas agénticos (roles, responsabilidades y etapas de aprobación).
- Diseño de políticas: uso aceptable, reglas de escalada, manejo de datos y auditabilidad.
- Consideraciones de cumplimiento y recopilación de evidencias para auditorías.
Identidad y autenticación no humanas para agentes
- Diseño de identidades para agentes: cuentas de servicio, JWT (JSON Web Tokens) y credenciales de corta duración.
- Patrones de acceso de mínimo privilegio y otorgamiento de credenciales bajo demanda (just-in-time).
- Estrategias de ciclo de vida, rotación, delegación y revocación de identidades.
Controles de acceso, secretos y protección de datos
- Modelos de control de acceso fino y patrones basados en capacidades para agentes.
- Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos.
- Protección de fuentes de conocimiento sensibles e información personal identificable (PII) frente al acceso no autorizado por agentes.
Observabilidad, auditoría y respuesta a incidentes
- Diseño de telemetría para el comportamiento del agente: rastreo de intenciones, registros de comandos y procedencia.
- Integración con SIEM (Sistema de gestión de eventos e información de seguridad), umbrales de alerta y preparación forense.
- Manuales de ejecución (runbooks) y planes de acción (playbooks) para incidentes relacionados con agentes y su contención.
Pruebas de estrategia roja en sistemas agénticos
- Planificación de ejercicios de estrategia roja: alcance, reglas de compromiso y conmutación por error segura.
- Técnicas adversariales: inyección de prompts, uso indebido de herramientas, manipulación del pensamiento encadenado (chain-of-thought) y abuso de APIs.
- Ejecución de ataques controlados y medición de la exposición e impacto.
Endurecimiento y mitigaciones
- Controles de ingeniería: limitación de velocidad de respuesta, gating de capacidades y sandboxing (aislamiento).
- Controles de política y orquestación: flujos de aprobación, intervención humana (human-in-the-loop) y ganchos de gobernanza.
- Defensas a nivel de modelo y prompt: validación de entrada, canonización y filtros de salida.
Implementación operativa de despliegues seguros de agentes
- Patrones de despliegue: entornos de staging, despliegue canario y rollout progresivo para agentes.
- Control de cambios, pipelines de pruebas y verificaciones de seguridad previas al despliegue.
- Gobernanza multifuncional: manuales de acción para seguridad, legal, producto y operaciones.
Proyecto final: Ejercicio de estrategia roja vs. azul
- Ejecutar un ataque simulado de estrategia roja contra un entorno de agente aislado en sandbox.
- Defender, detectar y remediar como parte del equipo de estrategia azul (blue-team) utilizando controles y telemetría.
- Presentar los hallazgos, el plan de remediación y las actualizaciones de políticas.
Resumen y próximos pasos
Requerimientos
- Sólidos conocimientos en ingeniería de seguridad, administración de sistemas o operaciones en la nube.
- Familiaridad con conceptos de IA/ML y el comportamiento de los modelos de lenguaje grandes (LLM).
- Experiencia en gestión de identidades y accesos (IAM) y diseño seguro de sistemas.
Audiencia objetivo
- Ingenieros de seguridad y especialistas en pruebas de estrategia roja (red-teamers).
- Ingenieros de operaciones de IA y de plataformas.
- Oficiales de cumplimiento normativo y gestores de riesgos.
- Líderes de ingeniería responsables del despliegue de agentes.
21 Horas
