Temario del curso
Módulo 1 — Sistemas de IA para ingenieros de seguridad
Laboratorio: Lab 01 — 01-Introducción
Comprensión de la arquitectura.
Temas:
- LLMs vs aplicaciones normales
- Pipelines de inferencia de IA
- Flujo de prompts
- Arquitectura RAG
- incrustaciones/bases de datos vectoriales
- flujos de trabajo agentes (agentic workflows)
- llamada a herramientas (tool calling)
- pasarelas de IA
- copilotos
- MCP y protocolos de agente
- dónde existe la visibilidad del WAF
- dónde desaparece la visibilidad del WAF
Aporte clave: Los WAFs tradicionales a menudo pierden visibilidad después de que el prompt alcanza el modelo.
Módulo 2 — OWASP GenAI Top 10
Laboratorio: ninguno — repaso interactivo/discusión
Categorías principales de ataque de IA.
Temas:
- Inyección de prompts
- Manejo inseguro de salidas
- Envenenamiento de datos de entrenamiento
- DoS del modelo
- Vulnerabilidades de la cadena de suministro
- Divulgación de información sensible
- Agencia excesiva
- Debilidades de vectores/incrustaciones
- Desinformación
- Consumo ilimitado
Incluye:
- Diferencias con el OWASP clásico
- Mapeo a controles defensivos (WAF, pasarela, capa de aplicación)
- Dónde ayuda cada control
- Dónde falla cada control
Módulo 3 — Detección de inyección de prompts
Laboratorio: Lab 02 — 02-Prompt-Injection
El «momento de la inyección SQL» para IA.
Temas:
- Inyección directa de prompts
- Inyección indirecta de prompts
- Instrucciones ocultas
- Ataques basados en documentos
- Inyección HTML/Markdown
- Patrones de brecha de seguridad (jailbreak)
- Ataques de anulación de contexto
- Ataques de confusión de rol
Estrategias de detección:
- heurísticas de palabras clave
- clasificación semántica
- linting de prompts
- aplicación de límites de instrucciones
- políticas de permitir/bloquear
- patrones regex conscientes de IA
Laboratorios prácticos:
- Atacar un chatbot
- Eludir filtros ingenuos
- Construir detección en capas
Módulo 4 — Reglas de WAF conscientes de IA
Laboratorio: Lab 03 — 03-WAF-Basics
Cómo evolucionan las reglas del WAF para sistemas de IA.
- Temas:
- protección de endpoints LLM
- protección de API de inferencia
- limitación de velocidad consciente de tokens
- inspección del tamaño del prompt
- firmas específicas de IA
- detección de anomalías en conversaciones
- patrones de abuso multi-turno
- intentos de enumeración de modelos
- scraping de inferencia
- protección contra denegación de billetera
Ejemplos:
- protección de /v1/chat/completions
- defensa de APIs de streaming
- bloqueo de llamadas recursivas de agentes
Módulo 5 — Seguridad de pipelines RAG
Laboratorio: Lab 04 — 04-RAG-Security
Una de las nuevas superficies de ataque más grandes.
Temas:
- amenazas a DBs vectoriales
- envenenamiento de incrustaciones
- PDFs/documentos maliciosos
- manipulación de recuperación
- envenenamiento semántico
- instrucciones ocultas en documentos
- contaminación cruzada de documentos
- fuga de datos mediante recuperación
Defensas:
- sanitización de ingestión
- puntuación de confianza
- aislamiento de metadatos
- procedencia de documentos
- políticas de recuperación
- segmentación
Caso de estudio: «Sube un PDF envenenado y toma el control del asistente de IA.»
Módulo 6 — Seguridad de IA Agente (Agentic AI)
Laboratorio: Lab 05 — 05-Agent-Security
Donde las cosas se vuelven peligrosas.
Temas:
- agencia excesiva
- abuso de herramientas
- cadenas de APIs
- bucles autónomos
- ascenso de permisos
- envenenamiento de memoria
- ejecución indirecta de herramientas
- suplantación de identidad del agente
- fuga de credenciales
- ataques multi-agente
Defensas:
- privilegio mínimo para agentes
- puntos de aprobación (approval gates)
- motores de política en tiempo de ejecución
- contenedores/aislamiento (sandboxing)
- credenciales acotadas
- lista blanca de herramientas
- humano en el ciclo (human-in-the-loop)
Esta es la sección a la que los gerentes suelen prestarle más atención porque el riesgo se vuelve operativo e impacta al negocio.
Módulo 7 — Seguridad de APIs para IA
Laboratorio: Lab 06 — 06-Denial-of-Wallet
Los sistemas de IA están muy orientados a APIs.
Temas:
- pasarelas de API
- riesgos de GraphQL para IA
- abuso de MCP/API
- protección JWT
- seguridad de plugins de IA
- autenticación de agentes
- autorización delegada
- gestión de secretos
- prompts firmados
- Inventario de APIs para IA
Relacionado con: OWASP API Security Top 10
Módulo 8 — Ingeniería de Detección e Integración con SOC
Laboratorio: Lab 07 — 07-Detection
Defensa operativa.
Temas:
- telemetría de IA
- registro de prompts
- análisis de tokens
- detección de anomalías
- pipelines SIEM semánticos para IA
- indicadores de ataque de IA
- búsqueda de amenazas para abuso de LLM
- observabilidad en tiempo de ejecución de IA
Ejemplos:
- detección de campañas de brecha de seguridad (jailbreak)
- detección de abuso automatizado de agentes
- identificación de scraping de modelos
Módulo 9 — WAFs en la nube y Seguridad de IA
Laboratorio: ninguno — repaso interactivo/discusión
Implementaciones específicas de proveedores.
Temas:
- AWS WAF para APIs de IA
- Azure WAF
- Pasarela de IA de Cloudflare
- pasarelas de API
- filtrado AI de Envoy
- Pasarela de IA Kong
- patrones de seguridad AI de NGINX
Comparación:
- WAF tradicional vs pasarela de IA vs barrera de contención en la capa de aplicación
- filtrado basado en proxy vs filtrado semántico
Módulo 10 — Construcción de una Defensa de IA en Capas
Laboratorio: Lab 08 — 08-Layered-Defense
Conclusión filosófica importante:
Ninguna capa individual puede asegurar la IA (el WAF es el menos capaz de hacerlo por sí solo).
Los estudiantes construyen un modelo en capas:
- WAF
- Pasarela de API
- Pasarela de IA
- Barreras de contención (Guardrails)
- Monitoreo en tiempo de ejecución
- Identidad/autorización
- Aislamiento (Sandbox)
- Aprobación humana
- Observabilidad
- Respuesta a incidentes
Esto se alinea fuertemente con el modelo de «seguridad multicapa».
Mapa de Módulos ↔ Laboratorios
Los laboratorios se ejecutan en orden de laboratorio, lo que sigue el orden de los módulos.
El curso tiene 10 módulos pero solo 8 laboratorios: Los Módulos 2 y 9 son repases interactivos/discusión y no tienen laboratorio.
Cada laboratorio está etiquetado con su módulo a lo largo de este esquema.
- Lab 01 (Módulo 1)
- Carpeta: 01-Introducción
- Título: Explora un sistema de IA — qué hay en el cable
- Lab 02 (Módulo 3)
- Carpeta: 02-Prompt-Injection
- Título: Ataca un chatbot y elude el filtrado ingenuo
- Lab 03 (Módulo 4)
- Carpeta: 03-WAF-Basics
- Título: Construye reglas de WAF conscientes de IA
- Lab 04 (Módulo 5)
- Carpeta: 04-RAG-Security
- Título: Venena un pipeline RAG
- Lab 05 (Módulo 6)
- Carpeta: 05-Agent-Security
- Título: Asegura un agente autónomo
- Lab 06 (Módulo 7)
- Carpeta: 06-Denial-of-Wallet
- Título: Detecta ataques de denegación de billetera
- Lab 07 (Módulo 8)
- Carpeta: 07-Detection
- Título: Monitorea patrones de abuso de IA en registros
- Lab 08 (Módulo 10)
- Carpeta: 08-Layered-Defense
- Título: Construye una arquitectura de defensa de IA en capas
Capstone (Proyecto Final)
Los estudiantes defienden un asistente empresarial simulado de IA.
Los atacantes intentan:
- inyección de prompts
- abuso de herramientas
- robo de credenciales
- envenenamiento de recuperación
- consumo excesivo de API
- escalamiento de agentes
Los equipos construyen:
- reglas de WAF
- políticas de pasarela de IA
- detección en tiempo de ejecución
- barreras de contención (guardrails)
- respuesta a incidentes
Requerimientos
- Los estudiantes deben comprender previamente la seguridad de HTTP/APIs, proxies/proxies inversos, autenticación, OWASP Top 10, APIs REST y conceptos básicos de redes en la nube.
Audiencia
- Ingenieros de seguridad y AppSec
- Analistas SOC e ingenieros de detección
- Ingenieros de seguridad de APIs
- Seguridad en la nube / API / plataforma
- Ingenieros DevSecOps
- Arquitectos de seguridad
- Especialistas en WAF y seguridad de red
- Ingenieros de plataformas IA
Reseñas (2)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática