Ponte en Contacto

Temario del curso

Módulo 1 — Sistemas de IA para ingenieros de seguridad

Laboratorio: Lab 01 — 01-Introducción

Comprensión de la arquitectura.

Temas:

  • LLMs vs aplicaciones normales
  • Pipelines de inferencia de IA
  • Flujo de prompts
  • Arquitectura RAG
  • incrustaciones/bases de datos vectoriales
  • flujos de trabajo agentes (agentic workflows)
  • llamada a herramientas (tool calling)
  • pasarelas de IA
  • copilotos
  • MCP y protocolos de agente
  • dónde existe la visibilidad del WAF
  • dónde desaparece la visibilidad del WAF

Aporte clave: Los WAFs tradicionales a menudo pierden visibilidad después de que el prompt alcanza el modelo.

Módulo 2 — OWASP GenAI Top 10

Laboratorio: ninguno — repaso interactivo/discusión

Categorías principales de ataque de IA.

Temas:

  • Inyección de prompts
  • Manejo inseguro de salidas
  • Envenenamiento de datos de entrenamiento
  • DoS del modelo
  • Vulnerabilidades de la cadena de suministro
  • Divulgación de información sensible
  • Agencia excesiva
  • Debilidades de vectores/incrustaciones
  • Desinformación
  • Consumo ilimitado

Incluye:

  • Diferencias con el OWASP clásico
  • Mapeo a controles defensivos (WAF, pasarela, capa de aplicación)
  • Dónde ayuda cada control
  • Dónde falla cada control

Módulo 3 — Detección de inyección de prompts

Laboratorio: Lab 02 — 02-Prompt-Injection

El «momento de la inyección SQL» para IA.

Temas:

  • Inyección directa de prompts
  • Inyección indirecta de prompts
  • Instrucciones ocultas
  • Ataques basados en documentos
  • Inyección HTML/Markdown
  • Patrones de brecha de seguridad (jailbreak)
  • Ataques de anulación de contexto
  • Ataques de confusión de rol

Estrategias de detección:

  • heurísticas de palabras clave
  • clasificación semántica
  • linting de prompts
  • aplicación de límites de instrucciones
  • políticas de permitir/bloquear
  • patrones regex conscientes de IA

Laboratorios prácticos:

  • Atacar un chatbot
  • Eludir filtros ingenuos
  • Construir detección en capas

Módulo 4 — Reglas de WAF conscientes de IA

Laboratorio: Lab 03 — 03-WAF-Basics

Cómo evolucionan las reglas del WAF para sistemas de IA.

  • Temas:
  • protección de endpoints LLM
  • protección de API de inferencia
  • limitación de velocidad consciente de tokens
  • inspección del tamaño del prompt
  • firmas específicas de IA
  • detección de anomalías en conversaciones
  • patrones de abuso multi-turno
  • intentos de enumeración de modelos
  • scraping de inferencia
  • protección contra denegación de billetera

Ejemplos:

  • protección de /v1/chat/completions
  • defensa de APIs de streaming
  • bloqueo de llamadas recursivas de agentes

Módulo 5 — Seguridad de pipelines RAG

Laboratorio: Lab 04 — 04-RAG-Security

Una de las nuevas superficies de ataque más grandes.

Temas:

  • amenazas a DBs vectoriales
  • envenenamiento de incrustaciones
  • PDFs/documentos maliciosos
  • manipulación de recuperación
  • envenenamiento semántico
  • instrucciones ocultas en documentos
  • contaminación cruzada de documentos
  • fuga de datos mediante recuperación

Defensas:

  • sanitización de ingestión
  • puntuación de confianza
  • aislamiento de metadatos
  • procedencia de documentos
  • políticas de recuperación
  • segmentación

Caso de estudio: «Sube un PDF envenenado y toma el control del asistente de IA.»

Módulo 6 — Seguridad de IA Agente (Agentic AI)

Laboratorio: Lab 05 — 05-Agent-Security

Donde las cosas se vuelven peligrosas.

Temas:

  • agencia excesiva
  • abuso de herramientas
  • cadenas de APIs
  • bucles autónomos
  • ascenso de permisos
  • envenenamiento de memoria
  • ejecución indirecta de herramientas
  • suplantación de identidad del agente
  • fuga de credenciales
  • ataques multi-agente

Defensas:

  • privilegio mínimo para agentes
  • puntos de aprobación (approval gates)
  • motores de política en tiempo de ejecución
  • contenedores/aislamiento (sandboxing)
  • credenciales acotadas
  • lista blanca de herramientas
  • humano en el ciclo (human-in-the-loop)

Esta es la sección a la que los gerentes suelen prestarle más atención porque el riesgo se vuelve operativo e impacta al negocio.

Módulo 7 — Seguridad de APIs para IA

Laboratorio: Lab 06 — 06-Denial-of-Wallet

Los sistemas de IA están muy orientados a APIs.

Temas:

  • pasarelas de API
  • riesgos de GraphQL para IA
  • abuso de MCP/API
  • protección JWT
  • seguridad de plugins de IA
  • autenticación de agentes
  • autorización delegada
  • gestión de secretos
  • prompts firmados
  • Inventario de APIs para IA

Relacionado con: OWASP API Security Top 10

Módulo 8 — Ingeniería de Detección e Integración con SOC

Laboratorio: Lab 07 — 07-Detection

Defensa operativa.

Temas:

  • telemetría de IA
  • registro de prompts
  • análisis de tokens
  • detección de anomalías
  • pipelines SIEM semánticos para IA
  • indicadores de ataque de IA
  • búsqueda de amenazas para abuso de LLM
  • observabilidad en tiempo de ejecución de IA

Ejemplos:

  • detección de campañas de brecha de seguridad (jailbreak)
  • detección de abuso automatizado de agentes
  • identificación de scraping de modelos

Módulo 9 — WAFs en la nube y Seguridad de IA

Laboratorio: ninguno — repaso interactivo/discusión

Implementaciones específicas de proveedores.

Temas:

  • AWS WAF para APIs de IA
  • Azure WAF
  • Pasarela de IA de Cloudflare
  • pasarelas de API
  • filtrado AI de Envoy
  • Pasarela de IA Kong
  • patrones de seguridad AI de NGINX

Comparación:

  • WAF tradicional vs pasarela de IA vs barrera de contención en la capa de aplicación
  • filtrado basado en proxy vs filtrado semántico

Módulo 10 — Construcción de una Defensa de IA en Capas

Laboratorio: Lab 08 — 08-Layered-Defense

Conclusión filosófica importante:

Ninguna capa individual puede asegurar la IA (el WAF es el menos capaz de hacerlo por sí solo).

Los estudiantes construyen un modelo en capas:

  1. WAF
  2. Pasarela de API
  3. Pasarela de IA
  4. Barreras de contención (Guardrails)
  5. Monitoreo en tiempo de ejecución
  6. Identidad/autorización
  7. Aislamiento (Sandbox)
  8. Aprobación humana
  9. Observabilidad
  10. Respuesta a incidentes

Esto se alinea fuertemente con el modelo de «seguridad multicapa».

Mapa de Módulos ↔ Laboratorios

Los laboratorios se ejecutan en orden de laboratorio, lo que sigue el orden de los módulos.

El curso tiene 10 módulos pero solo 8 laboratorios: Los Módulos 2 y 9 son repases interactivos/discusión y no tienen laboratorio.

Cada laboratorio está etiquetado con su módulo a lo largo de este esquema.

  • Lab 01 (Módulo 1)
    • Carpeta: 01-Introducción
    • Título: Explora un sistema de IA — qué hay en el cable
  • Lab 02 (Módulo 3)
    • Carpeta: 02-Prompt-Injection
    • Título: Ataca un chatbot y elude el filtrado ingenuo
  • Lab 03 (Módulo 4)
    • Carpeta: 03-WAF-Basics
    • Título: Construye reglas de WAF conscientes de IA
  • Lab 04 (Módulo 5)
    • Carpeta: 04-RAG-Security
    • Título: Venena un pipeline RAG
  • Lab 05 (Módulo 6)
    • Carpeta: 05-Agent-Security
    • Título: Asegura un agente autónomo
  • Lab 06 (Módulo 7)
    • Carpeta: 06-Denial-of-Wallet
    • Título: Detecta ataques de denegación de billetera
  • Lab 07 (Módulo 8)
    • Carpeta: 07-Detection
    • Título: Monitorea patrones de abuso de IA en registros
  • Lab 08 (Módulo 10)
    • Carpeta: 08-Layered-Defense
    • Título: Construye una arquitectura de defensa de IA en capas

Capstone (Proyecto Final)

Los estudiantes defienden un asistente empresarial simulado de IA.

Los atacantes intentan:

  1. inyección de prompts
  2. abuso de herramientas
  3. robo de credenciales
  4. envenenamiento de recuperación
  5. consumo excesivo de API
  6. escalamiento de agentes

Los equipos construyen:

  • reglas de WAF
  • políticas de pasarela de IA
  • detección en tiempo de ejecución
  • barreras de contención (guardrails)
  • respuesta a incidentes

Requerimientos

  • Los estudiantes deben comprender previamente la seguridad de HTTP/APIs, proxies/proxies inversos, autenticación, OWASP Top 10, APIs REST y conceptos básicos de redes en la nube.

Audiencia

  • Ingenieros de seguridad y AppSec
  • Analistas SOC e ingenieros de detección
  • Ingenieros de seguridad de APIs
  • Seguridad en la nube / API / plataforma
  • Ingenieros DevSecOps
  • Arquitectos de seguridad
  • Especialistas en WAF y seguridad de red
  • Ingenieros de plataformas IA
 35 Horas

Número de participantes


Precio por participante

Reseñas (2)

Próximos cursos

Categorías Relacionadas