Temario del curso
Introducción al Modelado de Amenazas en IA
- ¿Qué hace vulnerables a los sistemas de inteligencia artificial?
- Superficie de ataque de la IA frente a sistemas tradicionales
- Principales vectores de ataque: capas de datos, modelo, salida e interfaz
Ataques Adversarios en Modelos de IA
- Comprensión de ejemplos adversarios y técnicas de perturbación
- Ataques de caja blanca vs. caja negra
- Métodos FGSM, PGD y DeepFool
- Visualización y creación de muestras adversarias
Inversión de Modelos y Filtración de Privacidad
- Inferencia de datos de entrenamiento a partir de la salida del modelo
- Ataques de inferencia de membresía
- Riesgos de privacidad en modelos de clasificación y generativos
Envenenamiento de Datos e Inyección de Backdoors
- Cómo los datos maliciosos influyen en el comportamiento del modelo
- Backdoors basados en desencadenantes y ataques tipo troyano
- Estrategias de detección y sanitización
Técnicas de Robustez y Defensa
- Entrenamiento adversario y aumento de datos
- Enmascaramiento de gradientes y preprocesamiento de entradas
- Suavizado del modelo y técnicas de regularización
Défensas de IA Preservadoras de la Privacidad
- Introducción a la privacidad diferencial
- Inyección de ruido y presupuestos de privacidad
- Aprendizaje federado y agregación segura
Seguridad de la IA en la Práctica
- Evaluación y despliegue de modelos conscientes de la amenaza
- Uso de ART (Adversarial Robustness Toolbox) en contextos aplicados
- Estudios de caso de la industria: brechas del mundo real y mitigaciones
Resumen y Próximos Pasos
Requerimientos
- Comprensión de los flujos de trabajo del aprendizaje automático y el entrenamiento de modelos
- Experiencia con Python y marcos comunes de aprendizaje automático, como PyTorch o TensorFlow
- Familiaridad con conceptos básicos de seguridad o modelado de amenazas resulta útil
Audiencia
- Ingenieros de aprendizaje automático
- Analistas de ciberseguridad
- Investigadores de inteligencia artificial y equipos de validación de modelos
Testimonios (2)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática
