Temario del curso
Fundamentos de la gobernanza de seguridad de IA
- Principios fundamentales de la gobernanza de IA
- Marco de seguridad empresarial para sistemas basados en inteligencia artificial (IA)
- Roles y responsabilidades de las partes interesadas
Metodologías de evaluación de riesgos de IA
- Identificación y categorización de riesgos de seguridad de IA
- Modelado de amenazas para sistemas habilitados con IA
- Evaluación de impacto y priorización
Diseño seguro de sistemas de inteligencia artificial
- Diseño orientado a la confidencialidad, integridad y disponibilidad
- Implementación de controles de seguridad en las canalizaciones (pipelines) de IA
- Consideraciones para la gestión del ciclo de vida de los modelos
Protección de datos y privacidad de la inteligencia artificial
- Gobernanza de datos para aprendizaje automático
- Gestión de datos sensibles y regulados
- Tecnologías que mejoran la privacidad
Vigilancia y seguridad de las operaciones de IA
- Evaluación continua del comportamiento de la IA
- Detección de deriva (drift), anomalías y usos indebidos
- Inteligencia operativa de amenazas para sistemas basados en inteligencia artificial
Alineamiento regulatorio y cumplimiento normativo
- Normas globales que impactan la seguridad de los sistemas basados en inteligencia artificial
- Documentación y preparación para auditorías
- Alinear la gobernanza con las obligaciones legales
Respuesta a incidentes para sistemas de IA
- Vectores de ataque específicos de la IA e indicadores de compromiso
- Flujos de trabajo de respuesta para modelos comprometidos
- Revisión post-incidente y remediación
Gestión estratégica de la seguridad de los sistemas basados en inteligencia artificial
- Construcción de capacidades a largo plazo en materia de seguridad de IA
- Integración del riesgo de IA en la estrategia empresarial
- Evaluaciones de madurez y mejora continua
Resumen y próximos pasos
Requerimientos
- Comprensión de los principios de riesgo en ciberseguridad
- Experiencia con sistemas basados en IA o datos
- Familiaridad con la gobernanza de seguridad empresarial
Audiencia
- Gerentes de seguridad que supervisan iniciativas de IA
- Especialistas en gobernanza y riesgo
- Líderes técnicos responsables de la adopción segura de IA
Testimonios (3)
Realmente disfruté aprender sobre los ataques de IA y las herramientas disponibles para comenzar a practicar y utilizarlas activamente en pruebas de seguridad. Adquirí muchos conocimientos que no tenía al inicio, y el curso cumplió con lo que esperaba. Mi parte favorita del entrenamiento fue el navegador Comet, y quedé impresionado por lo que podía hacer. Sin duda seguiré explorándolo más. En general, fue un excelente curso y disfruté aprender sobre los Top 10 de OWASP para GenAI.
Patrick Collins - Optum
Curso - OWASP GenAI Security
Traducción Automática
El conocimiento profesional y la forma en que lo presentó ante nosotros
Miroslav Nachev - PUBLIC COURSE
Curso - Cybersecurity in AI Systems
Traducción Automática
La forma de recibir la información del formador
Mohamed Romdhani - Shams Power
Curso - CISM - Certified Information Security Manager
Traducción Automática