Contacta con nosotros

Temario del curso

Fundamentos de la IA segura y justa

  • Conceptos clave: seguridad, sesgo, equidad, transparencia
  • Tipos de sesgo: de conjunto de datos, de representación, algorítmico
  • Resumen de marcos regulatorios (Reglamento de IA de la UE, RGPD, etc.)

Sesgo en modelos ajustados finamente

  • Cómo el ajuste fino puede introducir o amplificar el sesgo
  • Casos de estudio y fracasos en el mundo real
  • Identificación de sesgos en conjuntos de datos y predicciones de modelos

Técnicas de mitigación del sesgo

  • Estrategias a nivel de datos (reequilibrio, aumento de datos)
  • Estrategias durante el entrenamiento (regularización, desaprendizaje adversarial)
  • Estrategias post-procesamiento (filtrado de salidas, calibración)

Seguridad y robustez del modelo

  • Detección de salidas inseguras o dañinas
  • Gestión de entradas adversariales
  • Pruebas de penetración (red teaming) y pruebas de estrés en modelos ajustados finamente

Auditoría y monitorización de sistemas de IA

  • Métricas de evaluación de sesgo y equidad (p. ej., paridad demográfica)
  • Herramientas de explicabilidad y marcos de transparencia
  • Monitorización continua y prácticas de gobernanza

Herramientas y práctica guiada

  • Uso de bibliotecas de código abierto (p. ej., Fairlearn, Transformers, CheckList)
  • Práctica guiada: Detección y mitigación de sesgos en un modelo ajustado finamente
  • Generación de salidas seguras mediante diseño de prompt y restricciones

Casos de uso empresarial y preparación para el cumplimiento

  • Mejores prácticas para integrar la seguridad en los flujos de trabajo de LLMs
  • Documentación y tarjetas de modelo para el cumplimiento
  • Preparación para auditorías y revisiones externas

Resumen y próximos pasos

Requerimientos

  • Comprensión de los modelos de aprendizaje automático y los procesos de entrenamiento
  • Experiencia trabajando con ajuste fino y LLMs
  • Conocimiento de Python y conceptos de PLN

Audiencia

  • Equipos de cumplimiento de IA
  • Ingenieros de ML
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas