GOBERNA
Programa
Nivel Básico4 conceptos

Módulo 02

Riesgo y daño en sistemas de IA

Aprender a nombrar qué puede salir mal con la IA, a quién afecta, cómo se mide el riesgo y qué hace que un sistema merezca confianza.

Al terminar podrás

  • Clasificar los daños de la IA según afecten a personas, grupos, organizaciones o ecosistemas.
  • Usar las siete características de la IA confiable de NIST como lista de verificación.
  • Reconocer los doce riesgos propios de la IA generativa descritos por NIST AI 600-1.
  • Estimar un riesgo con probabilidad y severidad, y distinguir riesgo inherente de residual.
Del peligro al riesgo residual. Una fuente de riesgo (datos, modelo, uso, persona) puede producir un daño a personas, organizaciones o ecosistemas. El riesgo combina probabilidad y severidad. Las características de la IA confiable funcionan como controles; lo que queda después de tratarlo es el riesgo residual, que alguien debe aceptar formalmente.

Conceptos del módulo

0 de 4 completados

Empezar