Seguridad de la IA: ataques, agentes e IA en la sombra
Reconocer cómo se ataca un sistema de IA, qué riesgos añaden los modelos de lenguaje y los agentes, y cómo evitar que los empleados filtren información usando IA sin control.
Al terminar podrás
Clasificar los ataques a sistemas de IA según la taxonomía de NIST AI 100-2.
Aplicar el OWASP Top 10 para aplicaciones con LLM, en especial la inyección de instrucciones directa e indirecta.
Diseñar controles para agentes: mínimo privilegio, compuertas de aprobación humana y trazabilidad.
Gestionar la IA en la sombra con una política de uso aceptable y alternativas seguras, en vez de prohibiciones.
Las superficies de ataque de la IA y sus controles. Los ataques pueden apuntar a los datos (envenenamiento), al modelo (evasión, extracción) o a la aplicación (inyección de instrucciones). Los agentes amplían el daño porque actúan. Y el riesgo más frecuente es interno: empleados que usan IA sin control. Cada superficie tiene su familia de controles.
Transparencia: conversas con un sistema de IA; sus respuestas citan fuentes, pero no son asesoría legal. Guardamos tus conversaciones 90 días para darte seguimiento; puedes borrarlas en «Mi acceso».
Contexto: M09 · Seguridad de la IA: ataques, agentes e IA en la sombra
Activa tu acceso
GOBERNA responde con fuentes verificadas desde el plan Esencial ($35.000 al mes, IVA incluido). Si ya tienes tu código, actívalo; si no, elige el plan que corresponde a tu empresa.