Durante décadas, la auditoría de sistemas ha descansado sobre una premisa implícita: el software hace lo que está programado para hacer. Los controles se diseñan sobre esa previsibilidad — se revisan reglas, permisos, flujos de aprobación y registros, y se concluye sobre un comportamiento que, en esencia, es determinista.
Los agentes de IA rompen esa premisa. Un agente no ejecuta un flujo predefinido: interpreta un objetivo, decide una secuencia de acciones y utiliza sistemas reales — correo, repositorios, ERP, herramientas internas — para llevarla a cabo. El comportamiento ya no está escrito en el código; emerge en tiempo de ejecución.
Dónde aparece el riesgo
De ese cambio de naturaleza se derivan riesgos que los marcos de control actuales no contemplan bien:
- Autorización efectiva vs. autorización formal. Un agente con credenciales válidas puede encadenar acciones individualmente legítimas hasta un resultado que nadie autorizó. La segregación de funciones clásica no fue diseñada para identidades que ejecutan miles de operaciones por hora.
- Trazabilidad del razonamiento. Cuando un agente concluye y actúa, el "por qué" no queda en ningún log convencional. Sin registro del contexto, las instrucciones y las herramientas invocadas, no hay evidencia auditable.
- Deriva de comportamiento. El mismo agente, con el mismo objetivo, puede actuar distinto tras un cambio de modelo, de prompt o de datos de contexto. El concepto de "versión desplegada" se difumina.
- Cadena de suministro cognitiva. Modelos, prompts de sistema, herramientas conectadas y fuentes de contexto son dependencias críticas — cada una con su propio ciclo de cambios, a menudo fuera del perímetro de la organización.
La pregunta de auditoría deja de ser "¿hace el sistema lo que dice el diseño?" y pasa a ser "¿qué puede llegar a hacer, y cómo lo sabríamos?".
Un punto de partida para el auditor
No hace falta esperar a un marco regulatorio definitivo para empezar. Tres frentes concretos:
- Inventario. Saber qué agentes operan en la organización, con qué credenciales, sobre qué sistemas y bajo la responsabilidad de quién. Hoy, en la mayoría de organizaciones, esta lista no existe.
- Límites verificables. Presupuestos de acción, listas de herramientas permitidas, aprobación humana para operaciones irreversibles — y evidencia de que esos límites se aplican técnicamente, no solo en una política.
- Registro a prueba de auditoría. Contexto, decisiones y acciones de cada ejecución, retenidos y protegidos igual que cualquier otro registro crítico.
La profesión ha absorbido antes cambios de esta escala — la informatización, la nube, el dato masivo. La diferencia es la velocidad: los agentes se están desplegando en meses, no en décadas. El momento de construir el mapa de riesgos es ahora, mientras el inventario todavía cabe en una página.