Imagen generada por IAUn agente de IA que consulta un CRM, modifica una orden de pago o abre un ticket no es “solo software”. Tiene una identidad, utiliza credenciales, accede a recursos y deja —o debería dejar— un rastro de actividad. La diferencia frente a una cuenta de servicio tradicional es que puede interpretar instrucciones, encadenar acciones y decidir cuál será el siguiente paso sin que un operador revise cada llamada.
Ahí aparece el problema que muchos programas de IAM todavía intentan esquivar: las identidades no humanas han dejado de ser una cuestión puramente técnica. Son también una cuestión de gobierno, segregación de funciones, trazabilidad y responsabilidad jurídica.
El NIST AI Risk Management Framework no prescribe una arquitectura de IAM concreta ni convierte automáticamente a cada agente en un sistema de alto riesgo. Su valor está en otro sitio: obliga a tratar los riesgos de la IA como riesgos que deben gobernarse, medirse y gestionarse durante todo el ciclo de vida. Combinado con NIST CSF 2.0, ISO/IEC 27001:2022 y, para las entidades financieras europeas, DORA, ofrece una base bastante más útil que la habitual promesa de “poner un humano en el circuito”. Un humano que aprueba todo a ciegas no es supervisión; es decoración.
La pregunta para un CISO no es si su organización utiliza agentes. Probablemente ya lo hace, aunque el inventario corporativo los describa como automatizaciones, bots, conectores o funciones serverless. La pregunta es si puede responder, para cada uno, quién lo autorizó, qué puede hacer, con qué credencial, durante cuánto tiempo, contra qué datos y cómo se revoca su acceso en menos de una hora.
Una cuenta de servicio convencional suele ejecutar una tarea delimitada: lanzar una copia de seguridad, consultar una base de datos o procesar una cola. Un agente de IA añade una capa de interpretación. Recibe una instrucción, selecciona herramientas, decide el orden de las llamadas y puede generar nuevas acciones a partir de los resultados obtenidos.
Ese comportamiento introduce cuatro riesgos que no se resuelven con crear una cuenta en Microsoft Entra ID, Okta, Ping o cualquier otro proveedor de identidad.
El primero es la ampliación semántica del permiso. Un permiso aparentemente razonable —por ejemplo, “crear y actualizar clientes”— puede permitir que un agente convierta una petición ambigua en cambios masivos. El problema no está solo en el alcance técnico del token. Está en la interpretación que el agente hace de la instrucción y en la posibilidad de que los datos recuperados de una herramienta se conviertan en nuevas instrucciones.
El segundo es la delegación opaca. Un agente puede actuar con su propia identidad, con la del usuario que lo invocó o con una combinación de ambas. Si los registros solo muestran que “svc-ai-prod” modificó una póliza, no existe trazabilidad suficiente para saber qué usuario inició la acción, qué modelo tomó la decisión, qué versión de las instrucciones se ejecutó y qué herramienta produjo el resultado.
El tercero es la persistencia accidental. Los tokens se almacenan en variables de entorno, repositorios, sistemas de orquestación, historiales de conversaciones o herramientas de observabilidad. Revocar la identidad principal no revoca necesariamente copias del secreto, sesiones activas o credenciales emitidas por terceros.
El cuarto es la multiplicación silenciosa. Un único agente puede crear subprocesos, invocar plugins o delegar tareas a otros agentes. El inventario deja de ser una lista de cuentas y pasa a parecerse a un grafo: identidad principal, identidad de ejecución, herramientas, APIs, datos y decisiones.
Por eso conviene separar tres conceptos que a menudo se mezclan:
IAM cubre principalmente los dos primeros. Para los agentes de IA, el tercero es el que determina si una investigación posterior será posible o si la organización tendrá que confiar en capturas de pantalla y memoria humana.
El NIST AI RMF organiza la gestión del riesgo en las funciones Govern, Map, Measure y Manage. No es una norma de autenticación y no contiene una lista cerrada de controles para cuentas no humanas. Su utilidad para IAM está en obligar a formular preguntas que los equipos de identidad suelen dejar fuera de su perímetro.
Govern exige asignar responsabilidades, políticas y mecanismos de supervisión. Aplicado a un agente, significa que alguien debe ser responsable no solo del modelo, sino también de las herramientas que puede invocar, de los datos a los que accede y de los cambios que puede ejecutar. El propietario del modelo no tiene por qué ser el propietario del proceso de negocio. Esa diferencia debe estar documentada.
Map obliga a entender el contexto de uso. Un agente que resume documentos públicos y otro que modifica beneficiarios de una cuenta no comparten el mismo perfil de riesgo, aunque utilicen el mismo modelo fundacional. El análisis debe incluir usuarios afectados, datos tratados, dependencias, posibles daños y condiciones en las que el agente puede fallar.
Measure lleva la conversación hacia métricas y pruebas. Para IAM, eso se traduce en comprobar si las políticas de autorización se aplican realmente, si el registro permite reconstruir una acción y si la revocación funciona cuando el agente está ejecutándose en varios entornos. Una política que existe en Git pero nunca se prueba no es un control; es documentación aspiracional.
Manage conecta las conclusiones con decisiones: limitar capacidades, cambiar el diseño, introducir aprobación humana, retirar una herramienta o aceptar formalmente un riesgo. La función es especialmente relevante cuando el agente presenta un comportamiento útil pero impredecible. El negocio no puede responder a esa incertidumbre concediéndole más privilegios “para que funcione mejor”.
La traducción operativa es sencilla: cada agente necesita una ficha de identidad y riesgo, una frontera de autorización, una política de registro y un mecanismo probado de suspensión. Si falta cualquiera de las cuatro, la organización no controla la identidad; solo observa parte de ella.
Para una entidad financiera europea, la discusión no termina en el NIST AI RMF. DORA exige que el marco de gestión del riesgo TIC cubra identificación, protección, detección, respuesta y recuperación. El artículo 9 del Reglamento se ocupa de la protección y prevención, incluyendo políticas y procedimientos para proteger los sistemas de información y los recursos TIC. El artículo 10 aborda la detección de actividades anómalas y el artículo 11 la respuesta y recuperación frente a incidentes relacionados con las TIC.
Un agente con privilegios de escritura encaja en las tres capas. La identidad y sus permisos pertenecen a la prevención; una secuencia anómala de llamadas puede activar la detección; y la suspensión de tokens, claves y sesiones forma parte de la respuesta. No basta con que el proveedor de IAM permita desactivar la cuenta. La entidad debe demostrar que el agente deja de operar también en los sistemas y servicios dependientes.
DORA añade una dimensión crítica mediante el artículo 28, relativo a la gestión del riesgo de terceros proveedores de servicios TIC. Si un proveedor externo aloja el modelo, ejecuta el agente o administra sus herramientas, la entidad debe conocer qué funciones delega, qué datos atraviesan el servicio y qué controles puede verificar. El hecho de que el proveedor describa el producto como “autónomo” no convierte la autonomía en una excepción regulatoria.
NIST CSF 2.0 ofrece una estructura práctica para ordenar el trabajo. La categoría ID.AM cubre la gestión de activos; PR.AA, la gestión de identidad, autenticación y control de acceso; y GV, la gobernanza. El encaje es directo: el agente, sus claves, sus herramientas, sus cuentas subordinadas y sus conexiones deben aparecer en el inventario o quedar expresamente fuera con una justificación documentada.
ISO/IEC 27001:2022 aporta controles más concretos en su Anexo A. El control 5.15 trata del control de acceso; el 5.16, de la gestión de identidades; el 5.17, de la información de autenticación; y el 5.18, de los derechos de acceso. Para los agentes, la combinación importa más que cualquier control aislado. Crear una identidad sin revisar periódicamente sus derechos incumple el espíritu del modelo de mínimo privilegio aunque la cuenta utilice autenticación fuerte.
El AI Act europeo debe manejarse con precisión. No todos los agentes de IA son sistemas de alto riesgo y el Reglamento no establece una obligación general denominada “IAM para agentes”. Cuando un sistema entra en una categoría regulada, sí pueden resultar relevantes requisitos como la gestión de riesgos del artículo 9, el registro automático del artículo 12 y la supervisión humana del artículo 14. Pero esos artículos no sustituyen los controles de identidad. Un registro de decisiones no sirve de mucho si no puede vincularse de forma fiable con la identidad que ejecutó la acción.
La siguiente checklist está pensada para equipos que necesitan revisar agentes ya desplegados, no para diseñar una presentación sobre IA responsable. La prioridad no depende de lo sofisticado que sea el modelo, sino del daño que puede producir la identidad si se utiliza de forma indebida.
El registro debe contener, como mínimo, un identificador único del agente, propietario de negocio, propietario técnico, entorno, finalidad, modelo utilizado, versión de las instrucciones, herramientas autorizadas, datos tratados y fecha de la última revisión. También debe indicar si actúa con identidad propia, identidad delegada o una combinación de ambas.
El propietario no puede ser simplemente “el equipo de IA”. Esa etiqueta no responde a quién aprueba una ampliación de permisos ni quién decide retirar el agente. Para una aplicación financiera, el dueño del proceso debe aceptar el riesgo de negocio y el equipo de seguridad debe validar la arquitectura de identidad.
Evidencia auditable: registro exportable, ticket de aprobación, diagrama de flujos de identidad, matriz de responsabilidades y prueba de que los agentes retirados han sido desactivados junto con sus credenciales y conexiones.
Compartir una cuenta de servicio entre varios agentes destruye la atribución. Cada agente debe disponer de una identidad propia por aplicación y, cuando el riesgo lo justifique, por entorno. La identidad de desarrollo no debe poder invocar las mismas herramientas de producción.
La autenticación debe apoyarse preferentemente en credenciales de corta duración, federación de identidad, certificados gestionados o mecanismos de workload identity. Las claves estáticas son especialmente problemáticas cuando se copian en pipelines, contenedores o configuraciones de agentes. Si una integración exige una clave persistente, debe existir un propietario, una fecha de expiración, un almacén seguro y un procedimiento probado de rotación.
La autenticación del agente no sustituye la autenticación del usuario que lo activa. Cuando exista delegación, el token o el registro debe conservar ambos contextos: el sujeto humano original y la identidad técnica que ejecuta la llamada.
Evidencia auditable: configuración de federación, inventario de certificados y secretos, registros de emisión de tokens, pruebas de expiración y documentación del vínculo entre usuario iniciador y agente ejecutor.
El alcance “acceso al CRM” es demasiado amplio para un agente. La autorización debe especificar qué herramienta puede invocar, qué método, sobre qué datos y con qué límites. “Leer clientes” no equivale a “exportar todos los clientes”; “crear una transferencia” no equivale a “aprobarla”.
El diseño más seguro separa las capacidades de lectura, preparación y ejecución. Un agente puede preparar una orden, pero la confirmación puede requerir una política adicional, una aprobación humana o una segunda identidad. La segregación de funciones tradicional sigue siendo válida aunque el actor sea un modelo.
Los permisos deben ser contextuales cuando sea posible: entorno, horario, región, tipo de dato, volumen máximo y estado de la transacción. Un agente que procesa diez expedientes por hora no debería poder modificar diez mil registros en una única llamada porque la API no imponga un límite.
Evidencia auditable: políticas de autorización versionadas, relación de scopes y métodos API, pruebas negativas, límites de volumen, reglas de aprobación y resultados de revisiones periódicas de acceso.
La rotación debe cubrir todas las credenciales utilizadas por el agente: tokens de acceso, refresh tokens, claves API, certificados, secretos de webhooks y credenciales de herramientas externas. También debe contemplar copias temporales en colas, cachés, logs y sistemas de trazabilidad.
Una política de rotación cada 90 días puede ser insuficiente para una identidad con privilegios elevados o para un token que permite operar sobre pagos. La frecuencia debe relacionarse con el alcance, el valor del activo y la capacidad real de detección. El objetivo no es cumplir un número redondo, sino reducir la ventana de abuso.
La revocación debe probarse en condiciones reales: agente activo, varias réplicas, llamadas en cola y proveedor externo disponible. Revocar el secreto en el gestor central mientras una sesión sigue válida durante horas no es una revocación efectiva.
Evidencia auditable: política de TTL, registros de rotación, pruebas de revocación, inventario de ubicaciones donde se almacenan secretos y resultados de búsquedas que demuestren que no aparecen en repositorios o logs.
Un log que dice “agente actualizado” es insuficiente. La traza debería permitir reconstruir, al menos, el usuario o sistema que inició la solicitud, el identificador del agente, la versión del modelo o servicio, la versión de las instrucciones relevantes, la herramienta invocada, la operación, el recurso afectado, el resultado, la política que autorizó la acción y la marca temporal.
No hace falta registrar indiscriminadamente cada fragmento de una conversación. Sí hace falta conservar la información necesaria para explicar una decisión con impacto operativo o regulatorio. El diseño debe equilibrar trazabilidad y minimización de datos, especialmente cuando los prompts incluyen información personal o confidencial.
Los logs deben protegerse frente a alteración y acceso indebido. En una investigación, la pregunta no será solo qué hizo el agente, sino si el registro pudo ser modificado después. Para operaciones críticas conviene aplicar almacenamiento inmutable, sellado temporal o controles equivalentes.
Evidencia auditable: esquema de eventos, ejemplos de trazas completas, retención definida, controles de integridad, permisos de acceso al sistema de logging y una reconstrucción documentada de una operación de prueba.
La supervisión humana debe diseñarse alrededor de decisiones concretas, no alrededor de una casilla que diga “revisión humana”. El agente puede operar sin aprobación para consultas de bajo impacto, requerir confirmación para cambios reversibles y quedar bloqueado ante operaciones irreversibles, transferencias, cambios de beneficiario o acceso a categorías especiales de datos.
El límite debe estar implementado en la herramienta o en la política de autorización. Pedir al modelo que “recuerde no transferir más de 10.000 euros” es una instrucción, no un control de seguridad. La API debe rechazar la operación por encima del umbral.
La persona supervisora necesita contexto suficiente para aprobar: acción propuesta, datos afectados, justificación, confianza o señales de incertidumbre y consecuencias. Si recibe cientos de aprobaciones idénticas por minuto, el control se convierte en una fábrica de clics.
Evidencia auditable: matriz de acciones y niveles de aprobación, reglas técnicas de bloqueo, muestras de rechazos, métricas de aprobaciones y pruebas de que la persona puede cancelar o revertir la acción.
Cada agente debe tener un “kill switch” que no dependa de la disponibilidad del propio agente. La ruta de apagado debe poder suspender la identidad, invalidar tokens, bloquear llamadas a herramientas y aislar procesos activos. En entornos distribuidos, el procedimiento debe cubrir colas, funciones serverless, contenedores y proveedores externos.
La organización también necesita una condición de cuarentena automática. Un número anómalo de llamadas, acceso a recursos fuera de patrón, intento de usar una herramienta no autorizada o cambios masivos debería activar una respuesta predefinida. DORA art. 10 da relevancia a la detección de actividades anómalas; en un entorno de agentes, esa anomalía puede ser una secuencia de acciones perfectamente válidas por separado pero peligrosa en conjunto.
Evidencia auditable: procedimiento de emergencia, responsables y contactos, simulacro de revocación, tiempo medido hasta el bloqueo efectivo y lista de dependencias que deben comprobarse después del apagado.
Una implementación puede cumplir los controles clásicos de IAM y seguir expuesta a ataques de prompt injection, abuso de herramientas o manipulación de datos recuperados. La autenticación demuestra quién llama. No demuestra que la instrucción sea legítima ni que el resultado sea seguro.
Por eso el perímetro de autorización debe situarse también alrededor de las herramientas. Un agente que lee un correo no debería poder convertir automáticamente cualquier contenido de ese correo en una orden de ejecución. Las instrucciones provenientes de datos externos deben tratarse como datos no confiables, incluso cuando el modelo las interprete con seguridad.
La arquitectura debe aplicar validación de entrada, listas permitidas de herramientas, validación de parámetros, límites de frecuencia, aislamiento entre sesiones y comprobaciones de salida. Para operaciones sensibles, la acción debe pasar por un servicio determinista que valide reglas de negocio antes de ejecutarse. El modelo puede proponer; el servicio decide.
Este principio reduce también el riesgo de “confusión de autoridad”. Una instrucción que llega desde un documento, una página web o un mensaje de cliente no tiene el mismo nivel de confianza que una orden autenticada del sistema de pagos. El agente debe conservar esa diferencia en el contexto y no mezclar fuentes de autoridad.
El error más habitual es almacenar políticas en un repositorio y asumir que la auditoría ha terminado. Un control defendible necesita diseño, operación y prueba. Para cada agente, el expediente debería responder a cinco preguntas.
La evidencia debe ser reproducible. Si compliance solicita demostrar que un agente no podía exportar datos, no basta con mostrar la política actual. Hay que demostrar qué política estaba activa durante el periodo auditado y qué ocurrió cuando se intentó una operación prohibida.
Para entidades sujetas a DORA, esta disciplina conecta con el registro de incidentes TIC, las pruebas de resiliencia y la gestión de terceros. Si un proveedor de IA participa en una función crítica o importante, la revisión debe cubrir sus mecanismos de autenticación, logging, segregación de clientes, subcontratación y asistencia durante incidentes. El contrato no debería limitarse a prometer “seguridad empresarial”; esa frase no tiene valor forense.
En el ámbito de privacidad, GDPR art. 5 exige principios como minimización, limitación de finalidad e integridad y confidencialidad. GDPR art. 25 exige protección de datos desde el diseño y por defecto, mientras que el art. 32 pide medidas técnicas y organizativas adecuadas al riesgo. No todos los logs deben conservar prompts completos. El diseño debe decidir qué atributos son necesarios para atribuir una acción y cuáles introducen una exposición innecesaria.
Si una violación de datos personales afecta a derechos y libertades, GDPR art. 33 establece la notificación a la autoridad de control, cuando proceda, sin dilación indebida y, en general, dentro de las 72 horas desde que se tiene constancia. Una identidad de agente mal gobernada puede acelerar el incidente y complicar la investigación: más sistemas tocados, más credenciales implicadas y una línea de tiempo más difícil de reconstruir.
El número de agentes registrados es una métrica de inventario, no de control. Las métricas útiles miden exposición y capacidad de respuesta:
La métrica más reveladora suele ser la excepción: cuántos agentes no pueden apagarse de forma independiente, cuántos comparten una identidad y cuántos dependen de un proveedor cuyo registro no puede exportarse. Esas excepciones son el mapa real del riesgo.
Los agentes de IA no eliminan la necesidad de IAM; hacen visible que el IAM tradicional estaba diseñado para un mundo con muchos menos sujetos dinámicos y mucha menos capacidad de decisión automatizada. El control de acceso deja de ser una tabla estática de usuarios y roles. Pasa a ser una combinación de identidad, contexto, herramienta, finalidad, límites y evidencia.
El NIST AI RMF aporta el lenguaje para gobernar el riesgo de la IA. NIST CSF 2.0 ordena las capacidades de ciberseguridad. ISO 27001 convierte el acceso y la gestión de identidades en controles auditables. DORA lleva la conversación al terreno de la resiliencia operativa, los incidentes y los terceros TIC. El AI Act puede añadir obligaciones cuando el sistema entra en su ámbito de aplicación, pero no debe utilizarse como sustituto de una arquitectura de identidad bien diseñada.
La prueba final es incómodamente práctica: si un agente modifica una cuenta, ¿puedes identificar en minutos quién lo activó, qué autorización utilizó, qué versión del agente estaba desplegada, qué datos consultó, qué regla permitió la acción y cómo impedirías que volviera a ejecutarla?
Si la respuesta depende de revisar logs incompletos o de preguntar al equipo que creó el prototipo, la organización no tiene todavía una identidad gobernada. Tiene una cuenta con iniciativa propia. Y eso, en un entorno financiero, es una diferencia bastante cara.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal de regulación, vulnerabilidades explotadas y acciones para tu equipo.
¿Quieres un plan a medida? Modela tu organización con Agentic Digital Twin.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…