Imagen generada por IAUn agente de IA no necesita una cuenta de empleado para convertirse en un problema de IAM. Le basta con un token, acceso a una API y permiso para ejecutar una acción que alguien tendrá que explicar después.
Ese cambio desplaza el centro de gravedad de la gestión de identidades. Durante años, las organizaciones han controlado usuarios humanos, cuentas de servicio y aplicaciones relativamente previsibles. Ahora deben gobernar sistemas que pueden interpretar instrucciones, invocar herramientas, encadenar tareas y tomar decisiones operativas a una velocidad que ningún comité de accesos puede revisar manualmente.
La pregunta para un CISO europeo ya no es solo quién puede entrar en un sistema. Es qué agente actuó, con qué identidad, usando qué credencial, bajo qué política, contra qué datos, con qué margen de autonomía y cómo se le revoca el acceso cuando empieza a comportarse de forma inesperada.
El AI Risk Management Framework del NIST ofrece una base útil para ordenar esa conversación. No es una norma obligatoria ni convierte una arquitectura de agentes en conforme por arte de magia. Su valor está en conectar gobernanza, identificación de riesgos, medición y gestión. La decisión importante es traducir esas funciones a controles de identidad que puedan probarse, auditarse y, sobre todo, ejecutarse cuando la automatización se descontrole.
Una cuenta de servicio tradicional suele ejecutar una función acotada y relativamente determinista: transferir ficheros, procesar una cola, consultar una base de datos o lanzar un proceso nocturno. Su riesgo no es pequeño, pero se puede describir con bastante precisión.
Un agente de IA añade varias capas de incertidumbre. Puede recibir una instrucción en lenguaje natural, elegir una herramienta entre varias, recuperar información de un repositorio, generar una respuesta y ejecutar una acción externa. Si además conserva memoria o delega tareas en otros agentes, la identidad inicial deja de contar toda la historia.
Imaginemos un agente de operaciones de pagos. Tiene permiso para consultar órdenes pendientes, revisar alertas de fraude y solicitar una retención. Si su arquitectura permite que el modelo construya libremente llamadas a APIs, el permiso efectivo no depende solo del rol asignado. Depende también de los conectores disponibles, de las instrucciones del sistema, de los datos recuperados y de las reglas que validan la salida antes de ejecutarla.
Aquí aparece una distinción que muchas empresas todavía mezclan:
Si los registros solo conservan la cuenta técnica del agente, la organización pierde la cadena de responsabilidad. El log dirá que svc_ai_ops llamó a una API. No dirá qué instrucción originó la llamada, qué versión del modelo intervino, qué datos recuperó el agente ni qué aprobación humana existía, si existía alguna.
Eso no es un problema de estilo documental. Es una limitación de control. Sin esa cadena, resulta difícil investigar un incidente, demostrar el cumplimiento del principio de mínimo privilegio o determinar si una operación fue autorizada por una persona, por una política o por una interpretación defectuosa del modelo.
El NIST publicó la versión 1.0 del AI Risk Management Framework el 26 de enero de 2023. El marco organiza el trabajo en cuatro funciones: Govern, Map, Measure y Manage. Su aplicación a identidades no humanas es más útil si se evita una lectura superficial.
Govern obliga a decidir quién responde por el agente y qué nivel de autonomía puede tener. En una arquitectura con varios proveedores, el propietario del modelo no es necesariamente el responsable del agente. Una entidad financiera puede utilizar un modelo de un proveedor externo, un orquestador propio y herramientas de terceros. El gobierno debe asignar responsabilidad sobre la identidad, los permisos, las instrucciones, los datos y la supervisión. Si todo queda atribuido al proveedor del modelo, la gobernanza se convierte en una manera elegante de no ser responsable de nada.
Map sirve para describir el contexto de uso. El inventario no debe limitarse a modelos. Debe incluir agentes, subagentes, conectores, tokens, almacenes de memoria, fuentes de datos, herramientas invocables y relaciones de confianza. También debe registrar qué ocurre si el agente falla: si solo produce una recomendación, si inicia una transacción o si puede cambiar un control de seguridad.
Measure introduce la necesidad de probar el comportamiento y los controles. En IAM, eso significa medir si el agente intenta acceder a recursos fuera de su propósito, si usa credenciales más tiempo del necesario, si las políticas bloquean instrucciones maliciosas y si los registros permiten reconstruir una decisión. Una prueba de calidad del modelo no sustituye una prueba de autorización.
Manage exige responder al riesgo identificado. Para un agente, la respuesta no puede consistir únicamente en corregir el prompt. Debe incluir la suspensión de la identidad, la revocación de tokens, el aislamiento de herramientas, la conservación de evidencias y la revisión de acciones ya ejecutadas.
El NIST AI RMF no prescribe un protocolo concreto de autenticación ni un producto de IAM. Esa ausencia es deliberada. Permite utilizar OAuth 2.0, OpenID Connect, certificados de carga de trabajo, claves de corta duración o una combinación de ellos, siempre que la arquitectura mantenga una relación verificable entre sujeto, contexto y acción.
El perfil de IA generativa NIST AI 600-1, publicado en julio de 2024, amplió el análisis hacia riesgos propios de los sistemas generativos. Para los agentes, el punto decisivo es que una salida del modelo puede convertirse en una entrada operativa para otra herramienta. El control debe colocarse en el punto de ejecución, no confiar en que el modelo produzca siempre una instrucción segura.
Un agente no debería autenticarse con una credencial estática compartida por todos los entornos. Las claves permanentes son el equivalente digital de dejar una tarjeta de acceso pegada a la puerta: funcionan hasta que alguien la encuentra, y después nadie sabe qué puertas abrió.
La autenticación debería combinar, según el riesgo, una identidad de carga de trabajo, credenciales de corta duración y una vinculación explícita con el entorno de ejecución. Para una tarea de bajo impacto puede bastar una identidad de servicio federada. Para una operación que modifique saldos, pagos o permisos administrativos, el sistema debería exigir un contexto adicional: finalidad, recurso, alcance temporal, aprobación o intervención humana.
La autorización debe ser más fina que el tradicional rol de lectura o escritura. Un agente de conciliación puede leer movimientos y generar una propuesta, pero no debería aprobar una transferencia. Un agente de soporte puede consultar el estado de una cuenta, pero no exportar el historial completo de clientes. Un agente de desarrollo puede desplegar en un entorno de pruebas, pero no obtener credenciales de producción por el mero hecho de que el repositorio contenga un secreto.
El principio de mínimo privilegio necesita aquí una dimensión temporal y contextual:
La política de autorización no debe depender solo de lo que el agente diga que quiere hacer. Un agente puede afirmar que necesita exportar datos para resolver una incidencia. El sistema debe evaluar el recurso solicitado, la clasificación de la información, la finalidad registrada, el origen de la instrucción y el resultado potencial. La intención declarada por el modelo es un dato, no una autorización.
La trazabilidad completa exige registrar, como mínimo, el identificador del agente, la versión del modelo y de las instrucciones, el propietario funcional, la sesión, el usuario que inició la tarea, los recursos consultados, las herramientas invocadas, las decisiones de autorización, los resultados y las revocaciones. En organizaciones reguladas conviene añadir el identificador de cambio, el entorno, la política aplicada y el hash o referencia inmutable del registro.
No hace falta conservar cada token generado por el modelo para demostrar control. Sí hace falta poder reconstruir por qué se ejecutó una acción concreta. El diseño debe equilibrar trazabilidad, secreto empresarial y protección de datos. Guardar el contenido íntegro de una conversación con datos de clientes puede crear un segundo incidente mientras se intenta investigar el primero.
La legislación europea todavía no necesita mencionar cada nueva etiqueta tecnológica para alcanzar el problema. DORA se aplica desde el 17 de enero de 2025 y obliga a las entidades financieras a gestionar el riesgo TIC como una disciplina de gobierno, control y resiliencia.
El artículo 6 de DORA exige un marco de gestión del riesgo TIC documentado y revisado. Un agente con acceso a sistemas críticos no puede quedar fuera del inventario porque el proveedor lo describa como una función de inteligencia artificial y no como una aplicación. Si ejecuta procesos, consulta información o modifica configuraciones, forma parte del riesgo TIC de la entidad.
El artículo 9, dedicado a la protección y prevención, conecta directamente con la gestión de identidades, el control de accesos y la seguridad de los activos TIC. La entidad debe poder demostrar que el agente solo utiliza los recursos necesarios y que los accesos se revisan, registran y revocan. El artículo 11, sobre respuesta y recuperación, añade una exigencia operativa: una entidad que no puede desactivar rápidamente un agente no tiene una capacidad de respuesta completa, por mucho que su centro de operaciones genere alertas impecables.
El artículo 28 de DORA introduce obligaciones sobre la gestión del riesgo derivado de terceros proveedores de servicios TIC. Si el agente utiliza un modelo, una plataforma de ejecución, un servicio de recuperación documental o una API externa, la entidad debe conocer qué parte de la cadena controla el proveedor y cuál conserva ella. El contrato no puede resolver la ausencia de una identidad técnica diferenciada, de logs disponibles o de un mecanismo de suspensión.
El artículo 30 establece elementos contractuales clave para los servicios TIC que soportan funciones críticas o importantes, incluidos derechos de acceso, inspección y auditoría. Para sistemas de agentes, la negociación debe ir más allá de la disponibilidad del servicio. Debe cubrir la conservación y exportación de registros, la notificación de cambios relevantes en el modelo o en los permisos, la subcontratación, la gestión de credenciales y la capacidad de terminar sesiones o revocar accesos.
El error habitual es clasificar el agente por la etiqueta del proveedor. La clasificación correcta parte de la función que desempeña. Un agente que resume reuniones no tiene el mismo perfil que uno que puede lanzar órdenes, cambiar límites de crédito o actualizar reglas antifraude. DORA mira el impacto operativo, no el entusiasmo del departamento de innovación.
El Reglamento de Inteligencia Artificial de la Unión Europea añade obligaciones distintas. Sus disposiciones generales sobre prácticas prohibidas comenzaron a aplicarse el 2 de febrero de 2025; las obligaciones para proveedores de modelos de propósito general empezaron a aplicarse el 2 de agosto de 2025; y la mayor parte del reglamento, incluido el régimen central de sistemas de alto riesgo, resulta aplicable desde el 2 de agosto de 2026. Para sistemas de IA de alto riesgo integrados en productos regulados existe un hito posterior, el 2 de agosto de 2027.
El artículo 9 del AI Act exige un sistema de gestión de riesgos para los sistemas de alto riesgo. El artículo 12 exige capacidades de registro de eventos durante la vida del sistema, y el artículo 14 regula la supervisión humana. Para un agente que intervenga en un proceso de alto riesgo, estos artículos refuerzan una conclusión práctica: la organización debe saber qué ha hecho el sistema y debe conservar una capacidad real de intervención, no un botón decorativo que solo funcione en las presentaciones.
El artículo 50 incorpora obligaciones de transparencia para determinados sistemas, incluida la información al usuario cuando interactúa con un sistema de IA y el marcado o divulgación de ciertos contenidos generados. Esa transparencia no sustituye la autenticación del agente. Un usuario puede saber que habla con una IA y, aun así, no saber qué permisos tiene ni qué sistema está a punto de modificar.
El GDPR aborda el mismo problema desde otra perspectiva. El artículo 32 exige medidas técnicas y organizativas apropiadas para garantizar la seguridad del tratamiento. El artículo 5.1.f recoge integridad y confidencialidad; el artículo 25 exige protección de datos desde el diseño y por defecto; y el artículo 33 fija, cuando procede, la notificación de brechas a la autoridad de control en un plazo de 72 horas desde que el responsable tiene constancia.
Para el responsable de privacidad, la identidad del agente importa porque define el acceso a datos personales y la capacidad de atribuir una consulta. Un agente que recupera más información de la necesaria puede vulnerar la minimización del artículo 5.1.c aunque el modelo no haya filtrado nada públicamente. El problema ocurre en el momento del acceso excesivo.
ISO/IEC 27001:2022 ofrece un vocabulario de control que encaja bien con esta arquitectura. El anexo A incluye los controles 5.15 sobre control de acceso, 5.16 sobre gestión de identidades, 5.17 sobre información de autenticación y 8.2 sobre derechos de acceso privilegiado. No son controles específicos de IA, pero sí permiten convertir el debate en evidencias auditables. El agente necesita una identidad gestionada, una autenticación protegida, una asignación de permisos justificada y una revisión del privilegio.
El NIST CSF 2.0, publicado en febrero de 2024, también ayuda a ordenar responsabilidades. Govern cubre la política y el riesgo de terceros; Identify, el inventario de agentes, modelos y dependencias; Protect, la autenticación, autorización y protección de secretos; Detect, la identificación de comportamientos anómalos; y Respond y Recover, la suspensión, investigación y restauración. El marco no sustituye a DORA, al AI Act o al GDPR. Sirve para que los controles no vivan en silos normativos distintos.
La revisión de accesos trimestral, diseñada para empleados y cuentas de servicio estables, resulta insuficiente si el agente puede cambiar de herramientas o recibir nuevas instrucciones cada semana. El ciclo de vida debe empezar antes del despliegue.
Cada agente debería registrarse con un identificador único, propietario técnico, propietario funcional, finalidad, modelo utilizado, proveedor, entorno, fuentes de datos, herramientas disponibles y nivel de impacto. La clasificación debe responder a una pregunta sencilla: ¿qué puede ocurrir si este agente se equivoca o si un atacante consigue dirigirlo?
Un agente que redacta una respuesta interna puede clasificarse como bajo impacto. Uno que consulta expedientes de clientes requiere un control de datos y privacidad más estricto. Uno que puede iniciar una transferencia, cambiar una regla de producción o conceder permisos debe entrar en una categoría de alto impacto, con autorización reforzada y supervisión.
La solicitud de acceso debe especificar la tarea, el recurso, la operación y la duración. Un permiso indefinido para una herramienta que el agente quizá utilice algún día no es mínimo privilegio; es una deuda de seguridad con fecha de cobro desconocida.
Conviene separar permisos de lectura, preparación y ejecución. El agente puede preparar una transferencia y dejarla pendiente de aprobación. Puede identificar candidatos a una modificación de configuración sin aplicarla. Esta separación reduce el impacto de una instrucción maliciosa o de una salida del modelo que el sistema interpreta de forma errónea.
Las credenciales deben ser de corta duración cuando la plataforma lo permita. La rotación automática no debe limitarse a cambiar el secreto: debe invalidar sesiones, tokens derivados y accesos delegados. Si un agente puede crear subagentes o emitir credenciales para otras herramientas, el sistema debe mantener una relación de delegación y revocar la cadena completa.
La revocación debe probarse como un procedimiento de respuesta, no archivarse como una posibilidad teórica. El equipo debe poder responder cuánto tarda en bloquear al agente, qué tokens quedan activos, qué acciones en curso continúan y qué evidencias se preservan. La cifra relevante no es cuántos agentes tiene la empresa, sino cuánto tarda en retirar sus permisos cuando el agente se comporta mal.
El propietario debe revisar periódicamente si la finalidad original sigue siendo válida, si el modelo ha cambiado, si se han añadido herramientas y si los datos tratados continúan dentro del alcance aprobado. La baja debe eliminar identidades, secretos, permisos, webhooks y rutas de confianza. Apagar la interfaz del agente no equivale a retirar su acceso.
La inyección de instrucciones es especialmente peligrosa cuando el agente puede recuperar contenido no confiable. Una página web, un correo o un documento puede contener texto que intente convencer al agente de revelar información, cambiar su objetivo o invocar una herramienta privilegiada.
El agente no tiene que ser comprometido como una cuenta administrativa para causar daño. Basta con que conserve un permiso legítimo y lo utilice en un contexto no previsto. Por eso el control debe situarse entre el modelo y la herramienta. El conector debe validar esquema, parámetros, destinatario, volumen, clasificación de datos y política de aprobación antes de ejecutar.
En una arquitectura bien diseñada, el modelo propone una llamada y un componente de política decide si puede realizarse. Esa separación reduce el riesgo de que el mismo componente interprete una instrucción y autorice su ejecución. También permite registrar el motivo del bloqueo y medir intentos de desviación.
Las pruebas deben incluir documentos maliciosos, instrucciones contradictorias, abuso de memoria, escalada entre agentes y uso de herramientas fuera de finalidad. El resultado esperado no es que el modelo jamás produzca una salida peligrosa. Es que una salida peligrosa no tenga por sí sola capacidad de producir un efecto irreversible.
La identidad de agentes es un control auditable porque deja rastros concretos. Una entidad debería poder reunir, para cada agente de riesgo relevante:
La calidad de la evidencia se mide por su capacidad de responder a una pregunta concreta. Si el registro solo muestra que una cuenta llamó a una API, no prueba quién inició la tarea ni por qué la política la permitió. Si el inventario dice que existe un agente, pero no identifica sus conectores ni secretos, no demuestra control del perímetro.
Los registros deben protegerse contra manipulación y limitarse a los datos necesarios. El equipo de privacidad debe revisar la retención, el acceso interno y la posibilidad de que los prompts contengan datos personales o información confidencial. La trazabilidad no es una licencia para almacenar conversaciones indefinidamente.
El hito más inmediato ya ha pasado: DORA es aplicable desde enero de 2025 y la mayor parte del AI Act ha comenzado a aplicarse el 2 de agosto de 2026. El siguiente plazo claramente definido para los sistemas de IA de alto riesgo integrados en productos regulados es el 2 de agosto de 2027.
Pero esperar a la fecha de aplicación correspondiente es una estrategia pobre para la gestión de identidades. Los cambios más costosos no son publicar una política de IA, sino descubrir que los agentes se desplegaron sin inventario, que las credenciales se comparten entre entornos o que el proveedor no entrega logs suficientes.
El orden correcto para anticiparse es operativo: primero identificar agentes y herramientas; después clasificar el impacto; a continuación separar identidades y permisos; luego probar revocación y trazabilidad; y finalmente ajustar contratos, políticas y controles de supervisión. La regulación puede fijar el plazo, pero no arregla una arquitectura que nunca distinguió entre una recomendación y una acción ejecutable.
El CISO debería exigir que el catálogo corporativo de identidades incluya agentes, subagentes y cuentas de servicio asociadas. El responsable de cumplimiento debería pedir evidencias de control, no solo una evaluación de riesgos en formato presentación. El responsable de privacidad debería verificar qué datos puede consultar cada agente y durante cuánto tiempo. Y el comité de riesgos debería aprobar expresamente los casos en los que la automatización puede producir efectos irreversibles.
Los agentes no necesitan ser tratados como empleados digitales. Necesitan un modelo de responsabilidad más preciso que el aplicado a una cuenta de servicio y más operativo que una declaración genérica de supervisión humana.
La regla útil es esta: ningún agente debería poder ejecutar una acción que la organización no pueda atribuir, limitar, registrar y revocar. Si falla cualquiera de esas cuatro condiciones, el problema no está en el modelo de lenguaje. Está en el diseño del control.
El NIST AI RMF aporta el lenguaje para gobernar el riesgo. NIST CSF 2.0 ayuda a integrarlo con la seguridad empresarial. ISO 27001 ofrece controles auditables. DORA impone disciplina sobre el riesgo TIC y los terceros financieros. El GDPR fija límites sobre los datos y la seguridad del tratamiento. El AI Act añade obligaciones sobre riesgos, registros y supervisión en los sistemas que entran en su ámbito.
Pero ningún marco hará el trabajo más incómodo: decidir qué puede hacer un agente, qué no puede hacer nunca y quién responderá cuando una automatización convierta una instrucción ambigua en una operación real. Esa conversación debe ocurrir antes de conceder el primer token, no después del primer incidente.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal de regulación, vulnerabilidades explotadas y acciones para tu equipo.
¿Quieres un plan a medida? Modela tu organización con Agentic Digital Twin.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…