Imagen generada por IAUn agente de inteligencia artificial puede consultar una cuenta, comparar opciones, ejecutar una transferencia y repetir la operación sin pedir permiso cada vez. La pregunta incómoda llega después: ¿quién responde cuando se equivoca?
Andrew Bailey, gobernador del Bank of England y presidente del Financial Stability Board, planteó esa cuestión el 17 de octubre de 2026 durante un acto del Group of Thirty en Bangkok. Su advertencia fue directa: los responsables políticos «tienen que abordar» el problema de los agentes de IA porque los usuarios podrían quedar confundidos sobre quién tiene la responsabilidad legal cuando crean un agente y le autorizan a realizar pagos u otras operaciones financieras.
No es una preocupación académica. Varios grandes bancos de Wall Street ya han restringido el acceso de estos sistemas a cuentas de clientes después de advertir a los reguladores de un riesgo muy concreto: que un agente mueva depósitos ociosos en busca de una rentabilidad superior y, al hacerlo, provoque operaciones no autorizadas, pérdidas o una salida rápida de liquidez.
La tecnología plantea una mutación relevante del problema de control. Con el software convencional, una entidad puede identificar una orden, un usuario, una regla y un registro. Con un agente autónomo aparecen decisiones encadenadas: quién definió el objetivo, qué datos utilizó el sistema, qué herramientas pudo invocar, qué límites tenía, qué aprobó realmente el cliente y qué ocurrió cuando el agente se apartó de su comportamiento esperado.
La tesis de este análisis es sencilla: la banca no necesita esperar a que llegue una nueva ley sobre agentes autónomos para empezar a gobernarlos. Ya existen obligaciones suficientes en DORA, el Reglamento General de Protección de Datos y el AI Act para exigir trazabilidad, supervisión humana, control de terceros, gestión de incidentes y capacidad de recuperación. Lo que falta no es otra declaración de principios. Falta convertir la autonomía del agente en una responsabilidad operativa demostrable.
El error sería tratar a los agentes de IA como una versión más sofisticada de un chatbot. Un chatbot responde. Un agente actúa. Puede descomponer un objetivo en tareas, elegir herramientas, consultar sistemas externos y ejecutar acciones con consecuencias económicas. Esa diferencia cambia el centro de gravedad del control interno.
Si un modelo genera una recomendación errónea, la entidad puede revisar el proceso de decisión y corregir el resultado. Si un agente tiene capacidad para mover dinero, cambiar límites, abrir una posición o modificar datos de cliente, el riesgo ya no se limita a la calidad de una respuesta. Se convierte en un riesgo de ejecución, fraude, liquidez, conducta, privacidad y resiliencia operativa.
Bailey acierta al señalar la responsabilidad, pero el debate debe ir un paso más allá. La pregunta no puede ser únicamente quién paga cuando el agente falla. También hay que determinar quién autorizó el diseño, quién definió el perímetro de actuación, quién aceptó el nivel de riesgo, quién supervisó la operación y quién tenía capacidad técnica para detenerla.
La responsabilidad no desaparece porque la decisión se haya repartido entre un proveedor de modelo, una plataforma de orquestación, una entidad financiera y un cliente. Tampoco se transfiere automáticamente al usuario por el hecho de que este haya pulsado «aceptar». Un consentimiento genérico no convierte en previsible cualquier acción futura de un sistema que puede cambiar de estrategia, utilizar nuevas herramientas o interpretar de forma distinta una instrucción ambigua.
La industria lleva años automatizando procesos. Lo nuevo es que el sistema puede decidir cómo alcanzar un objetivo. Ahí está el quid. Las entidades tendrán que gobernar no solo el resultado, sino también la delegación de criterio.
Imaginemos un agente que recibe instrucciones de un cliente: «mantén mi liquidez trabajando y evita riesgos excesivos». Para cumplirlas podría consultar saldos, analizar productos, transferir fondos, modificar una cartera y programar nuevas operaciones. Cada paso puede parecer razonable por separado. El conjunto, sin embargo, puede producir una exposición que el cliente nunca quiso asumir.
La cadena de responsabilidad tendría al menos cinco capas. El cliente aportó el objetivo. La entidad financiera definió los productos y los permisos. El equipo de tecnología configuró la arquitectura. El proveedor externo proporcionó el modelo o la infraestructura. Y el propio agente seleccionó una secuencia de acciones que nadie había escrito de forma explícita.
Los controles tradicionales suelen registrar el resultado final: importe, cuenta de origen, cuenta de destino y hora. Para investigar una actuación autónoma no basta. El registro debe permitir reconstruir la secuencia completa: versión del modelo, instrucciones del sistema, identidad del agente, herramientas disponibles, datos consultados, reglas aplicadas, aprobaciones humanas, llamadas a APIs y respuesta de cada sistema.
Esto no significa guardar indiscriminadamente cada token producido por un modelo. Significa diseñar una evidencia útil para una auditoría, una reclamación o una investigación de fraude. La entidad debe poder contestar preguntas muy concretas:
Si la respuesta depende de reconstruir conversaciones dispersas entre un proveedor cloud, un sistema de pagos y una herramienta de observabilidad, la entidad no tiene trazabilidad. Tiene arqueología digital.
La advertencia de Bailey no se limita a la protección individual del cliente. Los agentes podrían amplificar comportamientos similares entre muchas entidades y usuarios.
Un agente diseñado para optimizar efectivo podría trasladar depósitos hacia instrumentos con mayor rendimiento en cuanto detecte una diferencia de tipos. Miles de agentes utilizando datos, modelos o criterios parecidos podrían reaccionar a la misma señal y ejecutar movimientos al mismo tiempo. La lógica individual —buscar una mejora para cada cliente— produciría un efecto colectivo: salidas rápidas de depósitos, presión sobre la liquidez y ventas forzadas de activos.
El riesgo no requiere que todos los agentes estén conectados a un mismo modelo. Basta con que compartan fuentes de datos, proveedores de infraestructura, APIs de mercado o reglas de optimización semejantes. La concentración tecnológica puede convertirse en concentración de comportamiento.
El FSB ya ha identificado en distintos trabajos sobre inteligencia artificial cuestiones como la dependencia de proveedores tecnológicos, la concentración de servicios, la calidad de los datos, la ciberseguridad y la posibilidad de que la adopción de IA acelere dinámicas de mercado. Los agentes añaden una característica decisiva: no solo analizan el entorno; pueden actuar sobre él.
Eso introduce una diferencia entre un modelo predictivo y un sistema de ejecución. Un error de predicción puede generar una mala recomendación. Un agente con permisos puede convertir el mismo error en cientos de operaciones antes de que un operador humano lo detecte.
La respuesta regulatoria no debería ser prohibir cualquier autonomía. Sería poco realista y probablemente contraproducente. La cuestión es clasificar las acciones según su impacto y reservar la autonomía completa para tareas reversibles, acotadas y observables. Una consulta de saldo no tiene el mismo perfil que una transferencia internacional, la venta de activos ilíquidos o la modificación de un beneficiario.
Para bancos, empresas de servicios de inversión, aseguradoras y otras entidades financieras cubiertas, el Reglamento de Resiliencia Operativa Digital ofrece el marco más inmediato. DORA se aplica desde el 17 de enero de 2025, pero en 2026 sus exigencias ya no pueden tratarse como un proyecto de preparación.
El artículo 6 exige un marco de gestión del riesgo relacionado con las tecnologías de la información y la comunicación. Un agente con capacidad de ejecutar operaciones debe estar dentro de ese marco, no escondido en un laboratorio de innovación o bajo la etiqueta de «herramienta de productividad».
El artículo 8 obliga a identificar, clasificar y documentar las funciones, activos y dependencias de ICT. Para un agente esto implica inventariar el modelo, el orquestador, las herramientas, las APIs, las fuentes de datos, las credenciales y los procesos de negocio que puede afectar. Una entidad que solo inventaría el proveedor del modelo no ha identificado el servicio completo.
Los artículos 9 y 10 son igualmente relevantes: protección y prevención, por una parte; detección, por otra. En la práctica, eso exige autenticación fuerte de las llamadas del agente, separación de funciones, permisos de mínimo privilegio, límites de importe, listas de operaciones prohibidas, detección de anomalías y alertas sobre cambios de comportamiento.
El artículo 11 cubre la respuesta y recuperación. Un agente financiero no está controlado porque pueda ser apagado en teoría. La entidad debe probar que puede revocar sus credenciales, aislar sus conexiones, impedir nuevas instrucciones, preservar evidencias y recuperar el servicio sin corromper los datos ni dejar pagos pendientes en un estado ambiguo.
El artículo 12, sobre copias de seguridad y procedimientos de restauración, adquiere una dimensión adicional cuando el agente modifica datos o configuraciones. No basta con restaurar una base de datos. También hay que saber qué versión de políticas, permisos y parámetros debe volver a estar activa. Restaurar el sistema con las credenciales comprometidas sería una forma particularmente cara de repetir el incidente.
DORA también exige pruebas de resiliencia operativa digital en sus artículos 24 y siguientes. Las pruebas de agentes deben incluir escenarios de prompt injection, uso indebido de herramientas, respuestas manipuladas por datos externos, pérdida de conexión con el modelo, degradación de la calidad, duplicación de órdenes y ejecución fuera de horario. El típico test que confirma que la API responde con un código 200 no demuestra gran cosa.
Finalmente, el artículo 28 obliga a gestionar el riesgo de terceros ICT. El contrato con el proveedor debe cubrir auditoría, acceso a información, localización y disponibilidad de datos, asistencia durante incidentes, terminación y salida. En el caso de agentes, la due diligence debe alcanzar al modelo subyacente, los subencargados, la retención de prompts, el entrenamiento con datos del cliente, los cambios de versión y la capacidad de reproducir una decisión después de una actualización.
El artículo 30 exige que los contratos incluyan elementos esenciales sobre niveles de servicio, seguridad, asistencia y derechos de auditoría. Si el proveedor puede cambiar el modelo sin avisar o no conserva información suficiente para reconstruir una acción, la entidad no controla una dependencia crítica: la dependencia la controla a ella.
El GDPR introduce tres preguntas distintas. La primera es qué datos utiliza el agente. La segunda, con qué base y finalidad. La tercera, si la actuación produce una decisión exclusivamente automatizada con efectos jurídicos o efectos igualmente significativos.
El artículo 22 reconoce el derecho de la persona a no quedar sometida a una decisión basada únicamente en tratamiento automatizado cuando produzca efectos jurídicos o le afecte significativamente de modo similar, salvo las excepciones previstas. La concesión o denegación de crédito, la fijación de ciertas condiciones aseguradoras o la exclusión de un cliente pueden situarse en esa zona de riesgo, según el caso concreto y el efecto producido.
Un agente que ejecuta una transferencia solicitada por el cliente no es automáticamente una decisión del artículo 22. Pero un agente que clasifica a un cliente, decide si necesita revisión reforzada y bloquea una operación puede activar obligaciones mucho más exigentes. La entidad no debería resolver la cuestión con una etiqueta comercial como «asistente inteligente».
El artículo 5 exige licitud, lealtad, transparencia, limitación de la finalidad, minimización, exactitud, limitación del plazo de conservación e integridad y confidencialidad. El artículo 25 exige protección de datos desde el diseño y por defecto. El artículo 32 obliga a aplicar medidas técnicas y organizativas apropiadas al riesgo. Para agentes, esos artículos apuntan a permisos acotados, minimización de contexto, segregación de datos, controles contra extracción de información y pruebas de abuso.
El artículo 35 exige una evaluación de impacto relativa a la protección de datos cuando el tratamiento pueda entrañar un alto riesgo, incluido el perfilado sistemático y exhaustivo basado en aspectos personales. Una DPIA no debe ser un documento que describa el agente como si fuera un formulario. Debe mapear sus entradas, sus salidas, sus decisiones, sus herramientas, sus transferencias internacionales y sus vías de intervención humana.
El artículo 33 establece el plazo general de 72 horas para notificar una violación de seguridad a la autoridad de control cuando sea probable que entrañe un riesgo para los derechos y libertades. Si un agente expone datos de clientes o utiliza credenciales para acceder a cuentas, el equipo de privacidad y el de respuesta a incidentes necesitarán datos técnicos rápidos y fiables. Sin logs de calidad, el reloj de 72 horas empieza a correr mientras la organización todavía intenta averiguar qué hizo el sistema.
El AI Act no convierte toda IA utilizada por una entidad financiera en un sistema de alto riesgo. La clasificación depende del uso. El anexo III incluye, entre otros supuestos, determinados sistemas destinados a evaluar la solvencia de personas físicas o establecer su puntuación crediticia, salvo los utilizados para detectar fraude financiero. También incluye sistemas destinados a evaluar riesgos y fijar precios en seguros de vida y salud para personas físicas.
Un agente que ejecuta instrucciones de inversión no encaja automáticamente en esas categorías. Pero un sistema que decide qué cliente recibe financiación, qué prima se ofrece o qué operación se bloquea puede activar el régimen de alto riesgo si concurren las condiciones legales. La clasificación debe hacerse por función y efecto, no por el nombre que aparezca en la presentación del proyecto.
Para los sistemas de alto riesgo, el AI Act exige, entre otros elementos, un sistema de gestión de riesgos, gobernanza de datos, documentación técnica, registros de actividad, transparencia, supervisión humana, precisión, solidez y ciberseguridad. Los artículos concretos y las fechas de aplicación dependen de la disposición aplicable y de la categoría del sistema, pero en 2026 las entidades ya no pueden organizar sus programas como si el cumplimiento fuera una cuestión futura.
El artículo 14, dedicado a la supervisión humana, es especialmente importante para los agentes. Supervisar no significa colocar a una persona delante de una pantalla y pedirle que confirme cada operación sin capacidad real para entenderla. El supervisor debe poder interpretar la salida, detectar anomalías, ignorarla o revertirla y detener el sistema cuando sea necesario.
La supervisión puramente ritual es el equivalente regulatorio de un botón de emergencia conectado a nada. Si el agente ejecuta operaciones en segundos y el humano recibe una alerta agregada horas después, no existe control humano significativo.
NIS2 añade un marco útil para la gestión del riesgo de ciberseguridad en sectores esenciales e importantes, aunque las entidades financieras sujetas a DORA deben analizar la relación entre ambos regímenes: el artículo 4 de NIS2 contempla la aplicación de actos sectoriales de la Unión cuando establecen requisitos equivalentes o más específicos. No sirve, por tanto, sumar obligaciones de forma mecánica; hay que determinar qué norma actúa como lex specialis y qué exigencias permanecen aplicables.
El artículo 21 de NIS2 exige medidas técnicas, operativas y organizativas para gestionar los riesgos de los sistemas de información y redes. En un agente, eso cubre continuidad, gestión de incidentes, seguridad de la cadena de suministro, autenticación, criptografía y evaluación de la eficacia de las medidas. El artículo 23 establece obligaciones de notificación de incidentes significativos, con una alerta temprana en 24 horas y una notificación del incidente en 72 horas, sujeto a los requisitos aplicables a la entidad.
EIDAS 2.0, mediante el Reglamento (UE) 2024/1183, también importa cuando el agente utiliza identidad digital, firma electrónica o carteras europeas de identidad digital. El Reglamento introdujo el marco de las wallets europeas y el artículo 5a regula determinados aspectos de esas carteras. La oportunidad es clara: un agente no debería autenticarse ante servicios financieros con una identidad débil, compartida o imposible de atribuir. La identidad de la persona, la identidad del agente y la autoridad delegada deben quedar separadas y vinculadas.
NIST CSF 2.0, aunque no sea una ley europea, ofrece una estructura práctica para ordenar el programa: Govern, Identify, Protect, Detect, Respond y Recover. Su valor en este caso está en obligar a conectar el modelo con el riesgo de negocio. No basta con proteger el endpoint donde corre el agente si nadie sabe qué función crítica puede interrumpir o qué tercero puede desactivarlo.
CSRD solo entra de forma indirecta. La información sobre gobernanza, controles internos, riesgos tecnológicos y supervisión puede tener consecuencias para los informes de sostenibilidad cuando la IA se utiliza en procesos relevantes o cuando sus riesgos afectan a la estrategia y a la gestión. No debe presentarse como una norma de gobierno de agentes: no lo es. Pero tampoco conviene separar por completo el relato de control tecnológico del que la dirección comunica a inversores y supervisores.
El primer riesgo es la ejecución no autorizada. Un agente puede interpretar una instrucción amplia como una autorización permanente. La entidad debe distinguir entre consentimiento para una finalidad y autorización para cada clase de acción. Transferir fondos, modificar un límite, contratar un producto o cambiar un beneficiario no deberían compartir automáticamente el mismo permiso.
El segundo es la manipulación de herramientas. Los agentes suelen combinar instrucciones con datos recuperados de documentos, correos, páginas web o sistemas internos. Un documento malicioso puede intentar introducir instrucciones que el modelo trate como legítimas. La defensa exige separar datos de instrucciones, validar las llamadas a herramientas, restringir dominios, aplicar allowlists y volver a comprobar cada parámetro antes de ejecutar una acción.
El tercero es la deriva del modelo. Una actualización del proveedor puede cambiar la forma en que el agente interpreta una instrucción o decide cuándo utilizar una herramienta. El control de versiones debe abarcar el modelo, el prompt de sistema, las políticas, los conectores y los clasificadores. Si la entidad solo registra la fecha de despliegue de la aplicación, no podrá explicar por qué el comportamiento cambió.
El cuarto es el fraude escalable. Un atacante que robe una credencial de agente puede no necesitar acceso privilegiado a todos los sistemas. Le bastará con convencer al propio agente de que una operación es rutinaria. Las identidades de máquina deben tener credenciales efímeras, permisos por tarea, límites transaccionales y una ruta de revocación independiente del agente.
El quinto es la concentración. Si diez entidades utilizan el mismo proveedor de modelo, el mismo servicio cloud o el mismo componente de recuperación de información, un fallo común puede producir efectos simultáneos. DORA art. 28 obliga a mirar el riesgo de terceros, pero la dirección de riesgos debe ir más allá del contrato individual y agregar dependencias compartidas.
En seguros aparece además el riesgo de discriminación y de opacidad en la tarificación. Un agente que combina datos de salud, hábitos de consumo y señales indirectas puede producir una prima aparentemente precisa y jurídicamente problemática. La trazabilidad de la fuente de cada variable y la revisión de proxies no son lujos de ciencia de datos: son controles de conducta y privacidad.
La primera exigencia debe ser un inventario de capacidades, no de proyectos. La pregunta no es cuántas iniciativas de IA tiene la entidad, sino cuántos agentes pueden leer, escribir, decidir o ejecutar. Un agente que solo resume documentos pertenece a una categoría distinta de otro que puede ordenar pagos, modificar expedientes o negociar con un tercero.
La segunda es una matriz de autonomía. Cada acción debe tener un nivel: lectura, recomendación, ejecución reversible, ejecución de impacto medio o ejecución irreversible. El salto entre niveles debe requerir una aprobación explícita y técnicamente comprobable. Un límite de importe ayuda, pero no basta: una sucesión de operaciones pequeñas puede tener el mismo efecto que una grande.
La tercera es la asignación de un propietario ejecutivo y un propietario técnico. El primero responde por el riesgo de negocio y la aceptación del nivel de autonomía. El segundo responde por permisos, registros, pruebas y recuperación. El comité de riesgos debe recibir métricas sobre falsos positivos, intervenciones humanas, acciones bloqueadas, cambios de modelo, incidentes y tiempo de revocación.
La cuarta es exigir pruebas adversariales antes de producción y después de cambios relevantes. Deben comprobar si el agente puede inducirse a revelar datos, saltarse una política, utilizar una herramienta no autorizada, repetir una transacción, actuar con información incompleta o continuar operando después de que se haya revocado su sesión.
La quinta es probar el fracaso, no solo el funcionamiento. ¿Qué ocurre si el modelo no está disponible? ¿Si devuelve una respuesta ambigua? ¿Si la API del sistema de pagos confirma una operación pero el agente pierde la respuesta? ¿Si el proveedor cambia la versión durante una jornada de mercado? El procedimiento alternativo debe ser seguro y suficientemente rápido para no convertir una indisponibilidad tecnológica en un incidente de negocio.
Una entidad debería poder entregar, ante una auditoría o una investigación, un expediente completo de cada agente crítico. Ese expediente debería incluir la finalidad aprobada, el propietario, la clasificación de riesgo, el inventario de permisos, el modelo de amenazas, las pruebas realizadas, la DPIA cuando corresponda, los contratos de terceros, el plan de recuperación y los resultados de los controles.
Para cada acción relevante, los registros deberían conservar como mínimo una referencia temporal fiable, identidad del agente, identidad de la persona o proceso que delegó la acción, objetivo recibido, versión del modelo y políticas, herramientas invocadas, datos consultados, decisión de autorización, resultado de la operación y cualquier intervención humana. El contenido exacto debe equilibrar trazabilidad y minimización de datos. Guardarlo todo sin gobernanza puede crear otro problema de privacidad.
La entidad también necesita métricas que midan control. El porcentaje de acciones que requieren intervención humana es útil, pero puede engañar: un sistema que nunca escala porque carece de alertas parecería muy eficiente. Más relevantes son el tiempo medio para detectar una desviación, el tiempo para revocar permisos, el porcentaje de operaciones reproducibles, la tasa de acciones fuera de política, la cobertura de pruebas adversariales y el número de cambios de proveedor o modelo que han pasado por evaluación formal.
El objetivo no es crear una montaña de documentos para satisfacer a un auditor. Es poder demostrar tres cosas: que la entidad sabía lo que el agente podía hacer, que limitó lo que no debía hacer y que podía recuperar el control cuando el sistema se comportó mal.
La objeción habitual sostiene que exigir controles tan detallados hará que los agentes sean demasiado lentos o caros. Es una preocupación legítima en tareas de bajo riesgo. No lo es cuando se utiliza para justificar permisos amplios y supervisión ficticia.
La respuesta correcta es graduar la autonomía. Un agente que clasifica documentos puede operar con más libertad que uno que mueve dinero. Una consulta de saldo puede ejecutarse automáticamente; una transferencia a un nuevo beneficiario debería activar controles adicionales; una operación de alto impacto puede requerir autenticación reforzada y confirmación independiente.
La innovación no se frena por registrar una acción o limitar una credencial. Se frena cuando un incidente obliga a retirar toda la solución porque nadie puede explicar qué ocurrió. La banca ya conoce esta película: primero llega la presión comercial, después el piloto, más tarde el incidente y finalmente el comité descubre que el proveedor era «crítico» aunque nunca apareciera con esa etiqueta.
Además, la trazabilidad puede ser una ventaja competitiva. Un proveedor capaz de demostrar que su agente respeta límites, conserva evidencias y se recupera de forma segura tendrá más posibilidades de integrarse en procesos regulados que otro que prometa autonomía ilimitada y documentación mínima.
Bailey ha puesto el dedo en una cuestión que los reguladores acabarán tratando de una forma u otra: la delegación tecnológica no elimina la responsabilidad institucional. Puede fragmentarla, hacerla más difícil de investigar y crear conflictos entre cliente, entidad y proveedor. Pero no la hace desaparecer.
Las entidades financieras deberían actuar como si cada agente crítico fuese un empleado con capacidad de ejecutar órdenes, acceso a sistemas y posibilidad de cometer errores a gran velocidad. Eso implica definir su mandato, limitar sus poderes, supervisar su conducta, revisar sus cambios y retirar sus credenciales cuando sea necesario. La diferencia es que el agente no tiene nómina, conciencia ni responsabilidad legal. La entidad sí.
La pregunta para 2026 no es si los agentes autónomos llegarán a la banca. Ya están llegando. La pregunta es si las organizaciones podrán demostrar, operación por operación, quién autorizó cada acción, qué controles la limitaron y cómo recuperaron el sistema cuando falló.
Si no pueden hacerlo, no han automatizado una decisión. Han externalizado la responsabilidad y esperan que nadie pregunte hasta que el dinero ya se haya movido.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal y te avisamos de cada cambio en eIDAS 2.0: wallets de identidad digital, servicios de confianza y privacidad por diseno.
¿Necesitas priorizar acciones ya? Empieza un GAP Assessment eIDAS 2.0.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…