Imagen generada por IALa inteligencia artificial está acelerando el reconocimiento de objetivos, el phishing y la adaptación de exploits. La respuesta intuitiva es añadir más IA a la defensa y darle permiso para actuar antes que el atacante. El problema es que una máquina que decide rápido sobre activos que la organización no conoce solo produce errores más deprisa.
Ese es el punto de partida del webinar Before Scaling AI Defense: What Security Teams Need in Place First, presentado por Palo Alto Networks y anunciado por Bank Info Security para el 10 de noviembre de 2026, a las 13:00 EST. La sesión, de 60 minutos, plantea una cuestión bastante menos vistosa que “la IA contra la IA”, pero mucho más útil para un CISO: qué controles deben existir antes de automatizar contención, remediación y respuesta.
La respuesta gira alrededor de cuatro carencias operativas: visibilidad de los agentes de IA, gobierno de las identidades de máquina, validación de los parches y límites claros para la respuesta automática. No son detalles de implementación. Son las condiciones que determinan si una acción defensiva será una decisión fundada o un apagón con buena publicidad.
Para bancos, aseguradoras, fintech y proveedores tecnológicos, la discusión llega con una presión regulatoria concreta. DORA exige identificar activos y dependencias ICT, gestionar incidentes y controlar a los proveedores tecnológicos; NIS2 reclama medidas de gestión de riesgos y responsabilidad de la dirección; el Reglamento de IA introduce obligaciones sobre alfabetización y sistemas de alto riesgo; y el Reglamento de Ciberresiliencia ya activa, desde el 11 de septiembre de 2026, determinadas obligaciones de notificación para productos con elementos digitales.
La primera premisa del webinar es incómoda: no se puede defender de forma fiable aquello que no aparece en el inventario. El problema ya no consiste únicamente en saber qué servidores, portátiles o aplicaciones existen. También hay que localizar agentes autónomos, cuentas de servicio, claves API, tokens, modelos conectados a herramientas externas, repositorios que generan código y flujos que pueden ejecutar acciones sin intervención humana.
Un agente de IA puede consultar una base de datos, abrir un ticket, modificar una configuración o invocar una API. Desde la perspectiva del inventario tradicional, quizá sea “una aplicación”. Desde la perspectiva del riesgo, es una identidad con permisos, lógica de decisión, fuentes de datos y capacidad de impacto. Clasificarlo como una simple aplicación es la clase de simplificación que deja fuera precisamente lo peligroso.
La visibilidad debe responder, como mínimo, a seis preguntas:
La dificultad aumenta porque muchos agentes aparecen fuera de los procesos formales de adquisición. Un equipo de desarrollo puede conectar un modelo a un repositorio; operaciones puede desplegar una automatización para clasificar alertas; atención al cliente puede integrar un copiloto con un CRM. La compra puede no pasar por tecnología, pero el riesgo termina en tecnología, cumplimiento y auditoría.
DORA ofrece una referencia útil. Su artículo 6 exige un marco de gestión del riesgo ICT, mientras que el artículo 8 obliga a las entidades financieras a identificar, clasificar y documentar las funciones, activos de información y recursos ICT que soportan sus operaciones. El artículo 28 añade exigencias sobre el riesgo derivado de terceros ICT. Un agente desarrollado por un proveedor, alojado en una nube o conectado a una API externa no queda fuera porque se haya incorporado mediante una iniciativa de negocio.
La consecuencia práctica es clara: el inventario de IA debe integrarse con CMDB, gestión de identidades, catálogo de proveedores, clasificación de datos y registro de cambios. Mantener una hoja de cálculo aislada para “casos de uso de IA” no resuelve el problema. A lo sumo, crea otro documento que nadie consulta cuando llega la alerta.
La expansión de agentes y automatizaciones multiplica las identidades no humanas. Cuentas de servicio, certificados, secretos, claves de API y tokens permiten que los sistemas se autentiquen y actúen. A diferencia de un empleado, una identidad de máquina no cambia de puesto, no se va de vacaciones y no pregunta si una instrucción parece razonable. Puede conservar permisos durante meses y ejecutar cientos de acciones por minuto.
El gobierno de estas identidades no puede limitarse a crear una cuenta y rotar su contraseña. Hay que vincular cada identidad con un propietario, una finalidad, un conjunto mínimo de permisos, una fecha de revisión y un mecanismo de revocación. También conviene registrar el contexto de cada acción: qué agente actuó, con qué credencial, sobre qué recurso, siguiendo qué instrucción y con qué resultado.
Aquí aparece una diferencia esencial entre autenticación y responsabilidad. Saber que una llamada a una API fue realizada con un token válido no demuestra que la acción fuese autorizada en sentido operativo. El token puede haber sido robado, reutilizado por otro proceso o asignado a un agente cuyo alcance cambió sin una revisión formal.
El control debe combinar gestión de secretos, privilegio mínimo, segmentación, expiración de credenciales y trazabilidad. En sistemas de mayor impacto, la autorización debería ser específica para la acción y no solo para la sesión. Un agente con permiso para leer alertas no necesita necesariamente capacidad para aislar un servidor, modificar reglas de firewall o borrar evidencias.
El artículo 9 de DORA exige medidas de protección y prevención, y el artículo 10 aborda la detección de actividades anómalas. La conexión con las identidades de máquina es directa: si los registros no permiten distinguir entre un proceso legítimo, una automatización modificada y una credencial comprometida, la detección pierde precisión y la respuesta carece de contexto.
NIS2 apunta en la misma dirección. Su artículo 21 exige medidas técnicas, operativas y organizativas para gestionar los riesgos que amenacen la seguridad de las redes y sistemas de información. Entre ellas figuran la gestión de incidentes, la seguridad de la cadena de suministro, la evaluación de la eficacia de las medidas y el uso de criptografía, cuando proceda. Una identidad de máquina sin propietario, sin revisión y sin registro no es una excepción técnica: es una debilidad de gobierno que puede aparecer en varias de esas categorías a la vez.
Un inventario útil no necesita describir cada línea de código, pero sí debe hacer posible reconstruir el riesgo. Para cada agente o automatización conviene conservar el propietario de negocio y el técnico, la finalidad, los datos tratados, los permisos, las dependencias, el proveedor del modelo, la versión desplegada, las fechas de revisión y los mecanismos de parada.
El registro también debe indicar si el agente puede ejecutar acciones irreversibles. Enviar un correo de clasificación errónea es un problema operativo; transferir fondos, bloquear una cuenta, modificar un límite de crédito o eliminar un indicador de compromiso pertenece a otra categoría. La autonomía no debería definirse como una propiedad abstracta del modelo, sino como una combinación de permisos y consecuencias.
La automatización defensiva tiene un atractivo evidente. Si un sistema detecta una credencial comprometida, puede revocarla en segundos; si identifica un archivo malicioso, puede aislar el endpoint; si encuentra un código vulnerable, puede proponer un parche. El riesgo aparece cuando “puede proponer” se convierte sin transición en “puede desplegar”.
La IA puede equivocarse por datos incompletos, por una alerta mal clasificada, por una instrucción manipulada o porque el contexto haya cambiado desde el momento en que se entrenó o configuró. En ciberseguridad, un falso positivo no siempre es una molestia. Puede interrumpir una operación crítica, bloquear el acceso de un equipo entero o activar una cadena de recuperación innecesaria.
Por eso la contención automatizada debe diseñarse como un sistema de control, no como un botón de pánico con inteligencia artificial. Antes de permitir que un agente aísle activos o revoque identidades, la organización debería definir:
El principio de “human in the loop” tampoco debe convertirse en una formalidad. Si el sistema presenta una recomendación y el analista solo puede aceptarla en una pantalla sin contexto, la supervisión humana es decorativa. Para que exista control real, el operador necesita conocer la señal de origen, el activo afectado, el nivel de confianza, las alternativas descartadas, el impacto previsto y la forma de deshacer la acción.
DORA articula esta lógica en varios puntos. El artículo 11 exige capacidades de respuesta y recuperación frente a incidentes ICT; el artículo 12 aborda las copias de seguridad, los procedimientos de restauración y la recuperación; el artículo 13 reclama aprendizaje y evolución a partir de incidentes; y el artículo 14 trata la comunicación. Un sistema que aísla activos automáticamente pero no conserva la decisión, no permite la reversión o no alimenta el análisis posterior difícilmente cumple el objetivo de resiliencia, aunque genere miles de alertas por segundo.
La velocidad, además, no es el único criterio. Una acción defensiva debe evaluarse por su precisión, reversibilidad y trazabilidad. Revocar una credencial en diez segundos puede ser excelente si existe una alternativa segura y el impacto está acotado. Puede ser irresponsable si la identidad soporta pagos y no hay una cuenta de contingencia probada.
La generación asistida de código introduce otro frente. Las herramientas pueden producir funciones, configuraciones y correcciones con una rapidez que supera la capacidad de revisión de muchos equipos. Esa ventaja puede reducir tiempos de remediación, pero también puede introducir errores, dependencias vulnerables, secretos expuestos o cambios incompatibles con la arquitectura.
El problema no es exclusivo del código escrito por una máquina. La cuestión es si la organización puede demostrar qué se cambió, por qué se cambió, quién lo revisó y cómo se verificó antes del despliegue. Si la respuesta es “lo sugirió el copiloto”, no hay un control; hay una explicación de sobremesa.
La validación debe cubrir al menos la composición del software, el análisis estático y dinámico cuando proceda, las pruebas funcionales, la revisión de permisos, la detección de secretos y la comprobación de que la corrección no crea una regresión. En sistemas críticos, el parche debería desplegarse primero en un entorno controlado, con criterios de éxito y rollback definidos antes de ejecutarlo.
El Reglamento de Ciberresiliencia, Reglamento (UE) 2024/2847, añade una capa relevante para los productos con elementos digitales. Sus obligaciones principales de ciberseguridad serán aplicables desde el 11 de diciembre de 2027, pero las obligaciones de notificación de vulnerabilidades explotadas activamente y de incidentes graves comienzan el 11 de septiembre de 2026. En octubre de 2026, por tanto, los fabricantes afectados ya están dentro de esa primera fase de notificación. Un flujo de generación de código que modifica un producto comercial no puede tratarse como una herramienta interna sin consecuencias regulatorias.
El CRA exige procesos de gestión de vulnerabilidades durante el ciclo de vida del producto. Eso hace que la procedencia del código, el seguimiento de componentes y la capacidad de corregir fallos sean cuestiones de producto, no únicamente de desarrollo. La IA puede ayudar a localizar y remediar vulnerabilidades, pero no elimina la responsabilidad del fabricante ni convierte cada sugerencia en una corrección segura.
En las entidades financieras, DORA conecta esta cuestión con el ciclo de vida de los activos ICT y con la gestión de cambios. Una modificación de código generada por IA que afecta a un servicio crítico debe quedar sometida a los mismos controles de prueba, aprobación, segregación y recuperación que cualquier otra modificación. Cambiar el autor del código no cambia el riesgo de la modificación.
La fuente plantea un debate tecnológico, pero su lectura regulatoria es más interesante. Ninguna de las normas citadas obliga a una entidad a implantar defensa autónoma basada en IA. Lo que sí hacen es exigir capacidades que una automatización mal diseñada puede debilitar: identificación de activos, control de accesos, gestión de incidentes, evidencia, supervisión y responsabilidad.
El Reglamento de IA incluye una obligación transversal de alfabetización en su artículo 4, aplicable desde el 2 de febrero de 2025. No se trata de convertir a todos los analistas en ingenieros de modelos. Significa que las personas que utilizan sistemas de IA deben comprender sus capacidades, limitaciones y riesgos en la medida necesaria para su función. Un responsable que aprueba el aislamiento automático de servidores debería saber, por ejemplo, qué señales utiliza el agente y en qué situaciones puede equivocarse.
Para los sistemas de alto riesgo, el Reglamento de IA exige requisitos de gestión de riesgos, gobernanza de datos, documentación, registros, transparencia, supervisión humana, precisión, solidez y ciberseguridad. La clasificación concreta depende del uso y del producto, de modo que no todo sistema de detección o respuesta será automáticamente de alto riesgo. La conclusión prudente es otra: la clasificación no debe hacerse por la etiqueta comercial “copiloto”, sino por la finalidad, las personas afectadas y el impacto de las decisiones.
El GDPR también entra en la ecuación cuando los agentes procesan datos personales. El artículo 25 exige protección de datos desde el diseño y por defecto; el artículo 32 exige medidas de seguridad adecuadas al riesgo; y el artículo 33 fija, con carácter general, un plazo de 72 horas para notificar a la autoridad de control una violación de datos personales cuando sea probable que entrañe un riesgo para los derechos y libertades. Un agente que analiza registros, tickets o comunicaciones internas puede estar tratando datos personales aunque su objetivo sea exclusivamente defensivo.
La trazabilidad tiene aquí doble valor. Sirve para investigar un incidente y para demostrar qué datos recibió el sistema, qué decisión produjo y qué operador la validó. Si un agente de respuesta copia información sensible a un servicio externo o utiliza registros personales para generar una recomendación, el control de acceso y la minimización dejan de ser asuntos secundarios.
Las organizaciones suelen medir la madurez de la IA defensiva por el número de casos de uso desplegados, el volumen de alertas procesadas o la reducción del tiempo medio de respuesta. Son métricas útiles, pero incompletas. Una plataforma puede procesar más alertas y, al mismo tiempo, dejar sin propietario cientos de identidades, conservar registros insuficientes y ejecutar acciones imposibles de revertir.
Una evaluación más honesta debería examinar el porcentaje de agentes inventariados, la proporción de identidades con propietario, la edad de las credenciales, la cobertura de logging, el tiempo necesario para revocar permisos, la tasa de falsos positivos y el porcentaje de cambios generados por IA que pasan por validación independiente. Estas métricas no garantizan seguridad, pero revelan si la automatización está apoyada en controles o simplemente cubre carencias con una interfaz atractiva.
También conviene separar tres niveles de autonomía. El primero es la recomendación: el sistema analiza y propone. El segundo es la ejecución acotada: actúa sobre activos y acciones expresamente permitidos, con límites y reversión. El tercero es la autonomía amplia: decide y ejecuta sobre múltiples sistemas con supervisión posterior. La mayoría de las organizaciones debería demostrar que domina el segundo antes de acercarse al tercero.
La gradación importa especialmente en servicios financieros. Una recomendación para priorizar alertas no tiene el mismo impacto que una orden para bloquear un canal de pagos. El control debe seguir la consecuencia, no la novedad tecnológica. La palabra “agente” no convierte una tarea de bajo riesgo en una operación crítica, pero tampoco hace inocua una acción que antes requería una aprobación humana.
La preparación no consiste en comprar otra herramienta. Consiste en cerrar varias preguntas que normalmente están repartidas entre seguridad, arquitectura, desarrollo, compras, privacidad y negocio.
La primera es de alcance: qué agentes y automatizaciones están ya operativos, incluidos los creados fuera del catálogo tecnológico. La segunda es de autoridad: qué puede hacer cada identidad y qué acciones requieren aprobación. La tercera es de evidencia: qué registros permiten reconstruir una decisión seis meses después. La cuarta es de continuidad: cómo se mantiene la operación si el modelo, el proveedor o el agente dejan de estar disponibles. La quinta es de responsabilidad: quién responde por el resultado cuando una recomendación automática causa un daño.
Estas preguntas deberían aterrizarse en pruebas. Por ejemplo, una entidad puede simular el compromiso de una clave API y comprobar cuánto tarda en localizar todos los agentes que la utilizan, revocarla, emitir una nueva, revisar los registros y demostrar qué operaciones se ejecutaron durante la ventana de exposición. Puede probar también un falso positivo en el que el agente intenta aislar un sistema crítico y verificar si los límites funcionan.
El ejercicio no debe quedarse en el equipo de seguridad. DORA exige pruebas de resiliencia operativa digital en su capítulo IV, incluido el programa de pruebas y, para determinadas entidades, pruebas avanzadas basadas en escenarios y pruebas de penetración dirigidas por amenazas. Una automatización que participa en la detección o respuesta forma parte del servicio que debe probarse, no un componente invisible detrás de él.
La dirección también tiene un papel explícito. El artículo 5 de DORA sitúa la responsabilidad última del órgano de dirección sobre la gestión del riesgo ICT. NIS2, en su artículo 20, atribuye responsabilidades a los órganos de dirección en la aprobación y supervisión de las medidas de ciberseguridad, además de prever formación. La decisión de ampliar la autonomía de un agente no debería presentarse como una elección puramente técnica si afecta a funciones críticas, datos personales o servicios regulados.
La aportación más valiosa de la sesión anunciada por Bank Info Security no es la promesa de una nueva capa de automatización. Es la secuencia. Primero visibilidad de activos y agentes; después gobierno de identidades; luego validación de cambios y parches; finalmente, automatización de respuestas dentro de límites demostrables.
Ese orden contradice la lógica comercial habitual, que invita a empezar por la capacidad más llamativa. Pero responde mejor a la realidad operativa. La IA puede acelerar el reconocimiento de un atacante y también la propagación de un error defensivo. Puede encontrar una vulnerabilidad y también sugerir una corrección defectuosa. Puede detectar una credencial anómala y también utilizar una identidad con permisos excesivos.
La defensa madura no consiste en evitar toda autonomía. Consiste en hacer que cada acción automática tenga un propietario, una justificación, un alcance, una evidencia y una salida. Si la organización no puede explicar qué ocurrió, por qué ocurrió y cómo volver atrás, no ha automatizado la resiliencia: ha automatizado la incertidumbre.
Para los equipos que asistan a la sesión del 10 de noviembre, la pregunta útil no será cuántas funciones nuevas puede ofrecer la IA. Será bastante más concreta: ¿qué parte de nuestra infraestructura permitiríamos que una máquina modificase hoy, y qué inventario, identidad, registro y prueba justificarían esa confianza?
Ahí está el verdadero umbral de la defensa basada en IA. No en la velocidad de la herramienta, sino en la calidad de los controles que la mantienen dentro de la carretera.
Nota editorial
Priorizado con IAResumen semanal gratis
Suscríbete al resumen semanal de regulación, vulnerabilidades explotadas y acciones para tu equipo.
¿Quieres un plan a medida? Modela tu organización con Agentic Digital Twin.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…