Imagen generada por IALa inteligencia artificial ya no es solo una herramienta para detectar amenazas. También redacta código vulnerable, automatiza campañas de ingeniería social, acelera el reconocimiento de objetivos y convierte ataques relativamente modestos en operaciones difíciles de separar del ruido diario. El Barcelona Cybersecurity Congress 2026 pondrá ese doble filo en el centro de su programa bajo el lema Connecting the European cybersecurity ecosystem.
La cita barcelonesa se presenta como un punto de encuentro entre instituciones públicas, centros de investigación, empresas tecnológicas y responsables de seguridad digital. El interés no está únicamente en las novedades de producto que puedan desfilar por los stands —la industria nunca se queda corta de siglas—, sino en una pregunta bastante más incómoda: qué controles necesitan las organizaciones cuando la misma tecnología que promete mejorar la defensa también abarata y escala el ataque.
La respuesta ya no pertenece solo al CISO. Afecta al responsable de privacidad, al departamento jurídico, a compras, a auditoría interna y al consejo de administración. En Europa, además, la conversación llega acompañada de obligaciones concretas. DORA se aplica desde el 17 de enero de 2025 a las entidades financieras incluidas en su ámbito; la mayor parte del Reglamento de Inteligencia Artificial de la UE será aplicable el 2 de agosto de 2026; y el Cyber Resilience Act empezará a imponer obligaciones de notificación sobre productos con elementos digitales el 11 de septiembre de 2026.
La IA lleva años integrada en productos de detección, análisis de malware, correlación de eventos y respuesta ante incidentes. La novedad de 2026 es otra: la tecnología ha pasado de ser una capa especializada del SOC a convertirse en una cuestión transversal de gobierno empresarial.
Un sistema que resume alertas puede ahorrar horas a un analista. Uno que genere reglas de detección puede acortar la respuesta a una campaña nueva. Un asistente que consulte documentación interna puede reducir el tiempo necesario para reconstruir un procedimiento durante una crisis. Pero todos esos usos plantean preguntas que no se resuelven comprando una licencia: ¿qué datos entran en el modelo?, ¿qué versión produjo la recomendación?, ¿quién aprobó la acción?, ¿qué ocurre si la respuesta automática bloquea un servicio crítico?, ¿puede la organización demostrar por qué siguió una recomendación algorítmica y no otra?
Aquí está el quid. La IA defensiva no elimina la necesidad de control; cambia el lugar donde debe existir. Antes, la evidencia estaba en una regla del SIEM, una configuración del EDR o un ticket de cambio. Ahora puede estar repartida entre un modelo, sus datos de contexto, una herramienta de orquestación y la persona que validó la respuesta. Si esa cadena no queda registrada, la organización tendrá una explicación convincente para una presentación comercial, pero no necesariamente para un regulador o un auditor.
El congreso puede servir precisamente para conectar esas piezas. Su valor no dependerá de cuántas demostraciones de asistentes generativos se presenten, sino de si consigue traducir la fascinación por la IA en decisiones operativas: qué casos de uso son aceptables, qué datos pueden utilizarse, qué controles deben ser obligatorios y dónde debe mantenerse la intervención humana.
El atractivo económico es evidente. Un SOC recibe más señales de las que un equipo puede investigar manualmente; una IA puede agrupar indicadores, extraer entidades, proponer hipótesis y redactar un primer informe. La automatización también puede ayudar a organizaciones medianas que no tienen un ejército de analistas disponible las 24 horas.
El problema aparece cuando la organización confunde velocidad con criterio. Una herramienta que clasifica una alerta como falsa positiva no está descubriendo la verdad: está aplicando un patrón basado en datos, configuración y contexto. Si el entorno cambia o el atacante utiliza una técnica no representada en los datos de entrenamiento, la confianza del sistema puede ser mayor que su precisión. Esa combinación —error con seguridad aparente— es especialmente peligrosa en ciberseguridad.
Hay cuatro riesgos técnicos que deberían dominar cualquier conversación seria sobre IA defensiva.
Un modelo generativo puede producir una explicación plausible de una alerta y recomendar un comando que no corresponde al sistema afectado. En un entorno de laboratorio, el resultado es una corrección manual. En producción, puede ser la interrupción de un servicio, la eliminación de evidencia o el cierre de una cuenta legítima.
La salvaguarda no consiste en pedirle al modelo que sea más prudente. Consiste en limitar sus permisos, separar la recomendación de la ejecución y exigir validación para acciones destructivas o irreversibles. La política debe distinguir entre leer logs, proponer una regla, aislar un equipo, rotar credenciales y borrar artefactos. No son operaciones equivalentes y no pueden compartir el mismo nivel de autonomía.
Los sistemas de IA dependen del material que consultan. Si el atacante consigue introducir información falsa en una base de conocimiento, manipular un repositorio de procedimientos o alterar los datos que alimentan una clasificación, puede influir en la respuesta defensiva sin atacar directamente al modelo.
La defensa exige controles conocidos, aunque a menudo se presenten con nombres nuevos: gestión de integridad, control de acceso, segregación de funciones, trazabilidad de cambios y revisión de fuentes. Una base RAG no deja de ser un repositorio crítico porque la documentación se entregue mediante una interfaz conversacional. Sus documentos necesitan propietario, clasificación, retención, versionado y control de modificaciones.
Cuando un agente puede leer correos, tickets, repositorios o páginas web y después actuar sobre sistemas internos, el contenido que procesa puede convertirse en una instrucción hostil. Un mensaje diseñado para manipular el contexto del agente puede pedirle que revele información, ignore una regla o ejecute una acción que el usuario nunca autorizó.
Por eso no basta con filtrar las preguntas que escribe el empleado. Hay que controlar también las instrucciones indirectas contenidas en los datos consultados. La arquitectura debe aplicar mínimo privilegio, limitar las herramientas disponibles, aislar secretos y registrar cada llamada a sistemas externos. Un agente con acceso a un SIEM, un gestor de identidades y una plataforma de tickets no es un chatbot simpático: es una cuenta privilegiada con una interfaz más amable.
Los modelos cambian. Cambian sus proveedores, sus versiones, sus políticas de moderación, sus fuentes y, en ocasiones, su comportamiento ante la misma entrada. Si la organización no registra el modelo utilizado, la versión, la configuración y los datos relevantes, no podrá reproducir la decisión seis meses después.
Ese detalle tiene una consecuencia regulatoria directa. La evidencia de un control no puede depender de que el proveedor conserve exactamente la misma respuesta. La empresa debe almacenar los elementos necesarios para reconstruir el proceso: entrada, salida, contexto recuperado, versión del modelo, usuario o servicio que inició la operación, acción adoptada y aprobación correspondiente.
La IA en ciberseguridad no vive en una burbuja normativa. Las obligaciones se solapan y cada texto mira una parte distinta del problema.
El Reglamento de Inteligencia Artificial de la UE introduce obligaciones específicas según el tipo de sistema y su uso. El 2 de agosto de 2026 empieza a ser aplicable la mayor parte del régimen general del AI Act, incluidas numerosas obligaciones para proveedores y responsables del despliegue. No todo uso de IA en seguridad será automáticamente de alto riesgo, pero tampoco es razonable clasificar cualquier herramienta como mero software auxiliar sin analizar su finalidad y sus efectos.
El artículo 4 del AI Act ya exige alfabetización en materia de IA a proveedores y responsables del despliegue desde el 2 de febrero de 2025. Para un equipo de ciberseguridad, esa obligación no debería traducirse en un curso genérico sobre cómo escribir prompts. La formación útil debe cubrir límites de uso, protección de secretos, validación de salidas, escalado de errores y reconocimiento de ataques contra sistemas de IA.
Los artículos 9 y 14 resultan especialmente relevantes cuando un sistema se clasifica como de alto riesgo: el primero exige un sistema de gestión de riesgos; el segundo se refiere a la supervisión humana. Aunque no todos los productos de detección o respuesta entren en esas categorías, ambos artículos ofrecen una referencia práctica para diseñar controles incluso cuando el caso de uso quede fuera del nivel más exigente. La organización que espera a que una clasificación jurídica le obligue a documentar lo básico suele descubrir que documentar lo básico lleva bastante más tiempo de lo anunciado.
DORA introduce otra capa para bancos, aseguradoras, empresas de inversión, entidades de pago y otras organizaciones financieras incluidas en su ámbito. El artículo 5 sitúa la responsabilidad última del órgano de dirección sobre el marco de gestión del riesgo de las tecnologías de la información y las comunicaciones. El artículo 6 exige un marco de gestión del riesgo TIC; el artículo 11 aborda la respuesta y recuperación; y los artículos 28 y siguientes regulan la gestión del riesgo asociado a terceros TIC.
La consecuencia para una entidad financiera que utilice un servicio de IA externo es clara: no puede tratarlo como una compra ordinaria de software si el servicio participa en funciones críticas o importantes. El contrato, la concentración de proveedores, los derechos de auditoría, la localización de datos, la subcontratación y la salida ordenada deben analizarse como parte del riesgo TIC. Si el modelo solo sirve para resumir comunicaciones internas, el riesgo será distinto que si decide qué transacciones pasan a investigación o qué sistemas deben aislarse durante un incidente.
NIS2 aporta una referencia adicional para entidades esenciales e importantes. Su artículo 21 exige medidas de gestión del riesgo de ciberseguridad, incluyendo políticas de análisis de riesgos, gestión de incidentes, continuidad, seguridad de la cadena de suministro, desarrollo seguro y uso de criptografía cuando proceda. La IA no sustituye esas medidas. Puede reforzarlas o debilitarlas, según cómo se integre. Un clasificador de alertas no compensa una mala gestión de identidades; un copiloto de respuesta no arregla un inventario de activos incompleto.
El Cyber Resilience Act añade una cuestión que suele quedar fuera de las conversaciones centradas en empresas usuarias: la responsabilidad del fabricante de productos con elementos digitales. El Reglamento entró en vigor el 10 de diciembre de 2024 y sus obligaciones de notificación de vulnerabilidades explotadas activamente y de incidentes graves serán aplicables desde el 11 de septiembre de 2026. La aplicación general llegará el 11 de diciembre de 2027.
Para fabricantes de herramientas de seguridad que incorporen IA, ese calendario importa. Deberán conectar el desarrollo del producto con la gestión de vulnerabilidades, el soporte durante el ciclo de vida y la comunicación de incidentes. Para sus clientes, significa que las preguntas de compras tendrán que ir más allá de disponibilidad y precio: ¿cómo se notifican vulnerabilidades?, ¿qué soporte recibe una versión antigua?, ¿qué telemetría sale de la organización?, ¿qué dependencias de terceros existen?
Un congreso profesional produce valor cuando ayuda a separar los casos de uso defendibles de los experimentos que solo lucen bien en una demo. Para un CISO, la agenda debería servir para evaluar cinco cuestiones concretas.
La primera es la finalidad. No se debe empezar por el modelo, sino por el problema: reducir el tiempo de triaje, detectar comportamiento anómalo, priorizar vulnerabilidades o asistir en la respuesta. Cada objetivo exige métricas distintas. El tiempo medio de detección no mide lo mismo que la precisión de una clasificación, y ninguna de las dos métricas demuestra por sí sola que la respuesta sea segura.
La segunda es el nivel de autonomía. Una IA que propone una acción y espera aprobación pertenece a una categoría operativa distinta de un agente que puede modificar reglas de firewall o revocar credenciales. La política debe definir acciones permitidas, acciones prohibidas y condiciones de escalado. También debe explicar qué pasa fuera del horario laboral, cuando la presión por actuar es mayor y la supervisión humana suele ser más nominal que real.
La tercera es la evidencia. Una herramienta que no exporta logs suficientes puede resultar barata durante la compra y cara durante una investigación. El registro debe incluir al menos la identidad del operador o servicio, la marca temporal, la versión del modelo, la fuente de datos, la recomendación generada, la aprobación y la acción ejecutada. Para sistemas de alto impacto, conviene conservar además muestras de evaluación y resultados de pruebas adversariales.
La cuarta es la dependencia del proveedor. El contrato debe identificar qué subcontratistas procesan datos, qué regiones intervienen, cómo se gestionan los cambios de modelo y qué ocurre si el proveedor deja de prestar el servicio. En entidades financieras, DORA art. 28 convierte la gestión del tercero en una disciplina continua, no en un cuestionario anual archivado en una carpeta de compras.
La quinta es la capacidad de apagado. Toda integración con IA que afecte a operaciones de seguridad necesita un modo manual probado. Si nadie sabe cómo desconectar el agente sin dejar ciega a la organización, el sistema no está automatizado: la organización está atada a él.
La utilización de IA para ciberseguridad suele apoyarse en una justificación razonable: detectar ataques exige analizar grandes volúmenes de información. Pero los logs pueden contener direcciones IP, identificadores de usuario, correos electrónicos, nombres de archivos, contenidos de comunicaciones o datos que permitan inferir conductas. Que el propósito sea defensivo no elimina el RGPD.
El artículo 5 del RGPD obliga a respetar principios como minimización, limitación de la finalidad, exactitud, integridad y confidencialidad. El artículo 25 exige protección de datos desde el diseño y por defecto. El artículo 32 reclama medidas técnicas y organizativas apropiadas al riesgo. Si un proveedor de IA utiliza datos de seguridad para entrenar modelos generales, la cuestión no es solo contractual: afecta a la finalidad, la transparencia y la gobernanza del tratamiento.
El artículo 28 del RGPD obliga a delimitar la relación con el encargado del tratamiento, mientras que el artículo 35 puede exigir una evaluación de impacto cuando el tratamiento entrañe un alto riesgo para los derechos y libertades. La organización debe saber qué campos se envían al modelo, si se conservan, quién puede acceder a ellos y si los datos salen del Espacio Económico Europeo.
Hay una práctica sencilla que sigue siendo poco habitual: crear un inventario específico de flujos de datos hacia herramientas de IA defensiva. El inventario debería distinguir entre telemetría técnica, datos personales, secretos, información regulada y contenido de clientes. Si todo entra en una única caja etiquetada como logs, el control de acceso será una ficción administrativa.
Las presentaciones comerciales suelen hablar de porcentajes de detección. El CISO debería preguntar por el coste de equivocarse. En seguridad, un falso negativo puede permitir que el atacante avance; un falso positivo puede saturar al equipo, interrumpir un servicio o normalizar la fatiga de alertas. Una mejora marginal en la detección puede ser inútil si multiplica por diez el volumen de investigaciones que nadie puede cerrar.
La evaluación debe utilizar datos representativos del entorno propio, no solo conjuntos públicos. También debe medir el comportamiento ante cambios: nuevas aplicaciones, migraciones a la nube, modificaciones en el tráfico normal y campañas de ataque con técnicas no observadas previamente. La prueba debe incluir escenarios en los que el modelo no tenga suficiente información y comprobar si sabe abstenerse o si inventa una respuesta con aplomo.
El NIST AI Risk Management Framework ofrece una estructura útil para organizar esta disciplina mediante las funciones Govern, Map, Measure y Manage. No sustituye a DORA, NIS2 o el AI Act, pero ayuda a convertir principios en tareas: identificar el contexto, medir rendimiento y riesgos, asignar responsables y gestionar desviaciones. La versión 2.0 del NIST Cybersecurity Framework también permite conectar el uso de IA con resultados más amplios de gobierno, identificación, protección, detección, respuesta y recuperación.
La métrica decisiva no debería ser cuántas alertas procesa la herramienta. Debería ser si la organización mejora su capacidad de detectar, contener y recuperar sin introducir un riesgo mayor en el camino.
El lema del congreso apunta a un ecosistema europeo, y esa dimensión importa. La investigación académica puede estudiar ataques contra modelos, técnicas de evaluación y métodos para reducir la exposición de datos. Los proveedores pueden convertir ese conocimiento en productos. Las autoridades pueden fijar expectativas. Pero ninguna de esas piezas funciona si la empresa usuaria no formula preguntas verificables.
Un proveedor debería poder explicar qué modelo utiliza, cómo se actualiza, qué datos emplea para entrenarlo, qué pruebas realiza contra prompt injection y cómo limita el acceso a sus herramientas. También debería entregar documentación sobre rendimiento, supuestos, restricciones y fallos conocidos. La respuesta no tiene que revelar secretos comerciales; sí tiene que permitir una evaluación de riesgo razonable.
Los centros de investigación, por su parte, pueden ayudar a mover el debate desde las demostraciones controladas hacia escenarios realistas: redes híbridas, identidades privilegiadas, proveedores encadenados, datos incompletos y presión temporal. La seguridad no se juega en una pregunta limpia formulada en un laboratorio. Se juega cuando el sistema recibe información contradictoria a las tres de la mañana y alguien debe decidir si aislar una plataforma de pagos.
Las instituciones públicas tienen otro papel: evitar que cada organización invente su propia definición de supervisión humana, incidente grave o control suficiente. La convergencia entre AI Act, DORA, NIS2, RGPD y CRA será difícil si las empresas deben mantener cinco taxonomías incompatibles para describir el mismo fallo.
El Barcelona Cybersecurity Congress 2026 llega en un momento en el que la IA ya ha dejado de ser una promesa futura y todavía no es una solución madura para todos los entornos. Esa tensión es más interesante que cualquier catálogo de funcionalidades.
La pregunta útil no es si una organización utilizará IA en ciberseguridad. Probablemente ya lo hace, aunque no lo haya aprobado formalmente: en el producto de seguridad contratado, en la plataforma cloud, en el asistente de desarrollo o en el servicio de soporte. La pregunta es si sabe dónde está, qué decisiones influye, qué datos procesa y quién responde cuando se equivoca.
Para responder, la dirección debería exigir un inventario de casos de uso, una clasificación por nivel de autonomía, controles de acceso, pruebas de precisión y seguridad, registros reproducibles, revisión de proveedores y un procedimiento de apagado. El CISO debe trabajar con privacidad, compras, legal, continuidad y auditoría. No porque la burocracia sea una virtud, sino porque una IA conectada a sistemas críticos convierte cualquier frontera organizativa en una posible ruta de ataque.
El congreso de Barcelona puede ser una plataforma relevante si mantiene esa conversación en el terreno de la evidencia. Europa ya tiene fechas, artículos y obligaciones suficientes. Lo que falta no es otra declaración sobre el potencial transformador de la inteligencia artificial. Falta demostrar, con controles que puedan probarse, que la organización sigue mandando cuando el algoritmo se equivoca.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal de regulación, vulnerabilidades explotadas y acciones para tu equipo.
¿Quieres un plan a medida? Modela tu organización con Agentic Digital Twin.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…