Imagen generada por IAUn SOC no se hunde porque le falten alertas. Se hunde porque recibe demasiadas, demasiado deprisa y con una calidad irregular. La inteligencia artificial promete arreglar esa ecuación: clasificar eventos, correlacionar señales dispersas, resumir investigaciones y sugerir respuestas. En el mejor de los casos, libera al analista de la tarea mecánica para que pueda concentrarse en decidir. En el peor, convierte una recomendación estadística en una acción automática que nadie entiende hasta que el daño ya está hecho.
La diferencia entre ambos escenarios no está en el modelo, sino en el diseño operativo. “Humano en el bucle” no puede significar que un analista pulse ocasionalmente un botón verde. Debe definir qué decisiones puede tomar la máquina, cuáles requieren aprobación, qué información recibe la persona, cuánto tiempo tiene para intervenir y cómo queda registrada la decisión. Si no existe esa trazabilidad, la supervisión humana es una frase tranquilizadora, no un control.
La página temática de ENISA sobre inteligencia artificial sirve como punto de partida para entender los beneficios y riesgos de aplicar IA a la ciberseguridad. Pero un CISO europeo necesita ir más allá del catálogo de posibilidades. Tiene que conectar el uso del copiloto o del motor de triage con el NIST CSF 2.0, las obligaciones de gestión de riesgos de NIS2 y, cuando el caso de uso entre en su ámbito, las exigencias del Reglamento de Inteligencia Artificial. El reto no es comprar IA. Es hacer que una decisión asistida por IA sea segura, auditable y reversible.
En un centro de operaciones de seguridad conviven tareas muy distintas. No todas tienen el mismo nivel de riesgo ni deberían recibir el mismo grado de automatización.
Un motor puede enriquecer una alerta con datos de inteligencia de amenazas, comprobar si una dirección IP aparece en fuentes abiertas, agrupar eventos del mismo endpoint o resumir una línea temporal. Son tareas con un riesgo relativamente bajo si el resultado se presenta como apoyo y el analista puede verificarlo. El problema comienza cuando el sistema pasa de describir a decidir: cerrar una alerta, aislar un dispositivo, bloquear una cuenta privilegiada, modificar una regla de firewall o notificar un incidente al regulador.
La palabra “copiloto” tampoco resuelve nada. Un copiloto que redacta una explicación no es equivalente a uno que ejecuta una respuesta en Microsoft Sentinel, Splunk, CrowdStrike, Cortex XSOAR o cualquier otra plataforma de operaciones. El nombre comercial suele ocultar la frontera crítica: el momento en que una sugerencia se convierte en una modificación del entorno productivo.
Para gobernar el riesgo, conviene separar el ciclo en cuatro capas:
La supervisión humana exigible en la práctica se vuelve más intensa a medida que se avanza de la primera capa a la cuarta. Automatizar el enriquecimiento de una alerta no equivale a automatizar el aislamiento de un servidor que soporta pagos. La organización que aplica el mismo control a ambos casos está confundiendo eficiencia con gobierno.
El beneficio más defendible no es prometer que la IA encontrará todos los ataques. No puede hacerlo. Su valor está en reducir el tiempo que separa una señal relevante de una decisión informada.
El triage asistido puede clasificar alertas según contexto, historial, criticidad del activo y relación con otros eventos. Una alerta de inicio de sesión anómalo no significa lo mismo en una cuenta de pruebas sin privilegios que en una cuenta de administrador que acaba de autenticarse desde una ubicación incompatible con su patrón habitual.
La IA puede reunir esos datos antes de que el analista abra el caso. Puede mostrar los eventos de autenticación, cambios recientes de privilegios, actividad del endpoint y coincidencias con indicadores conocidos. El resultado útil no es una etiqueta de “malicioso” fabricada con falsa precisión, sino una cola de investigación mejor ordenada.
Para medirlo, el SOC debería abandonar métricas superficiales como el número de alertas procesadas. Son más informativas la tasa de falsos positivos, el tiempo medio hasta el triage, la proporción de alertas reabiertas y el porcentaje de recomendaciones aceptadas y posteriormente corregidas. Si el sistema cierra muchas alertas pero aumenta los incidentes descubiertos tarde, no está optimizando el SOC: está maquillando su bandeja de entrada.
Los ataques no suelen llegar en forma de una alerta limpia. Pueden empezar con una autenticación anómala, continuar con una consulta inusual al directorio, seguir con la ejecución de PowerShell y terminar con una transferencia de datos. La correlación de eventos de identidad, endpoint, red y nube puede ayudar a construir una secuencia que un analista tendría que reconstruir manualmente.
Aquí aparece una ventaja clara de los modelos capaces de trabajar con grandes volúmenes de información: pueden proponer relaciones que no están expresadas en una única regla. Pero una correlación no es una prueba. El analista debe poder inspeccionar qué eventos originaron la hipótesis, qué datos faltan y qué alternativas se descartaron. Un resumen elegante sin referencias a los registros originales es literatura corporativa, no evidencia forense.
Un copiloto puede traducir una consulta de lenguaje natural a Kusto Query Language, SPL u otro lenguaje de búsqueda; explicar un comando sospechoso; resumir un caso para el equipo de respuesta o generar un borrador de informe. Esto reduce fricción, especialmente en equipos pequeños y durante turnos nocturnos.
El control esencial es que cada consulta generada se ejecute en modo de lectura salvo autorización expresa. Un modelo que puede crear reglas, borrar indicadores o lanzar playbooks sin una separación de funciones está demasiado cerca del botón de emergencia. También hay que controlar los datos que se envían al proveedor: registros con nombres de usuario, direcciones IP, identificadores de clientes o contenido de comunicaciones pueden constituir datos personales bajo el artículo 4 del GDPR. La utilidad del copiloto no elimina las obligaciones de base jurídica, minimización y seguridad del tratamiento.
El falso positivo consume capacidad. El falso negativo consume tiempo de reacción. No son errores simétricos.
En un SOC saturado, una sucesión de falsos positivos puede producir fatiga de alertas. Los analistas aprenden que determinadas recomendaciones de la herramienta rara vez llevan a algo y comienzan a tratarlas como ruido. El sistema sigue funcionando, pero la confianza operativa se degrada. La organización puede tener un motor técnicamente sofisticado y, aun así, una detección humana cada vez más superficial.
El falso negativo es más peligroso cuando el modelo aprende de decisiones históricas defectuosas. Si durante meses los analistas cerraron como benignos determinados comportamientos porque no tenían contexto suficiente, el sistema puede aprender esa preferencia. La IA no corrige automáticamente un proceso de etiquetado pobre; puede industrializarlo.
El riesgo también aparece cuando cambia el entorno. Una modificación en la arquitectura cloud, una nueva herramienta de acceso remoto, una adquisición corporativa o una campaña de phishing distinta puede alterar la distribución de los datos. El rendimiento observado en una prueba no se conserva por cortesía. El modelo necesita monitorización posterior al despliegue, revisión de umbrales y criterios de retirada.
El SOC debería registrar, como mínimo, la versión del modelo, la fecha de inferencia, la entrada relevante, la salida, el nivel de confianza, la acción recomendada, la decisión humana y el resultado posterior. Sin esa cadena no se puede distinguir si el problema fue un dato incompleto, una alucinación del modelo, una regla mal configurada o una decisión humana equivocada.
El artículo 14 del AI Act exige que los sistemas de IA de alto riesgo se diseñen y desarrollen de forma que puedan ser supervisados eficazmente por personas durante su uso. La supervisión debe permitir comprender las capacidades y limitaciones del sistema, detectar anomalías, interpretar correctamente su salida, decidir no utilizarla o ignorarla y detenerlo cuando sea necesario.
Ese artículo no convierte cualquier herramienta de IA en un sistema de alto riesgo. La clasificación depende del caso de uso y de la ubicación del sistema dentro de las categorías del Reglamento, incluidos los casos del anexo III. Un motor interno que prioriza alertas de ciberseguridad no entra automáticamente en alto riesgo solo porque utilice aprendizaje automático. Forzar esa conclusión sería tan impreciso como afirmar que todo software financiero está sujeto a las mismas obligaciones regulatorias.
Pero la cuestión jurídica no agota la cuestión de control. Aunque un caso de uso concreto no sea de alto riesgo, la organización puede necesitar el mismo nivel de supervisión por razones de continuidad, seguridad, responsabilidad contractual o gestión de incidentes. NIS2 no dice “instale un humano en el bucle”; exige medidas de gestión de riesgos de ciberseguridad, políticas de análisis de riesgos, gestión de incidentes, continuidad y seguridad de la cadena de suministro en su artículo 21. Un SOC que automatiza respuestas destructivas sin capacidad de revisión difícilmente puede defender que ha aplicado medidas proporcionadas al riesgo.
La supervisión eficaz requiere cinco decisiones documentadas:
La última condición suele ser la olvidada. El auditor no preguntará solamente si había una persona mirando la pantalla. Preguntará qué vio, qué sabía, qué aprobó y por qué.
El NIST Cybersecurity Framework 2.0 ofrece una estructura útil porque no depende de que la organización utilice una tecnología concreta. Para la IA aplicada al SOC, las funciones Detect y Respond son el centro, pero no bastan por sí solas.
En Detect, la organización debe saber qué fuentes alimentan el modelo, qué activos cubre, qué eventos quedan fuera y cómo se identifican anomalías. Las categorías DE.CM y DE.AE resultan especialmente relevantes para la monitorización continua y el análisis de eventos. Si el modelo solo recibe logs de endpoint y no datos de identidad o cloud, esa limitación debe aparecer en la evaluación del caso de uso.
En Respond, las categorías RS.MA, RS.AN y RS.CO ayudan a separar la gestión del incidente, el análisis y la comunicación. La IA puede asistir en las tres, pero no debería decidir por defecto la comunicación externa ni el alcance de una notificación. Una recomendación de contención puede ser técnica; una afirmación sobre impacto regulatorio exige hechos verificados y responsabilidad asignada.
La función Govern del CSF 2.0 añade la pieza que muchas implantaciones olvidan: establecer expectativas, política, roles y supervisión del riesgo. Es la base para decidir qué acciones se automatizan y cuáles requieren doble aprobación.
El artículo 23 de NIS2 fija obligaciones de notificación de incidentes significativos. La alerta generada por una IA no es todavía una notificación. Antes hay que determinar si se trata de un incidente, valorar su impacto y, cuando proceda, remitir una alerta temprana en 24 horas desde que la entidad tenga conocimiento del incidente significativo, una notificación del incidente en 72 horas y un informe final, normalmente en el plazo de un mes, conforme a las condiciones de la Directiva.
El plazo no se detiene porque el copiloto esté generando un resumen o porque el analista no confíe del todo en la puntuación. Por eso el playbook debe especificar qué ocurre cuando la IA detecta un posible incidente y la evidencia todavía es incompleta. La respuesta correcta no es inventar certeza; es escalar, preservar datos y utilizar la información disponible con las cautelas correspondientes.
El artículo 21 también obliga a mirar la herramienta como parte de la arquitectura de riesgo. Hay que controlar el acceso a los datos, las dependencias del proveedor, la continuidad del servicio y la seguridad de la cadena de suministro. Si el SOC depende de una API externa para enriquecer todos sus eventos, una caída del proveedor puede convertirse en una pérdida de capacidad de detección. La resiliencia no consiste en tener un modelo potente cuando funciona, sino en poder operar cuando no funciona.
El AI Act exige clasificar el sistema y el rol de la organización antes de aplicar controles. ¿Es proveedor, implementador o ambas cosas? ¿El sistema se utiliza para un propósito incluido en el ámbito de alto riesgo? ¿La organización modifica un modelo general o solo consume una función integrada en una plataforma de seguridad?
Para un sistema que sí quede dentro de alto riesgo, el artículo 9 exige un sistema de gestión de riesgos; el artículo 10 aborda la gobernanza de datos; el artículo 12 exige registros automáticos; el artículo 13 trata la transparencia y la información al implementador; y el artículo 14 regula la supervisión humana. El artículo 15 añade requisitos de precisión, robustez y ciberseguridad. No son casillas independientes. Un registro automático inútil no compensa una interfaz que impide entender la recomendación, y una buena interfaz no arregla datos de entrenamiento sesgados o incompletos.
Para muchas herramientas de SOC, la clasificación como alto riesgo no será automática. Eso no autoriza a ignorar el AI Act. El Reglamento también contiene obligaciones para determinadas prácticas, sistemas de propósito general y transparencia, además de la posible aplicación de otras normas europeas. El análisis debe hacerse sobre la función concreta, el proveedor, el contrato y el uso real, no sobre la etiqueta “AI-powered” del folleto.
Un SOC trabaja con identificadores, direcciones IP, nombres de usuario, registros de acceso, contenido de correo y señales de comportamiento. Muchos de esos datos pueden estar vinculados a una persona identificable. El artículo 5 del GDPR impone principios de minimización, limitación de la finalidad y exactitud; el artículo 25 exige protección de datos desde el diseño y por defecto; el artículo 32 exige medidas técnicas y organizativas adecuadas.
Si el proveedor utiliza los datos del cliente para entrenar o mejorar su servicio, el contrato y la asignación de roles deben analizarse con cuidado. El artículo 28 regula las obligaciones del encargado del tratamiento, pero no convierte automáticamente al proveedor en encargado para todas sus finalidades. También hay que revisar transferencias internacionales, subencargados, retención y controles de acceso.
El artículo 22 del GDPR puede ser relevante cuando existe una decisión basada únicamente en tratamiento automatizado que produce efectos jurídicos o afecta significativamente a la persona. El aislamiento automático de un dispositivo corporativo no será necesariamente ese supuesto, pero bloquear una cuenta de empleado, rechazar una operación o activar una medida disciplinaria con base exclusivamente en una puntuación algorítmica exige un análisis diferente. La etiqueta “ciberseguridad” no funciona como exención universal.
Una política genérica de “revisión humana” es demasiado vaga para gobernar un SOC. Hace falta una matriz que conecte el tipo de acción con su impacto, reversibilidad y exigencia de aprobación.
| Acción | Autonomía razonable | Control mínimo | Evidencia |
|---|---|---|---|
| Enriquecer una alerta con reputación de IP o dominio | Automática | Fuente identificada, fecha y posibilidad de corregir | Consulta, resultado y fuente |
| Agrupar eventos y sugerir prioridad | Automática con revisión | Explicación de señales y umbral configurable | Puntuación, señales y decisión del analista |
| Aislar un endpoint no crítico | Aprobación humana o política preautorizada | Lista de exclusiones, reversión y límite temporal | Aprobador, hora, motivo y resultado |
| Bloquear una cuenta privilegiada | Doble aprobación | Confirmación fuera del modelo y canal de emergencia | Dos identidades, evidencia y reversión |
| Notificar a una autoridad o cliente | Decisión humana responsable | Validación jurídica y factual | Versión enviada, aprobaciones y fuente de hechos |
La matriz debe vivir en los playbooks, en las reglas de acceso y en la configuración de la plataforma. Si el documento dice que una acción requiere aprobación pero el conector tiene permisos para ejecutarla sin ella, el control real es el conector.
Conviene añadir límites temporales. Un aislamiento automático puede ser razonable durante 30 minutos mientras se valida la alerta, pero no durante varios días sin revisión. La expiración reduce el riesgo de que una clasificación errónea se convierta en una interrupción permanente. Para activos críticos, la reversibilidad debe probarse en ejercicios, no darse por supuesta.
La evidencia no consiste en una captura de pantalla del dashboard. Debe permitir reconstruir la decisión desde la entrada hasta el resultado.
El expediente de un caso debería incluir el identificador del modelo o versión de la función utilizada, la fecha y hora con zona horaria, las fuentes consultadas, la salida original, los datos que el analista verificó, la acción recomendada, la decisión adoptada, el rol de quien decidió y el resultado observado. Si el analista ignoró la recomendación, también debe quedar registrado el motivo: evidencia contradictoria, activo excluido, baja confianza o error conocido del modelo.
La organización debe establecer retención conforme a sus obligaciones legales, políticas de investigación y necesidades de defensa. No tiene sentido guardar indefinidamente todos los prompts si no puede demostrar la integridad de los registros críticos. Los logs deben estar protegidos contra borrado y manipulación por los mismos administradores que operan el sistema, mediante controles de acceso, segregación y, cuando proceda, almacenamiento inmutable.
Hay otra evidencia menos obvia: la competencia del supervisor. El artículo 14 del AI Act, cuando resulte aplicable, no se satisface poniendo a una persona sin formación delante del sistema. El expediente de control debería demostrar qué formación recibió el personal, qué limitaciones conoce y qué procedimiento sigue cuando la salida es ambigua. En términos prácticos, un analista no necesita saber entrenar un modelo, pero sí reconocer una alucinación, comprobar una fuente y detener una automatización peligrosa.
La validación de una IA para SOC no puede limitarse a una demostración del proveedor con datos seleccionados. El entorno de prueba debe incluir casos normales, ataques conocidos, ruido y situaciones en las que la información sea incompleta.
Primero hay que medir el rendimiento por tipo de activo y por fuente de datos. Un modelo puede funcionar bien en endpoints Windows y degradarse en cargas Linux, identidades cloud o dispositivos industriales. Una media global oculta precisamente el segmento que puede causar el incidente más grave.
Después hay que probar la resistencia a entradas manipuladas. Un atacante que conoce el funcionamiento del SOC puede intentar contaminar registros, generar ruido para ocultar una señal o introducir contenido diseñado para influir en un copiloto. En sistemas que procesan texto de tickets, correos o páginas web, la inyección de instrucciones no es una curiosidad académica: puede cambiar la recomendación si la arquitectura no separa datos no confiables de instrucciones del sistema.
También hay que ensayar la degradación. ¿Qué ocurre si el modelo no está disponible? ¿Puede el SOC seguir procesando reglas deterministas? ¿Quién recibe las alertas? ¿Se conserva la capacidad de escalar un incidente? NIS2, a través del artículo 21, obliga a tratar la continuidad y la gestión de incidentes como capacidades operativas, no como promesas de disponibilidad del proveedor.
Finalmente, hay que medir las decisiones humanas. Dos analistas deberían recibir casos equivalentes y poder explicar por qué aceptaron o rechazaron una recomendación. Si nadie puede justificar la salida del sistema, la organización ha adquirido dependencia, no inteligencia.
La conversación suele centrarse en si el modelo es grande, preciso o multimodal. Para el CISO, la pregunta más urgente es otra: ¿qué ocurre si el proveedor cambia el modelo, limita la API, sufre una intrusión o utiliza los datos de forma distinta?
El contrato debe identificar el servicio concreto, las subcontrataciones, la localización del tratamiento, los tiempos de aviso de cambios materiales, la asistencia durante incidentes, la exportación de registros y la terminación. Si el proveedor actualiza silenciosamente el modelo, puede cambiar el comportamiento del triage sin que el cliente haya modificado una regla.
Las entidades financieras tendrán además que conectar esta evaluación con DORA. El artículo 28 del Reglamento exige gestionar el riesgo de terceros proveedores de servicios TIC; los artículos 29 y 30 desarrollan aspectos de contratos y subcontratación, y el artículo 30 incluye elementos contractuales esenciales. Un copiloto de SOC puede parecer una herramienta auxiliar, pero si su indisponibilidad afecta a la detección o respuesta, su criticidad no se decide por el tamaño de la factura.
La salida ordenada debe estar diseñada desde el principio. Exportar casos, reglas, evidencias y configuraciones no puede depender de que el proveedor siga colaborando durante una crisis. Tampoco conviene permitir que la IA se convierta en el único lugar donde vive el razonamiento operativo del SOC.
La IA bien gobernada puede acortar investigaciones, reducir trabajo repetitivo y mejorar la calidad de la respuesta. Pero no sustituye la arquitectura de controles. Un SOC que automatiza sin clasificar acciones, sin registrar decisiones y sin probar la reversibilidad está trasladando el riesgo a una caja negra con permisos de producción.
El punto de partida debería ser un inventario de casos de uso, no una compra tecnológica. Para cada función hay que documentar qué datos recibe, qué salida produce, qué decisión afecta, quién supervisa, qué daño provocaría un error y cómo se revierte. Después se asignan controles de NIST CSF 2.0, obligaciones de NIS2, requisitos de GDPR y, cuando corresponda, la clasificación y las exigencias del AI Act.
La pregunta que debe responder el CISO en una auditoría no es “¿tenemos un humano en el bucle?”. Es bastante más incómoda: “¿puede una persona informada detener esta acción, entender por qué se recomendó y demostrar después que tomó una decisión razonable?”. Si la respuesta es no, la IA no está asistiendo al SOC. Está gobernándolo sin haber sido elegida para ello.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal de regulación, vulnerabilidades explotadas y acciones para tu equipo.
¿Quieres un plan a medida? Modela tu organización con Agentic Digital Twin.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…