Imagen generada por IALa IA puede resumir una investigación en segundos. También puede convertir una alerta mal clasificada en una decisión equivocada antes de que el analista haya terminado el primer café. En un SOC, la pregunta útil no es si se debe usar IA, sino qué tareas puede acelerar sin adquirir, de hecho, autoridad para decidir.
El valor más inmediato suele estar en reducir trabajo repetitivo: agrupar alertas relacionadas, enriquecer indicadores, preparar una cronología o proponer hipótesis para el analista. El riesgo aparece cuando una recomendación se trata como un veredicto, cuando se automatiza una respuesta difícil de revertir o cuando nadie puede reconstruir por qué se cerró un incidente. Tener a una persona en el proceso no basta. Hay que darle tiempo, contexto, competencia y capacidad real para discrepar.
Esta guía propone una forma de introducir IA en el centro de operaciones de seguridad —desde reglas y modelos de clasificación hasta copilotos generativos— con controles que sirvan tanto al SOC como a auditoría y cumplimiento. La página de ENISA sobre inteligencia artificial ofrece contexto europeo sobre el tema, pero no prescribe un diseño único para los SOC. Las decisiones operativas y regulatorias que siguen requieren, por tanto, criterio de la entidad y evaluación de su propio caso de uso.
Decir que un sistema de IA está «en el SOC» no explica qué hace. Puede limitarse a resumir registros; puede recomendar una prioridad; puede cerrar automáticamente una alerta; o puede aislar un equipo de la red. Son funciones distintas, con consecuencias distintas. El primer control es describir cada uso por la acción que permite, no por la etiqueta comercial del producto.
Una clasificación práctica tiene cuatro niveles. En el primero, el sistema organiza información sin alterar el flujo: resume eventos, traduce consultas o propone una cronología. En el segundo, recomienda una prioridad o una hipótesis, pero el analista decide. En el tercero, ejecuta acciones reversibles y acotadas bajo reglas definidas, como enriquecer un caso o abrir una investigación. En el cuarto, aplica medidas con impacto operativo —por ejemplo, bloquear una cuenta o aislar un activo— sin aprobación individual previa. A medida que se sube de nivel, aumentan el daño potencial y la carga de justificar por qué la autonomía es aceptable.
La frontera entre los niveles no debe quedar en una presentación del proveedor. El inventario del SOC debería registrar el caso de uso, el sistema y versión, las fuentes de datos, los usuarios afectados, los permisos, la acción posible y el propietario del riesgo. También debe decir qué ocurre si el servicio no está disponible, si cambia el modelo o si la salida resulta incoherente. Si un copiloto puede ejecutar una consulta de búsqueda, conviene registrar si esa consulta es de solo lectura; si puede modificar una regla de detección, ya no estamos hablando del mismo riesgo.
Una regla sencilla ayuda a decidir el grado de supervisión: cuanto menos reversible sea una acción y más amplio sea su impacto, menos debe descansar en una aprobación automática. Cerrar una alerta de bajo impacto no equivale a deshabilitar una cuenta privilegiada. Y una respuesta que puede interrumpir un servicio crítico no se convierte en inocua porque la recomendación la haya generado un modelo.
Prometer «más eficiencia» no es una métrica. Para saber si la IA mejora el SOC hay que comparar una línea base con el resultado del caso de uso, utilizando definiciones estables. El tiempo medio de triaje puede bajar mientras empeora la detección; una bandeja de alertas más pequeña puede reflejar mejor correlación o, sencillamente, demasiados falsos negativos.
Antes de activar una función, el responsable del SOC debería medir, para el tipo de alerta afectado, el volumen recibido, el tiempo hasta la primera revisión, el tiempo hasta la clasificación, la proporción de alertas cerradas como benignas, la tasa de reapertura y los incidentes confirmados que llegaron por ese canal. Después debe segmentar por severidad y fuente. Una media global puede ocultar que el sistema acelera las alertas rutinarias y retrasa las relacionadas con cuentas privilegiadas.
La precisión, la exhaustividad y la tasa de falsos positivos no son intercambiables. En una tarea de priorización, una precisión elevada puede reducir revisiones innecesarias; una exhaustividad insuficiente puede dejar actividad maliciosa en la cola. El umbral aceptable depende del caso de uso y del coste de equivocarse. No hay un porcentaje universal que convierta un clasificador en seguro para cualquier SOC, y una cifra de un proveedor no sustituye la validación con datos y condiciones propios.
Conviene medir también la tasa de aceptación de recomendaciones y, sobre todo, la calidad de esa aceptación. Si los analistas aprueban casi todo, no significa necesariamente que el sistema sea excelente: puede significar que la interfaz induce a aceptar, que el equipo trabaja bajo presión o que el diseño no permite contrastar la recomendación. Una muestra periódica de decisiones aceptadas y rechazadas, revisada por una persona distinta de quien operó el caso, puede revelar esos patrones.
Para los falsos negativos, hay que reconstruir qué incidentes conocidos habría detectado el flujo asistido y cuáles habría degradado, cerrado o dejado sin escalado. Las pruebas con casos históricos ayudan, pero no bastan: el modelo puede comportarse de otra manera con datos actuales, cambios en telemetría o nuevas tácticas de ataque. El SOC debería mantener pruebas controladas, registrar la versión evaluada y repetirlas cuando cambien el modelo, las fuentes o las reglas de respuesta.
El indicador final tampoco debería ser el número de alertas procesadas por hora. Ese dato recompensa el cierre rápido, no la detección correcta. Es más útil combinar velocidad, calidad y consecuencia: tiempo de triaje, errores de clasificación por severidad, incidentes reabiertos, acciones automáticas revertidas y casos en los que el analista detectó una omisión del sistema. El objetivo no es que la máquina parezca productiva, sino que el servicio de seguridad responda mejor sin perder capacidad de encontrar lo que importa.
Una aprobación humana solo es un control si la persona dispone de información suficiente y puede detener o corregir la decisión. Pulsar «aceptar» después de leer una explicación opaca, sin acceso a los eventos originales y bajo una cola que no deja margen, es supervisión de escaparate.
Para cada acción con impacto, el flujo de trabajo debe mostrar al analista qué señales sustentan la recomendación, qué datos faltan, qué incertidumbre existe y cuál es la consecuencia de aprobarla. Debe ofrecer acceso a la evidencia de origen, no solo a una explicación redactada por el mismo sistema que produjo la recomendación. Un resumen convincente no demuestra que la correlación sea correcta.
También hace falta definir quién puede aprobar, quién puede anular y quién revisa después. En una investigación de baja severidad, el analista de primera línea podría cerrar el caso con una justificación. Para aislar un servidor de producción, la entidad puede exigir aprobación de un responsable de respuesta o una política de doble control. No existe una matriz válida para todas las organizaciones; sí existe una obligación operativa de que el nivel de autorización corresponda al impacto y a la urgencia.
La supervisión debe incluir una vía de salida. Si el modelo no responde, ofrece una recomendación sin evidencia o detecta entradas fuera del patrón esperado, el sistema ha de poder pasar a un flujo manual o a reglas deterministas. El equipo debe saber cómo hacerlo sin depender del mismo proveedor o servicio que está fallando. Esa alternativa se prueba: un procedimiento de contingencia que nadie ha ensayado es una nota en una carpeta, no resiliencia.
La capacitación también cuenta. Un analista debe conocer las limitaciones del sistema, cómo comprobar fuentes y cómo documentar una discrepancia. La formación no consiste en enseñar a redactar mejores consultas al copiloto; incluye practicar casos en los que el modelo se equivoca de manera plausible. Si el equipo solo ve aciertos en las demostraciones, aprenderá a confiar. Si revisa errores reales o simulados, aprenderá a supervisar.
NIST CSF 2.0 organiza resultados de ciberseguridad en seis funciones: Govern, Identify, Protect, Detect, Respond y Recover. Para el SOC, Detect y Respond son las más visibles, pero Govern es la que evita tratar el copiloto como una herramienta huérfana. El marco, publicado por NIST el 26 de febrero de 2024, no certifica un producto ni fija una tasa mínima de acierto. Sirve para definir resultados y asignar responsabilidades; cada organización debe traducirlos en controles y evidencias propios.
En Detect, la IA puede ayudar a analizar eventos y correlacionar señales, pero el equipo debe poder demostrar cómo se identifica una actividad sospechosa y cómo se revisa una degradación de la detección. En Respond, la cuestión es quién decide la acción y cómo se comprueba su resultado. Si una herramienta recomienda bloquear una cuenta, la investigación no termina con el bloqueo: debe verificarse que la cuenta era la correcta, que el acceso se revocó y que no se ha interrumpido una función legítima.
La Directiva NIS2, artículo 21, exige a las entidades esenciales e importantes medidas de gestión de riesgos de ciberseguridad, entre ellas políticas de análisis de riesgos, gestión de incidentes, continuidad, seguridad de la cadena de suministro y evaluación de la eficacia. No ordena desplegar IA ni impone una forma concreta de mantener a un analista en el bucle. Su relevancia práctica es otra: si el sistema afecta a la detección, respuesta o continuidad, debe quedar dentro de la gestión de riesgos y no fuera de ella por ser una herramienta «inteligente».
El artículo 23 de NIS2 fija para los incidentes significativos una secuencia de notificación: alerta temprana en 24 horas desde que se tiene conocimiento, notificación del incidente en 72 horas y un informe final, por regla general, en el plazo de un mes desde la notificación del incidente. El detalle operativo depende de la transposición y de las autoridades competentes de cada Estado miembro. La IA puede acelerar la recopilación de hechos para esos avisos; no puede convertir una hipótesis generada por un modelo en un hecho confirmado. El equipo de incidentes debe validar alcance, impacto y cronología antes de comunicar.
Para las entidades financieras sujetas a DORA, el Reglamento (UE) 2022/2554 regula la gestión del riesgo relacionado con las TIC. Sus artículos 5 y 6 sitúan la responsabilidad y el marco de gestión en el órgano de dirección; el artículo 10 trata de la detección; los artículos 17, 18 y 19 cubren la gestión, clasificación y notificación de incidentes relacionados con las TIC. Un asistente que clasifica incidentes o prepara notificaciones debe integrarse en esos procesos, no sustituir la evaluación de la entidad. DORA funciona como régimen sectorial específico frente a NIS2 para las entidades financieras comprendidas, por lo que el cumplimiento no se resuelve copiando mecánicamente el flujo general de notificación NIS2.
La consecuencia concreta para el responsable de cumplimiento es que la evidencia del SOC debe permitir reconstruir la clasificación y la decisión: datos considerados, salida del sistema, intervención humana, criterio aplicado y hora de cada paso. Si el sistema ayuda a filtrar un incidente que luego resulta significativo, la entidad necesitará explicar cómo evitó que la recomendación retrasara la escalada y el cómputo del plazo regulatorio.
El Reglamento de IA (UE) 2024/1689 no convierte cualquier modelo utilizado en ciberseguridad en un sistema de alto riesgo. La clasificación depende del uso previsto y de las categorías del Reglamento, no de que el producto se llame «IA» ni de que procese alertas. Esa distinción importa: aplicar sin matices los requisitos de alto riesgo a toda herramienta del SOC sería tan impreciso como ignorarlos cuando el caso de uso sí queda incluido.
El artículo 14 establece requisitos de supervisión humana para sistemas de IA de alto riesgo. El artículo 26 obliga a los responsables del despliegue de esos sistemas a adoptar medidas para utilizarse conforme a las instrucciones y asignar la supervisión a personas con competencia, formación, autoridad y apoyo adecuados. El artículo 9 exige un sistema de gestión de riesgos para los sistemas de alto riesgo; los artículos 12, 13 y 15 tratan, respectivamente, de la conservación de registros, la transparencia para los responsables del despliegue y la precisión, solidez y ciberseguridad. Son obligaciones relevantes cuando el sistema entra en esa categoría, no un atajo para etiquetar como alto riesgo cualquier copiloto de ciberseguridad.
El anexo III incluye, entre otros, determinados usos relacionados con la gestión y explotación de infraestructuras digitales críticas. Pero un sistema de detección de amenazas utilizado por una entidad no se convierte automáticamente en componente de seguridad de una infraestructura crítica a efectos del Reglamento. Hay que analizar el propósito previsto, el papel del sistema y si se cumplen los criterios legales aplicables. Cuando la clasificación sea dudosa, la entidad debe documentar el razonamiento y recabar asesoramiento jurídico especializado, no escoger la categoría más cómoda.
A 14 de noviembre de 2026, la mayor parte de las disposiciones del AI Act son aplicables desde el 2 de agosto de 2026. Hay excepciones y calendarios escalonados: entre ellas, las obligaciones vinculadas a sistemas de alto riesgo del artículo 6, apartado 1, se aplican desde el 2 de agosto de 2027. La fecha concreta importa para el análisis de aplicabilidad; no cambia el principio operativo de que una supervisión humana efectiva requiere autoridad y capacidad para actuar.
Incluso cuando un uso no sea de alto riesgo, el análisis del AI Act puede ayudar a ordenar preguntas de gobernanza: qué se espera del sistema, qué limitaciones tiene, quién lo opera y cómo se gestiona el cambio. Pero no debe confundirse una buena práctica con una obligación legal aplicable a cualquier despliegue. El registro interno debería distinguir ambas cosas: requisitos vinculantes según la clasificación y controles adoptados por decisión de riesgo.
Un copiloto generativo puede recibir datos de telemetría, nombres de usuario, direcciones IP, fragmentos de correo, comandos o información sobre vulnerabilidades. La primera pregunta de privacidad no es si el modelo «aprende» de esos datos, sino qué información se envía, a qué proveedor, con qué finalidad, bajo qué condiciones de retención y quién puede acceder a ella. La respuesta debe salir de la configuración contractual y técnica, no de una promesa verbal en una demostración.
El RGPD sigue aplicándose cuando los datos de seguridad identifican o hacen identificable a una persona. Los principios del artículo 5 exigen, entre otras cosas, limitación de la finalidad, minimización y conservación limitada. El artículo 6 requiere una base jurídica para el tratamiento; el artículo 25 exige protección de datos desde el diseño y por defecto; el artículo 32 contempla medidas de seguridad adecuadas al riesgo. Una evaluación de impacto del artículo 35 puede ser necesaria si el tratamiento previsto probablemente entraña un alto riesgo para los derechos y libertades, según el caso concreto. La herramienta no elimina esas preguntas: puede ampliarlas al introducir nuevos flujos y destinatarios.
Antes de enviar registros al servicio, el SOC debería probar si puede eliminar identificadores innecesarios, limitar campos, redactar secretos y restringir el acceso por rol. También conviene fijar retención, ubicación y condiciones de uso de datos, además de verificar si el proveedor utiliza entradas o salidas para entrenar modelos. «No se usa para entrenar» no resuelve por sí solo la retención, el acceso de soporte, las copias de seguridad o las transferencias internacionales.
Los modelos también pueden ser manipulados a través de sus entradas. Un mensaje contenido en un correo o en una página analizada puede intentar inducir al sistema a ignorar instrucciones, revelar datos o producir una conclusión sesgada. Si el copiloto puede consultar herramientas, ejecutar código o modificar sistemas, una entrada maliciosa puede tener consecuencias fuera de la conversación. Se deben limitar permisos, separar instrucciones de datos no confiables y requerir confirmación antes de ejecutar operaciones con impacto. El principio es sencillo: el texto que el sistema analiza no debe adquirir autoridad para cambiar sus reglas.
La calidad del contexto es otra fuente de error. Una correlación puede parecer convincente si faltan registros de identidad, si los relojes están desincronizados o si la telemetría de un activo no está disponible. En esos casos, una explicación fluida da una falsa impresión de certeza. El sistema debería poder indicar qué fuentes utilizó y qué información no estaba disponible; el analista debe contrastar la conclusión con los eventos originales y la cobertura real del entorno.
Por último está la deriva. Cambian las aplicaciones, los patrones de trabajo, las reglas de detección y las técnicas de ataque. Un sistema que rindió bien en una prueba inicial puede dejar de hacerlo al cambiar la distribución de los datos o la configuración del proveedor. La revisión no puede limitarse al momento de compra: debe activarse ante cambios de modelo, versión, permisos, fuentes de datos o comportamiento observado, además de seguir un calendario fijado por el riesgo.
Empieza con un caso de uso estrecho. Elige una tarea repetitiva, con resultado verificable y consecuencias acotadas, como resumir alertas de una fuente concreta. Define qué mejora se espera, qué errores son inaceptables y qué medida de referencia se usará. No despliegues a la vez clasificación, investigación y respuesta automática: si el resultado empeora, no sabrás qué función lo causó.
Después, identifica propietarios. El SOC es responsable del proceso operativo; el CISO, de que el riesgo se integre en la gestión de seguridad; privacidad y asesoría jurídica revisan datos y obligaciones; compras y gestión de terceros verifican contrato, continuidad y cambios del servicio; auditoría evalúa si el diseño y la evidencia permiten comprobar el control. En entidades financieras, estas responsabilidades deben encajar con el marco de gestión de riesgo TIC y la supervisión del órgano de dirección exigidos por DORA.
Antes de usar el sistema en producción, prueba un conjunto representativo de casos benignos, verdaderos positivos, alertas ambiguas y errores conocidos. Incluye situaciones que puedan llevar a una respuesta desproporcionada y verifica el comportamiento cuando faltan datos. Registra versión del modelo, configuración, corpus o fuentes de prueba, resultado y limitaciones. Si el proveedor no permite conocer cambios relevantes o reproducir razonablemente las pruebas, esa falta de visibilidad es un riesgo que debe tratarse, no un detalle de compra.
En la puesta en marcha, limita el alcance y los permisos. Un copiloto de lectura no necesita capacidad para cambiar reglas; un clasificador no necesita credenciales de administrador. Si se habilitan acciones, empieza por operaciones reversibles y con límites explícitos. Establece un mecanismo de parada, una ruta manual y una persona responsable de autorizar el retorno al servicio tras un fallo.
En producción, revisa muestras de decisiones, discrepancias y acciones revertidas. Define umbrales de escalado: por ejemplo, qué aumento de falsos negativos, fallos de integración o errores por severidad obliga a suspender la función o volver a revisión manual. Los valores deben fijarse a partir del riesgo y de la línea base del entorno, no importarse de otro SOC. Registra también las excepciones y el motivo por el que se aceptaron.
El cambio de proveedor, modelo o condiciones del servicio debe tratarse como cambio operativo. Antes de activarlo, comprueba si altera la calidad, el tratamiento de datos, las fuentes, los permisos, la capacidad de auditoría o la respuesta ante incidentes. Si el proveedor no avisa de una modificación que afecta al comportamiento, la entidad puede descubrirla cuando una recomendación deje de ser fiable. El contrato y el proceso de gestión de cambios deben cubrir esa posibilidad en la medida negociable.
Cuando una alerta se cierra con ayuda de IA, la entidad debería poder contestar preguntas sencillas: qué versión del sistema intervino, qué datos recibió, qué recomendó, qué hizo el analista, qué evidencia consultó y por qué se tomó la decisión final. Para una acción automática, debe añadirse qué regla autorizó la ejecución, qué límites se aplicaron y cómo se verificó el resultado.
Eso no significa conservar indefinidamente cada dato de telemetría ni copiar conversaciones completas sin criterio. Los registros deben ser proporcionales, estar protegidos y tener una finalidad y un plazo de conservación definidos. El diseño debe equilibrar trazabilidad con minimización de datos y controlar quién puede consultar los registros de uso del asistente. Una evidencia útil para auditoría puede ser un registro estructurado de la decisión, no una transcripción exhaustiva de toda interacción.
El expediente del caso de uso debería reunir la evaluación de riesgos, la justificación del nivel de autonomía, las métricas de referencia, los resultados de pruebas, la aprobación de cambios, las instrucciones de uso, la formación impartida y las revisiones periódicas. Si aplica el AI Act por tratarse de un sistema de alto riesgo, habrá que atender además los requisitos correspondientes a su papel como proveedor o responsable del despliegue. Si aplica DORA o NIS2, la evidencia debe ayudar a demostrar cómo se integra la herramienta en la gestión de riesgos, incidentes y continuidad.
La separación de funciones también deja huella. Quien configura el sistema no debería ser la única persona que valida su rendimiento; quien aprueba una acción crítica no debería poder borrar después la evidencia de esa aprobación. No hace falta convertir cada alerta en un expediente legal. Sí hace falta que los casos de mayor impacto puedan reconstruirse sin depender de la memoria de quien estaba de turno.
La IA puede quitar fricción del SOC, pero no elimina el trabajo de juicio: lo desplaza hacia la selección de datos, los límites de automatización y la revisión de errores. La implantación responsable no se mide por cuántas tareas se han automatizado, sino por si mejora el tiempo de respuesta sin degradar la detección, si los analistas pueden discrepar y si la organización puede explicar sus decisiones.
Antes de aprobar un nuevo copiloto, pregunta tres cosas: qué acción puede provocar, qué evidencia respalda su recomendación y quién puede detenerla. Si la respuesta a la última pregunta es «el proveedor», el control está en el lugar equivocado. Y si nadie puede responder a las dos primeras con precisión, no es momento de ampliar el despliegue: es momento de acotar el caso, probarlo y corregir el diseño.
El humano en el bucle no es un sello de aprobación para una automatización ya decidida. Es una parte del control, con autoridad, contexto y una alternativa operativa. Sin eso, el SOC no tiene supervisión humana; tiene una interfaz que pide confirmación.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal de regulación, vulnerabilidades explotadas y acciones para tu equipo.
¿Quieres un plan a medida? Modela tu organización con Agentic Digital Twin.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…