Imagen generada por IALa IA no está sustituyendo al analista del SOC. Está sustituyendo, en muchos casos, la paciencia del analista para revisar por quinta vez la misma alerta mal afinada. Esa diferencia importa.
Los casos de uso más sólidos en un centro de operaciones de seguridad no son los que prometen una máquina autónoma capaz de decidir el destino de la empresa, sino los más prosaicos: agrupar alertas, resumir una cadena de eventos, correlacionar indicadores, proponer consultas, traducir una regla de detección o redactar un primer borrador de respuesta. Ahí la IA puede comprimir horas de trabajo en minutos. También puede comprimir un error en minutos.
El debate que debe llegar al consejo no es si la entidad “usa IA” en ciberseguridad. Esa pregunta ya se ha quedado pequeña. La cuestión es otra: qué decisiones puede influir el modelo, qué datos recibe, qué controles impiden que una recomendación se convierta automáticamente en una acción destructiva y qué evidencias demostrarán, seis meses después, que el humano estuvo realmente en el bucle.
La página temática de ENISA sobre inteligencia artificial sirve como punto de partida para entender beneficios y riesgos. Pero una dirección no necesita otro catálogo de posibilidades. Necesita saber dónde colocar los frenos, cómo medir el rendimiento y qué parte de la responsabilidad permanece en la organización aunque el proveedor describa su producto como un “copiloto”. La palabra es amable. La responsabilidad, bastante menos.
Un SOC puede desplegar IA en tareas con perfiles de riesgo muy diferentes. Clasificar una alerta como duplicada no equivale a aislar un controlador de dominio, revocar miles de sesiones o cerrar una cuenta de pagos. Meter todas esas funciones bajo la etiqueta de “automatización inteligente” es una forma elegante de no gobernarlas.
La clasificación útil debe seguir la consecuencia de la acción, no el nombre comercial de la herramienta. Una respuesta generada por un modelo puede ser meramente informativa, recomendar una acción o ejecutarla. Son tres niveles de exposición distintos:
El consejo debería exigir un inventario que relacione cada caso de uso con cuatro datos: la decisión afectada, el sistema que puede ejecutarla, el nivel de aprobación humana y el mecanismo de reversión. Si el equipo no puede responder quién autorizó una acción, con qué información y cómo se deshace, no tiene un control; tiene una esperanza operativa.
El riesgo no depende únicamente de la precisión estadística del modelo. Un modelo con una tasa de acierto elevada puede ser inaceptable si sus errores recaen siempre sobre el mismo tipo de activo, si no distingue entre producción y laboratorio o si actúa durante una ventana en la que no existe capacidad humana de revisión. La pregunta correcta no es “¿qué porcentaje de alertas acierta?”, sino “¿qué daño produce su error más probable?”.
El primer beneficio tangible aparece en el triage. Los SOC reciben señales de EDR, identidad, correo electrónico, nube, aplicaciones, firewalls y herramientas de exposición. La IA puede agrupar eventos relacionados, identificar patrones repetidos y presentar al analista una línea temporal comprensible. Eso reduce el tiempo invertido en cambiar de consola y reconstruir manualmente una historia que el sistema ya podía haber relacionado.
El segundo está en la correlación entre fuentes que rara vez hablan el mismo idioma. Una autenticación imposible, una modificación de privilegios y una descarga masiva no significan lo mismo por separado que juntas. Un modelo puede ayudar a formar hipótesis sobre una posible toma de cuenta o abuso interno. Pero una hipótesis no es una confirmación. La interfaz debe distinguir claramente entre evidencia observada, inferencia del modelo y dato ausente. Si mezcla las tres capas en un párrafo convincente, el analista puede confundir fluidez con verdad.
El tercer caso es el copiloto del analista. Puede explicar una alerta a un profesional junior, proponer comandos de investigación, convertir una consulta entre lenguajes o recuperar procedimientos internos. También puede ayudar a redactar comunicaciones de incidente y a documentar por qué se descartó una señal. Este último uso suele recibir menos atención, aunque tiene una ventaja de gobierno: si conserva la consulta, los datos utilizados, la recomendación y la decisión final, mejora la trazabilidad del trabajo.
El cuarto es la priorización basada en contexto. Una alerta sobre un portátil de pruebas no debería tratarse igual que una alerta equivalente sobre el servidor que procesa pagos, el sistema de autenticación privilegiada o una plataforma crítica de un proveedor. Para hacerlo bien, el modelo necesita inventario de activos, criticidad, relaciones de dependencia y datos de identidad. Precisamente por eso la IA no arregla un CMDB desactualizado. Lo amplifica. Si la base de activos está mal, el modelo puede priorizar con mucha seguridad la cosa equivocada.
Las métricas deben reflejar esos beneficios. El consejo puede pedir, como mínimo, evolución del tiempo medio de detección, tiempo medio de respuesta, porcentaje de alertas agrupadas sin pérdida de incidentes, tasa de escalados aceptados por los analistas y horas dedicadas a tareas repetitivas. Estas cifras deben compararse con una línea base anterior al despliegue y segmentarse por tipo de alerta. Un descenso del volumen de tickets no demuestra una mejora: también puede significar que el sistema está descartando señales que nadie revisa.
Los falsos positivos tienen un coste visible: fatiga, interrupciones, horas de investigación y pérdida de confianza en el SOC. Los falsos negativos son más peligrosos porque permanecen fuera del cuadro de mando. Un incidente no detectado no aparece como “error de la IA” hasta que alguien encuentra sus consecuencias.
La dirección suele recibir una métrica cómoda —por ejemplo, el porcentaje de alertas que el modelo clasifica correctamente—, pero esa cifra puede ocultar una distribución asimétrica. Si el 98% de las alertas son benignas, un sistema que clasifica todo como benigno tendrá una exactitud aparente alta y un valor defensivo nulo. En seguridad importan también la precisión, la sensibilidad o recuperación, la tasa de falsos negativos y el valor predictivo de cada categoría de alerta.
El SOC debería establecer umbrales distintos para acciones distintas. Una recomendación de búsqueda adicional puede tolerar más incertidumbre que un aislamiento automático. Un bloqueo temporal de un dominio externo no tiene el mismo perfil que la revocación global de credenciales. Los umbrales deben documentarse por caso de uso, revisarse después de incidentes y probarse con datos que incluyan ataques reales, simulaciones y actividad normal.
Hay otro problema menos visible: el cambio de distribución. El modelo puede funcionar bien con los datos históricos con los que fue configurado y degradarse cuando cambian la arquitectura, los proveedores, los patrones de trabajo o las tácticas del adversario. Una migración a la nube, una nueva herramienta de identidad o un aumento del trabajo remoto puede alterar las señales sin que nadie haya cambiado el modelo. La validación no puede terminar el día del go-live.
El control operativo exige monitorizar deriva, revisar muestras de decisiones y comparar las recomendaciones con resultados confirmados por analistas. Cuando un modelo descarta alertas, debe existir un muestreo independiente de esos descartes. De lo contrario, la organización audita las decisiones que la IA decidió mostrar y nunca examina las que decidió ocultar. Es una versión tecnológica del sesgo de supervivencia.
Un modelo puede equivocarse por razones conocidas: datos incompletos, etiquetas defectuosas, cambios de contexto, límites de ventana temporal o correlaciones espurias. Pero un SOC añade riesgos propios de la cadena operativa.
El primero es la inyección de instrucciones a través de datos no confiables. Un correo, un ticket, un registro o una página web puede contener texto diseñado para influir en un modelo generativo. Si el copiloto procesa contenido externo y lo trata como una instrucción, un atacante puede intentar alterar su análisis, inducir una consulta peligrosa o hacer que oculte una señal. La entrada del modelo debe separarse de las instrucciones de sistema y de las políticas internas. También deben limitarse las herramientas que el modelo puede invocar y los parámetros con los que puede hacerlo.
El segundo es la propagación de una respuesta inventada. Un modelo puede citar una regla inexistente, atribuir una técnica a una evidencia que no la demuestra o recomendar un comando incompatible con el sistema afectado. El diseño debe obligarle a mostrar fuentes y datos de respaldo, no solo una explicación plausible. La salida que no puede vincularse con un evento, una consulta o una documentación aprobada debe aparecer como hipótesis, no como hecho.
El tercero es la concentración en un proveedor. Si el SOC depende de un único servicio de IA para resumir, investigar y ejecutar, una caída o un cambio de modelo puede afectar a toda la capacidad de respuesta. El contrato y el diseño deben contemplar disponibilidad, exportación de registros, retención, ubicación y uso de datos para entrenamiento. En entidades financieras, la dependencia debe conectarse además con el inventario de terceros TIC y el análisis de concentración exigido por el Reglamento de Resiliencia Operativa Digital.
El cuarto es la pérdida de habilidades. Si los analistas dejan de investigar porque el copiloto siempre ofrece una narrativa ya construida, la organización puede perder la capacidad de cuestionar al sistema. La supervisión humana no consiste en pulsar “aprobar”. Consiste en tener conocimiento, tiempo, autoridad y datos suficientes para rechazar la recomendación. Un aprobador sin capacidad real de revisión es una decoración de cumplimiento.
El Reglamento de IA no convierte automáticamente en sistema de alto riesgo cualquier herramienta utilizada por un SOC. La clasificación depende del caso de uso y de las categorías del artículo 6 y el anexo III. Una herramienta que ayuda a analizar registros de seguridad no entra por defecto en la lista de sistemas de alto riesgo solo porque se utilice en una empresa regulada. Confundir “uso crítico” con “categoría jurídica de alto riesgo” conduce a controles mal dirigidos.
La evaluación debe comenzar por identificar la finalidad prevista, el proveedor, el papel de la entidad como implementadora y las funciones habilitadas. Si el sistema se utiliza para una finalidad incluida en el artículo 6 o en el anexo III, pueden activarse las obligaciones específicas de los sistemas de alto riesgo. Entre ellas está la supervisión humana del artículo 14. Esa supervisión debe permitir comprender las capacidades y limitaciones del sistema, interpretar sus resultados, ignorarlos o revertirlos y detenerlo cuando sea necesario.
El artículo 14 no se satisface porque exista un analista en el organigrama. La entidad debe demostrar que el analista puede intervenir. En un SOC, eso exige permisos para detener una automatización, acceso al contexto empleado por el modelo, tiempo suficiente para revisar y procedimientos para escalar discrepancias. También exige evitar que el sistema presente la recomendación con una confianza visual que exceda la evidencia disponible.
El artículo 4, aplicable desde el 2 de febrero de 2025, establece obligaciones de alfabetización en IA para proveedores e implementadores en la medida prevista por el reglamento. Para un SOC, la formación debe ir más allá de enseñar a escribir mejores instrucciones. Los analistas necesitan conocer alucinaciones, deriva, ataques de prompt, límites de los datos, tratamiento de información sensible y criterios para no ejecutar una recomendación.
La mayor parte del régimen del AI Act comenzó a desplegarse por fases y la fecha general de aplicación de numerosas obligaciones es el 2 de agosto de 2026, conforme al artículo 113, con excepciones y calendarios específicos. En noviembre de 2026, el inventario de IA ya no debería ser una iniciativa futura. La organización debe saber qué sistemas utiliza, con qué finalidad y qué controles les corresponden. Aun así, la clasificación debe hacerse con precisión: sobrerregular una herramienta de resumen no compensa dejar sin gobierno una automatización capaz de modificar la infraestructura.
También conviene separar el AI Act de otras obligaciones. Si el SOC procesa datos personales —direcciones IP vinculables, identificadores de usuario, registros de autenticación o contenido de comunicaciones—, el GDPR sigue siendo aplicable. El artículo 5 exige, entre otros principios, minimización, limitación de la finalidad y responsabilidad proactiva. El artículo 32 obliga a aplicar medidas técnicas y organizativas adecuadas al riesgo. El artículo 22 puede ser relevante si una persona queda sometida a una decisión basada únicamente en tratamiento automatizado con efectos jurídicos o igualmente significativos, aunque muchas decisiones internas de priorización de alertas no alcancen ese umbral. La evaluación debe hacerse por caso de uso, no mediante una cita automática del artículo 22.
Para entidades cubiertas por NIS2, la IA del SOC no puede desvincularse del proceso de gestión de incidentes. El artículo 21 exige medidas técnicas, operativas y organizativas adecuadas y proporcionadas para gestionar los riesgos que afectan a la seguridad de las redes y los sistemas de información. Entre ellas figuran el análisis de riesgos, la gestión de incidentes, la continuidad, la seguridad de la cadena de suministro, la evaluación de la eficacia de las medidas y el uso de criptografía cuando proceda.
El artículo 23 fija una secuencia especialmente relevante para la automatización: alerta temprana en 24 horas desde que se tenga conocimiento de un incidente significativo, notificación del incidente en 72 horas y un informe final, en principio, en el plazo de un mes. La IA puede ayudar a construir la línea temporal y reunir evidencias, pero no puede convertirse en una excusa para retrasar el juicio humano sobre la materialidad. Un sistema que clasifica un incidente como “bajo” y silencia la escalada puede afectar directamente al cumplimiento del plazo.
El artículo 20 asigna responsabilidad a los órganos de dirección en la aprobación y supervisión de las medidas de gestión de riesgos de ciberseguridad. La conversación del consejo, por tanto, no debe reducirse a cuántos analistas ahorra un copiloto. Debe incluir la tasa de incidentes reabiertos, el tiempo entre primera señal y clasificación, los casos en que la automatización fue anulada y el número de eventos descartados que después resultaron relevantes.
En el sector financiero, DORA se aplica desde el 17 de enero de 2025. Sus artículos 5 y 6 sitúan la gobernanza y la gestión del riesgo TIC bajo la responsabilidad del órgano de dirección. El artículo 10 exige capacidades para detectar rápidamente actividades anómalas y el artículo 11 regula la gestión de incidentes relacionados con las TIC. El artículo 13 pide extraer lecciones de los incidentes y mejorar las medidas de resiliencia. La IA puede contribuir a cada una de esas funciones, pero también debe quedar dentro de su perímetro de control.
DORA cambia la pregunta contractual. Si el copiloto del SOC es un servicio de un tercero TIC, la entidad necesita saber qué ocurre con los registros, cómo se notifica una interrupción, qué pruebas puede realizar, qué subcontratistas intervienen y cómo se termina el servicio sin perder la capacidad de investigación. El artículo 28 exige gestionar el riesgo TIC de terceros y mantener la responsabilidad de la entidad. La externalización del análisis no externaliza la obligación de responder ni la capacidad de demostrar que se respondió correctamente.
La entidad que quiera defender su modelo de supervisión debe conservar una pista de decisión suficientemente granular. No hace falta guardar cada token generado por un modelo, pero sí el contexto necesario para reconstruir qué ocurrió. Como mínimo, el expediente de una alerta asistida por IA debería incluir el identificador del caso, los eventos relevantes, la versión del modelo o del servicio, la fecha y hora, la recomendación, las fuentes utilizadas, el analista que la revisó, la decisión adoptada y cualquier acción ejecutada.
Si el analista rechazó la recomendación, la razón debe poder codificarse de forma útil: evidencia contradictoria, activo mal clasificado, contexto ausente, recomendación fuera de procedimiento o simple error del modelo. Estos datos alimentan la mejora del sistema y permiten al comité de riesgos distinguir entre un problema de configuración y un problema de diseño.
La supervisión también necesita pruebas. Un ejercicio razonable puede introducir deliberadamente señales ambiguas, datos incompletos, actividad legítima de alta intensidad y contenido con instrucciones maliciosas. El objetivo no es demostrar que el modelo siempre acierta —eso no ocurrirá—, sino comprobar que el sistema se comporta de forma segura cuando no sabe. Debe elevar la incertidumbre, pedir revisión o bloquear una acción de alto impacto; no inventar seguridad.
La documentación tiene que conectar con los marcos que ya utiliza la organización. En NIST CSF 2.0, el caso de uso afecta sobre todo a Detect y Respond, pero también a Govern, porque hay que asignar responsabilidades, definir apetito de riesgo y supervisar resultados. El catálogo de controles puede mapear cada capacidad a una métrica, un propietario y una evidencia. El marco no sustituye a una obligación legal, pero evita que el programa se convierta en una colección de promesas del proveedor.
Una presentación ejecutiva sobre IA en el SOC no necesita veinte diapositivas sobre arquitectura de modelos. Necesita respuestas verificables.
Primero: ¿qué decisiones puede tomar directamente el sistema y cuáles requieren aprobación? La respuesta debe incluir excepciones, horarios, cuentas privilegiadas y activos críticos.
Segundo: ¿qué ocurre cuando el modelo no está disponible o cambia su comportamiento? El SOC debe demostrar que puede volver a procedimientos manuales o a reglas deterministas. La resiliencia no consiste en confiar más en la IA cuando falla la IA.
Tercero: ¿cómo se mide el daño de los falsos negativos? Si el cuadro de mando solo muestra alertas cerradas y tiempo ahorrado, está diseñado para celebrar la productividad, no para gestionar el riesgo.
Cuarto: ¿qué datos salen de la entidad y quién puede reutilizarlos? La respuesta debe cubrir registros personales, secretos, credenciales, propiedad intelectual, retención, entrenamiento y acceso del proveedor.
Quinto: ¿qué evidencia existe para demostrar supervisión humana? Un procedimiento firmado en PDF no basta si los registros muestran que todas las recomendaciones se aprobaron automáticamente.
Sexto: ¿qué pasa con la responsabilidad cuando el analista sigue una recomendación incorrecta? La respuesta madura no culpa al usuario ni al algoritmo de forma automática. Examina si el sistema mostró sus límites, si el procedimiento permitía cuestionarlo, si el analista tenía contexto y si la dirección había fijado umbrales razonables.
La promesa comercial de la IA suele expresarse en tiempo ahorrado. Para la dirección, esa métrica es insuficiente. Un SOC puede cerrar casos más deprisa y empeorar su capacidad de detección. El indicador que falta es cuántas acciones peligrosas evitó el sistema al elevar incertidumbre, pedir confirmación o impedir una ejecución fuera de política.
El cuadro de mando debería combinar productividad y seguridad: precisión y recuperación por tipo de alerta; falsos negativos descubiertos en revisiones posteriores; porcentaje de recomendaciones aceptadas, modificadas y rechazadas; tiempo de revisión humana; número de acciones automáticas revertidas; disponibilidad del servicio; deriva de rendimiento; incidentes relacionados con datos enviados al proveedor; y cobertura de pruebas adversariales.
Estas cifras no deben presentarse como una competición entre humanos y máquinas. Un analista que rechaza una recomendación no es un fallo del sistema; puede ser la evidencia de que el control funciona. El objetivo es que el modelo reduzca trabajo mecánico sin convertir la discrepancia en una anomalía que el equipo aprenda a ignorar.
La pregunta final para el consejo es incómoda y sencilla: si mañana el modelo clasificara erróneamente un ataque como actividad legítima, ¿podría la entidad explicar qué vio, quién revisó la decisión, por qué se aceptó y en qué momento se habría activado la notificación de 24 o 72 horas exigida por NIS2? Si la respuesta depende de reconstruir conversaciones dispersas en varias herramientas, el problema no es la falta de inteligencia artificial. Es la falta de gobierno.
La IA puede hacer que un SOC sea más rápido, más consistente y menos agotador. También puede hacer que una mala decisión parezca razonable, se ejecute a escala y quede envuelta en una narrativa que nadie se detuvo a cuestionar. El “humano en el bucle” solo tiene valor si conserva autoridad real, información suficiente y una obligación medible de intervenir. Para el consejo, la inversión no debería aprobarse por la brillantez de la demo, sino por la calidad de los límites, la evidencia y la capacidad de recuperación cuando el modelo se equivoque. Se equivocará.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal de regulación, vulnerabilidades explotadas y acciones para tu equipo.
¿Quieres un plan a medida? Modela tu organización con Agentic Digital Twin.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…