Imagen generada por IAEl empleado que pega un contrato en un chatbot público no suele estar intentando provocar una brecha. Intenta terminar antes su trabajo. Esa diferencia de intención explica por qué la shadow AI es más difícil de controlar que un malware convencional: el usuario conoce la herramienta, la considera útil y, con frecuencia, cree que no está haciendo nada especialmente arriesgado.
El problema aparece cuando el texto contiene datos personales, secretos comerciales, código fuente, información financiera o credenciales. En ese momento, una consulta aparentemente inocente puede convertirse en una comunicación a un proveedor externo, en un tratamiento no documentado o en una transferencia internacional que nadie ha evaluado. El botón de “aceptar” no sustituye al registro de actividades de tratamiento. Tampoco convierte al proveedor en encargado del tratamiento por arte de magia.
Para un CISO, la pregunta ya no es si la plantilla utiliza inteligencia artificial. La respuesta es casi seguro que sí. La pregunta útil es otra: ¿puede la organización demostrar quién utiliza qué herramienta, con qué datos, bajo qué configuración y con qué capacidad de intervención?
La respuesta exige combinar descubrimiento técnico, prevención de fuga de información, gobierno del dato y una política de uso aceptable que no parezca escrita para una empresa de 1998. Bloquear todos los servicios externos puede ser sencillo durante una semana. Mantenerlo sin provocar una rebelión silenciosa —o diez cuentas personales nuevas— es bastante más complicado.
Una política que diga “queda prohibido utilizar herramientas de IA generativa no autorizadas” puede ser jurídicamente clara y operativamente inútil. Si los usuarios tienen acceso a navegadores, dispositivos móviles y servicios SaaS, la prohibición no elimina el uso: lo desplaza fuera de la visibilidad del equipo de seguridad.
El primer error consiste en tratar la shadow AI como una lista de aplicaciones. La lista envejece en días. Hoy se usa un chatbot web; mañana, una extensión del navegador, un asistente integrado en el paquete ofimático, un complemento de programación o una función de resumen incluida en el CRM. El activo que hay que gobernar no es solo la aplicación, sino el flujo de datos que sale de la organización y el modelo de confianza que se aplica al proveedor.
Un inventario razonable debe capturar, como mínimo:
Sin esos campos, el inventario es poco más que una colección de logotipos. Puede servir para una presentación, pero no para decidir si un flujo debe permitirse.
El descubrimiento técnico debe empezar por las fuentes que ya existen. Los registros de DNS y proxy muestran conexiones a dominios conocidos; las plataformas CASB o SSE pueden identificar aplicaciones SaaS, cuentas personales y patrones de uso; los agentes EDR y MDM permiten localizar extensiones y aplicaciones instaladas; y los registros de identidad revelan si el acceso se realiza con una cuenta corporativa o con un correo privado.
Ninguna de esas fuentes es suficiente por sí sola. El DNS puede mostrar que alguien visitó un dominio, pero no necesariamente qué archivo cargó. Un CASB puede detectar una aplicación no autorizada, pero no siempre conoce el contenido del prompt. El DLP puede identificar un número de cuenta o un documento confidencial, aunque un texto bien redactado puede escapar a las reglas basadas únicamente en patrones.
El enfoque más eficaz combina las señales:
Un programa maduro define métricas antes de comprar otra plataforma. Por ejemplo: porcentaje de usuarios con acceso a herramientas de IA corporativas, número de aplicaciones descubiertas fuera del catálogo, porcentaje de flujos con datos clasificados, tiempo medio entre la detección y la decisión de tratamiento, y proporción de bloqueos revisados por un analista. Son indicadores operativos, no objetivos legales. La organización debe fijar sus umbrales según el riesgo, el volumen y el sector.
Conviene medir también los falsos positivos. Un DLP que interrumpe cada correo que contiene una dirección puede acabar desactivado por los administradores. El control más estricto del mundo no protege nada cuando la empresa ha aprendido a ignorarlo.
El DLP aplicado a la IA no debe limitarse a buscar términos como “DNI”, “IBAN” o “confidencial”. Esos patrones son útiles, pero insuficientes. Un usuario puede copiar una tabla de clientes sin incluir la palabra “DNI”, o pegar código que contiene una clave API codificada. También puede reconstruir información personal mediante varias consultas pequeñas, ninguna de las cuales activa una regla aislada.
Las reglas deberían combinar contenido, contexto y destino. Algunos ejemplos:
La última opción merece más atención. El control no tiene que escoger siempre entre dejar pasar el dato original y bloquear el trabajo. Puede enmascarar identificadores, sustituir nombres por tokens o eliminar campos no necesarios. Pero esa transformación debe ser reversible solo bajo controles estrictos, o irreversible cuando la finalidad no requiera reidentificación. Si la aplicación conserva el texto original en sus propios registros, el problema no ha desaparecido: simplemente se ha movido.
El DLP también debe vigilar la respuesta del modelo. La fuga puede producirse en ambas direcciones. Un asistente conectado a un repositorio interno puede devolver a un usuario información que no debería consultar. En ese escenario, el problema no es que el empleado haya enviado datos a un servicio externo, sino que el sistema no ha aplicado correctamente el principio de mínimo privilegio.
Por eso, un control de IA necesita evaluar tanto la entrada como la salida, los adjuntos, el historial de conversación, los conectores y las acciones que el asistente puede ejecutar. El modelo no debe convertirse en una puerta lateral hacia SharePoint, GitHub, el sistema de tickets o la plataforma financiera.
Un CASB puede aportar descubrimiento de servicios, aplicación de políticas, análisis de comportamiento y control sobre sesiones SaaS. Cuando forma parte de una arquitectura SSE, puede aplicar controles desde puntos de presencia distribuidos, con independencia de que el usuario trabaje desde una oficina o desde casa. Pero la herramienta no sustituye al diseño de gobierno.
La organización debe decidir qué señales justifican cada respuesta. Un acceso desde un dispositivo gestionado hacia una aplicación aprobada no merece el mismo tratamiento que una carga masiva desde una cuenta personal, fuera del horario habitual y desde un navegador no gestionado. Esa combinación contextual es más útil que una regla que bloquee todo dominio cuyo nombre contenga “ai”.
También hay límites técnicos. El cifrado de extremo a extremo, las aplicaciones móviles, las APIs privadas, el tráfico desde equipos personales y las extensiones del navegador pueden reducir la visibilidad. La inspección TLS puede mejorarla, pero debe evaluarse junto con el impacto en privacidad, rendimiento y compatibilidad. En una entidad europea, interceptar tráfico de empleados no es una decisión puramente técnica: implica definir finalidad, proporcionalidad, acceso a registros y plazos de conservación.
El equipo de privacidad debería participar antes de activar una inspección generalizada. El artículo 5.1.a del GDPR exige licitud, lealtad y transparencia; el artículo 5.1.c limita los datos a lo necesario; y el artículo 32 exige medidas de seguridad adecuadas al riesgo. Registrar todos los prompts asociados a una persona puede ser necesario para investigar una fuga, pero conservarlos indefinidamente por comodidad no encaja bien con el principio de limitación de conservación del artículo 5.1.e.
El artículo 35 del GDPR puede exigir una evaluación de impacto cuando el tratamiento, por su naturaleza, alcance, contexto o fines, entrañe un alto riesgo para los derechos y libertades. No toda herramienta de IA desencadena automáticamente una EIPD. Sí resulta difícil defender que se ha evaluado adecuadamente el riesgo cuando la empresa analiza conversaciones potencialmente personales, monitoriza a toda la plantilla y permite que un proveedor reutilice los datos para mejorar sus modelos sin una delimitación clara.
La shadow AI se presenta como un problema de tecnología, pero a menudo es un síntoma de un gobierno del dato débil. Si nadie sabe qué información es confidencial, quién puede compartirla o cuánto tiempo debe conservarse, el DLP solo puede reaccionar a ciegas.
La clasificación debe ser suficientemente útil para influir en una decisión. Cuatro niveles suelen ser más operables que una taxonomía de doce categorías que nadie aplica: público, interno, confidencial y restringido. La etiqueta debe viajar con el documento cuando sea posible, y las reglas deben traducirla a acciones. “Restringido” no significa simplemente “poner una marca roja”; debería implicar, por ejemplo, prohibición de envío a servicios públicos, cifrado, acceso basado en rol y aprobación de un propietario del dato.
El propietario del dato debe responder a una pregunta que la tecnología no puede resolver: ¿es necesaria esta información para la finalidad? Un equipo de ventas puede pedir a un modelo que redacte un correo sin enviar el nombre completo, el teléfono y el historial de compras del cliente. La minimización no es un ejercicio académico; reduce la superficie de exposición y hace más sencilla la defensa ante una auditoría.
En el caso de datos personales, la base jurídica debe existir antes del uso. El artículo 6 del GDPR no permite invocar el interés legítimo como una contraseña universal. Habrá que analizar la finalidad concreta, la expectativa razonable de las personas, la necesidad del tratamiento y la ponderación de intereses. Si se procesan categorías especiales de datos, entra en juego el artículo 9, con exigencias adicionales.
La relación con el proveedor también requiere precisión. Si la herramienta procesa datos por cuenta de la organización, el artículo 28 del GDPR exige un encargado que ofrezca garantías suficientes y un contrato con instrucciones documentadas, confidencialidad, seguridad, subcontratación, asistencia y supresión o devolución de datos. Si el proveedor decide finalidades propias, la calificación puede ser distinta. La etiqueta comercial “enterprise” no resuelve esa cuestión.
Para transferencias fuera del Espacio Económico Europeo, el capítulo V del GDPR exige una base válida. Las cláusulas contractuales tipo pueden ser parte de la solución, pero no eliminan automáticamente la necesidad de evaluar las circunstancias de la transferencia y las garantías aplicables. ¿Dónde se procesan los prompts? ¿Qué subencargados intervienen? ¿Puede una autoridad extranjera acceder a ellos? ¿Se conserva una copia para entrenamiento? Son preguntas de arquitectura y contrato, no de marketing.
El Reglamento (UE) 2024/1689, conocido como AI Act, no convierte toda utilización interna de IA en un sistema de alto riesgo. Esa distinción importa. La clasificación depende del uso y del sistema, no de que la aplicación lleve la palabra “inteligencia” en la página de inicio.
El artículo 4 establece obligaciones de alfabetización en materia de IA para proveedores y responsables del despliegue, aplicables desde el 2 de febrero de 2025. Una formación que solo explique cómo escribir mejores prompts se queda corta. La alfabetización exigible debe cubrir riesgos, limitaciones, tratamiento de datos, instrucciones internas y escalado de incidentes. La organización debería conservar evidencias de quién fue formado, sobre qué sistemas y con qué contenido.
El artículo 5 prohíbe determinadas prácticas de IA. La shadow AI no implica por sí sola que exista una práctica prohibida, pero una herramienta adquirida para clasificar, evaluar o influir sobre personas puede cruzar categorías regulatorias que el área de compras no ha identificado. El artículo 6 y los anexos III y I son relevantes cuando el sistema puede ser de alto riesgo por su finalidad o por su integración en productos regulados. La cuestión práctica es sencilla: antes de desplegar una función de IA en recursos humanos, crédito, seguros, acceso a servicios esenciales o infraestructuras críticas, hay que documentar su clasificación y responsabilidades.
El AI Act aplica diferentes obligaciones en fechas distintas. Las prohibiciones y el artículo 4 son aplicables desde el 2 de febrero de 2025; las reglas para modelos de propósito general empezaron a desplegarse desde el 2 de agosto de 2025; y una parte relevante de las obligaciones para sistemas de alto riesgo está prevista para el 2 de agosto de 2026, con disposiciones específicas que alcanzan a determinados sistemas integrados en productos regulados en 2027. En 2026, por tanto, no basta con decir que “la regulación llegará”: varias obligaciones ya están activas y otras exigen preparación contractual, técnica y documental ahora.
NIS2 lleva la conversación a la gestión del riesgo. El artículo 21 exige medidas técnicas, operativas y organizativas proporcionadas para gestionar los riesgos de ciberseguridad. Entre ellas figuran la gestión de incidentes, la continuidad, la seguridad de la cadena de suministro, la seguridad en la adquisición y desarrollo de sistemas y la formación. Una herramienta de IA no autorizada que recibe información de clientes o código corporativo encaja razonablemente en ese análisis de superficie de ataque y dependencia de terceros. El artículo 23 establece obligaciones de notificación de incidentes significativos, con una alerta temprana en 24 horas y una notificación de incidente en 72 horas desde que la entidad tenga conocimiento, además de un informe final posterior. Una fuga hacia un servicio de IA no es automáticamente un incidente NIS2 significativo, pero no puede clasificarse sin evaluar impacto, alcance y continuidad.
Para las entidades financieras, DORA es aún más concreto. El Reglamento (UE) 2022/2554 es aplicable desde el 17 de enero de 2025. Sus artículos 5 a 16 sitúan la gestión del riesgo TIC bajo responsabilidad del órgano de dirección; el artículo 17 regula la gestión y clasificación de incidentes relacionados con las TIC; el artículo 24 y siguientes abordan las pruebas de resiliencia; y los artículos 28 a 30 establecen requisitos para la gestión del riesgo de terceros proveedores de servicios TIC. Una herramienta de IA utilizada por una entidad financiera, aunque la haya contratado un departamento de negocio, debe analizarse dentro de ese marco cuando presta una función TIC relevante.
La lección regulatoria cruzada es incómoda pero útil: GDPR pregunta por la licitud y la seguridad del tratamiento; NIS2, por la gestión del riesgo y la cadena de suministro; DORA, por la resiliencia operativa y el control de terceros; el AI Act, por el uso y las obligaciones específicas del sistema. Una misma aplicación puede activar las cuatro conversaciones. Ninguna sustituye a las demás.
Una política eficaz no debe limitarse a prohibir datos “sensibles”. Debe ofrecer ejemplos concretos y una ruta aprobada. El usuario tiene que saber qué puede hacer con el asistente corporativo, qué información puede introducir, qué herramientas están autorizadas, qué datos requieren anonimización y a quién acudir cuando el caso no encaja.
La política debería prohibir, como mínimo, introducir en servicios públicos no aprobados credenciales, claves privadas, datos de clientes, expedientes laborales, información médica, secretos comerciales, código no publicado y documentos sujetos a secreto profesional. También debería prohibir utilizar una cuenta personal para eludir controles corporativos y automatizar decisiones sobre personas sin revisión humana y aprobación del propietario del proceso.
Pero una prohibición sin alternativa fracasa. La empresa debe ofrecer una herramienta corporativa con inicio de sesión federado, MFA, configuración de no entrenamiento cuando sea contractualmente posible, retención definida, registros de uso y controles de administración. Si el asistente aprobado es tan restrictivo que un analista no puede resumir un documento interno, el mercado paralelo recuperará su espacio antes de la siguiente reunión del comité.
La formación debe enseñar a reconocer tres riesgos distintos: la exposición de datos al proveedor, la generación de información incorrecta y la ejecución no autorizada de acciones. Un modelo puede inventar una cláusula, resumir mal un expediente o sugerir código vulnerable sin que exista una intrusión clásica. El usuario debe saber cuándo verificar, cuándo no confiar en la salida y cuándo escalar.
ISO/IEC 27001:2022 proporciona un lenguaje operativo útil, aunque no sea una regulación específica de IA. El control 5.9 del Anexo A aborda el inventario de información y activos asociados; el 5.10, el uso aceptable de la información y los activos; el 5.23, la seguridad para el uso de servicios en la nube; el 8.12, la prevención de fuga de datos; y el 8.23, el filtrado web. El control 6.3 se refiere a la concienciación, educación y formación en seguridad de la información.
La ventaja de utilizar estos controles no es decorar un mapa de cumplimiento. Es convertir la política de shadow AI en evidencias revisables:
La excepción merece una mención. Cada excepción debe tener propietario, finalidad, datos permitidos, duración, controles compensatorios y fecha de revisión. Una excepción indefinida es una aprobación permanente con peor documentación. Si el negocio no puede explicar por qué una herramienta necesita datos confidenciales, la aprobación no debería sobrevivir a la revisión.
La respuesta debe estar preparada antes del primer incidente. Cuando una alerta detecta que un usuario ha enviado un archivo confidencial, el equipo necesita saber qué conservar, quién decide la escalada y cómo limitar el daño.
Primero hay que preservar los metadatos: identidad, dispositivo, hora, aplicación, destino, regla activada y tamaño del contenido. El contenido completo solo debería recopilarse cuando exista una base operativa y jurídica para ello. Después debe determinarse si el proveedor recibió el material, si lo almacenó, si lo utilizó para entrenamiento, si se propagó a subencargados y si la organización puede solicitar su eliminación.
La evaluación de una posible violación de datos personales debe realizarse conforme al artículo 33 del GDPR. Si existe riesgo para los derechos y libertades de las personas, la notificación a la autoridad de control debe hacerse, cuando proceda, sin dilación indebida y, a ser posible, dentro de las 72 horas desde que el responsable tiene constancia. El artículo 34 puede exigir comunicación a los afectados cuando el riesgo sea alto. Las 72 horas no son un plazo para iniciar la investigación desde cero; son un motivo para tener previamente un procedimiento de clasificación y una cadena de decisión.
La respuesta técnica puede incluir revocar sesiones, deshabilitar tokens, rotar credenciales expuestas, retirar extensiones, bloquear el dominio, solicitar la supresión al proveedor y revisar si otros usuarios enviaron el mismo tipo de información. La respuesta de gobierno debe identificar por qué el dato estaba accesible, por qué la herramienta no estaba descubierta y por qué el usuario creyó que el flujo era aceptable. Castigar al último clic sin corregir esas tres causas produce estadísticas tranquilizadoras y el mismo incidente seis meses después.
En 2026, el hito más relevante para muchas organizaciones no será una nueva plataforma de IA, sino la consolidación de los controles que ya deberían estar funcionando. El AI Act entra en una fase de obligaciones más visibles para determinados sistemas; DORA ya exige a las entidades financieras una disciplina formal sobre riesgo TIC y terceros; y NIS2 presiona para que la gestión de la cadena de suministro deje de ser un anexo olvidado del cuestionario de proveedores.
El calendario debería traducirse en decisiones concretas: actualizar el inventario de usos de IA, revisar contratos y subencargados, probar reglas DLP con datos sintéticos y reales bajo condiciones controladas, evaluar las rutas de salida desde dispositivos no gestionados y documentar qué usos requieren aprobación humana. Las fechas regulatorias no son el plan. Son los puntos contra los que se comprobará si existe uno.
También conviene seguir la evolución de las guías de ENISA, de las autoridades de protección de datos y de los supervisores sectoriales. La página temática de ENISA sobre inteligencia artificial sirve como punto de referencia para amenazas, seguridad y buenas prácticas, pero no reemplaza el análisis de la herramienta concreta ni la lectura del contrato concreto. La fuente oficial puede explicar el riesgo; la entidad debe demostrar cómo lo controla.
El control de shadow AI no consiste en declarar que la IA está prohibida ni en comprar un CASB y esperar que encuentre la respuesta. Consiste en eliminar la confianza implícita que acompaña a cada paso: que el usuario conoce el dato, que el proveedor no lo reutiliza, que la cuenta es corporativa, que el modelo no conserva la conversación, que el conector respeta los permisos y que una alerta llegará a alguien capaz de actuar.
Una arquitectura defendible parte de cuatro decisiones: descubrir todos los usos razonablemente detectables; clasificar los datos antes de enviarlos; aplicar controles graduados según identidad, contenido y destino; y conservar evidencias que conecten la política con la ejecución. GDPR, NIS2, DORA, el AI Act e ISO 27001 ofrecen piezas distintas de ese diseño. Ninguno permite delegar el criterio en una casilla de configuración.
El objetivo no es conseguir una organización sin uso no autorizado de IA. Esa promesa sería tan creíble como una empresa sin hojas de cálculo ocultas. El objetivo es que el uso no autorizado sea detectable, que el dato crítico no salga sin control, que las excepciones tengan dueño y que la entidad pueda explicar —ante el regulador, el consejo y sus clientes— qué ocurrió y por qué.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal de regulación, vulnerabilidades explotadas y acciones para tu equipo.
¿Quieres un plan a medida? Modela tu organización con Agentic Digital Twin.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…