Imagen generada por IAEl empleado que copia un contrato en un chatbot público no suele pensar que está exfiltrando información. Cree que está ahorrando veinte minutos. Para el equipo de seguridad, sin embargo, acaba de sacar datos de la organización hacia un servicio externo cuya retención, entrenamiento, jurisdicción y controles quizá nadie haya verificado.
Ese es el problema real del shadow AI: no es únicamente una lista de aplicaciones prohibidas. Es una combinación de inventario incompleto, decisiones humanas difíciles de observar y datos que cruzan fronteras sin pasar por los controles diseñados para protegerlos. Una política que diga «no utilices ChatGPT con información confidencial» no constituye un control. Como mucho, constituye una petición educada.
La página temática de ENISA sobre inteligencia artificial sirve como punto de partida, pero la pregunta operativa para un CISO europeo es otra: ¿puede la entidad demostrar qué herramientas de IA se utilizan, qué datos reciben, qué proveedor los procesa, qué controles lo impiden o permiten y qué ocurre cuando alguien incumple?
Esta guía propone una respuesta verificable. Conecta descubrimiento, DLP, CASB, gobierno del dato, formación y respuesta ante incidentes con GDPR, NIS2, DORA e ISO/IEC 27001:2022. No trata de prohibir la IA por reflejo. Trata de impedir que la organización confunda productividad individual con tratamiento legítimo y controlado de información.
El inventario de herramientas es necesario, pero insuficiente. Un mismo servicio puede ser razonable para resumir una nota de prensa y totalmente inaceptable para analizar un expediente de cliente. El riesgo no lo determina solo el nombre del proveedor; lo determina la combinación de herramienta, configuración, usuario, finalidad, datos y resultado.
Conviene separar cuatro escenarios que suelen mezclarse:
La clasificación cambia la respuesta. Bloquear todos los dominios de IA puede reducir una parte del riesgo, pero también empuja al usuario hacia dispositivos personales, redes móviles y cuentas privadas. La organización pierde visibilidad precisamente cuando cree haber ganado control. El objetivo debe ser que el uso legítimo sea más sencillo que el uso clandestino.
Cuando un trabajador introduce datos personales en un servicio de IA, la entidad puede estar realizando un tratamiento adicional. El análisis empieza por el artículo 6 del GDPR: debe existir una base jurídica adecuada para esa finalidad concreta. El hecho de que la empresa ya pueda tratar los datos para prestar un servicio no autoriza automáticamente a emplearlos para resumir, clasificar o generar contenido con una herramienta externa.
El artículo 5(1) añade obligaciones que el shadow AI suele incumplir en cadena. La licitud, lealtad y transparencia del artículo 5(1)(a) obligan a poder explicar el tratamiento; la limitación de la finalidad del artículo 5(1)(b) impide convertir datos recogidos para una función en material de entrenamiento o análisis para otra; la minimización del artículo 5(1)(c) exige enviar solo lo necesario; y el artículo 5(1)(f) obliga a preservar integridad y confidencialidad.
El artículo 25 exige protección de datos desde el diseño y por defecto. En términos técnicos, eso favorece configuraciones que bloqueen por defecto la carga de identificadores directos, números de cuenta, historiales médicos o secretos empresariales, en lugar de confiar en que cada usuario recuerde una política de 18 páginas.
El artículo 32 obliga a aplicar medidas de seguridad adecuadas al riesgo. DLP, autenticación federada, registro, cifrado, segregación y revisión de permisos pueden formar parte de esa respuesta, pero no existe un control universal obligatorio llamado «usar CASB». La medida debe ser defendible frente al riesgo concreto y revisable cuando cambien la herramienta o el tratamiento.
Si una fuga hacia un chatbot implica una violación de seguridad de datos personales, el artículo 33 puede activar la notificación a la autoridad de control en un plazo de 72 horas desde que el responsable tenga constancia, salvo que sea improbable que exista riesgo para los derechos y libertades. El plazo no empieza cuando termina la investigación perfecta. Por eso los registros de DLP y de acceso no son decoración: acortan el tiempo entre sospecha, evaluación y decisión.
También puede ser necesario revisar el artículo 35. Una evaluación de impacto relativa a la protección de datos resulta exigible cuando el tratamiento pueda entrañar un alto riesgo, por ejemplo por evaluación sistemática y exhaustiva de personas, tratamiento a gran escala de categorías especiales o uso de tecnologías con efectos relevantes. No todo uso de IA activa una EIPD, pero el equipo no debería descubrirlo después de que un empleado haya conectado el modelo al CRM.
El artículo 21 de NIS2 exige medidas técnicas, operativas y organizativas de gestión del riesgo de ciberseguridad. Entre ellas figuran el análisis de riesgos, la seguridad de la cadena de suministro, la gestión de vulnerabilidades, la evaluación de la eficacia de las medidas y el uso de criptografía cuando proceda. Un servicio de IA externo que procesa información interna encaja difícilmente en una política de proveedores que solo revisa centros de datos y disponibilidad.
La evaluación debe cubrir al menos el modelo o aplicación, subencargados, localización del tratamiento, retención de prompts y ficheros, uso de entradas para entrenar, controles de acceso, notificación de incidentes, borrado, recuperación y evidencias disponibles. El artículo 23, con sus obligaciones de notificación de incidentes significativos, hace especialmente relevante la capacidad de reconstruir qué información salió, cuándo y por qué canal.
El artículo 20 atribuye responsabilidades de ciberseguridad a los órganos de dirección, incluida la aprobación y supervisión de medidas de gestión del riesgo. Eso cambia el lenguaje de la conversación. El shadow AI no es solo una desviación operativa del departamento de tecnología: puede convertirse en una cuestión de supervisión directiva cuando la entidad no sabe qué terceros procesan su información.
DORA se aplica desde el 17 de enero de 2025, así que en 2026 no resulta útil presentar la gestión del shadow AI como un proyecto preparatorio. El artículo 6 exige un marco de gestión del riesgo de las tecnologías de la información y la comunicación; el artículo 9 aborda protección y prevención; y los artículos 28 a 30 regulan la gestión del riesgo asociado a terceros proveedores ICT y el contenido contractual.
La clasificación de una herramienta de IA dependerá de su función y del servicio contratado. Una cuenta gratuita usada para corregir un correo no plantea el mismo perfil que un proveedor que aloja un asistente conectado a expedientes de crédito, sistemas de pagos o repositorios de código. En el segundo caso hay que integrar el servicio en el inventario de dependencias ICT, evaluar su criticidad y documentar los derechos de auditoría, acceso a información, cooperación y salida contractual que correspondan.
DORA no convierte cada aplicación SaaS en una entidad financiera crítica, pero sí elimina una excusa frecuente: «como el departamento la contrató con tarjeta, no es un proveedor». Si procesa información o soporta una función empresarial, debe entrar en el perímetro de gobierno que la entidad haya definido. El artículo 30, además, obliga a prestar atención a elementos contractuales como niveles de servicio, asistencia en incidentes, acceso y recuperación de datos, cooperación con autoridades y terminación.
ISO/IEC 27001 no prohíbe la IA ni sustituye el análisis jurídico. Su valor está en convertir el problema en un sistema auditable. El anexo A ofrece controles directamente útiles: A.5.10 sobre uso aceptable de la información y activos asociados; A.5.12 sobre clasificación de la información; A.5.14 sobre transferencia de información; A.5.23 sobre seguridad en el uso de servicios cloud; A.6.3 sobre concienciación, educación y formación; y A.8.12 sobre prevención de fuga de datos.
La certificación no demuestra que nadie use una herramienta no autorizada. Demuestra, si el alcance y la auditoría lo respaldan, que existe un sistema de gestión y controles definidos. La diferencia importa. Un registro de formación no sustituye a una regla DLP; una regla DLP que genera miles de alertas sin revisión tampoco demuestra control eficaz.
El primer entregable no debería ser una lista de dominios bloqueados, sino un mapa de uso. Hay cuatro fuentes complementarias de evidencia:
Un CASB puede aportar visibilidad sobre aplicaciones cloud y aplicar políticas sobre sesión, usuario, dispositivo o ubicación. Un DLP puede inspeccionar contenido y detectar patrones como IBAN, números de identificación, expedientes médicos, claves privadas o código fuente. Ninguno resolverá por sí solo el problema. Un CASB que solo cataloga aplicaciones no detecta necesariamente un secreto en un prompt; un DLP que inspecciona todo sin entender el canal puede bloquear trabajo legítimo y provocar evasión.
El inventario debe registrar, como mínimo, propietario de negocio, proveedor, URL y tenant, método de autenticación, tipo de datos introducidos, finalidad, regiones de procesamiento conocidas, retención, uso para entrenamiento, conectores, nivel de riesgo, aprobación, controles aplicados y fecha de revisión. En servicios integrados conviene añadir permisos OAuth, cuentas de servicio, fuentes de datos conectadas y capacidad de ejecutar acciones.
Una métrica útil es el porcentaje de aplicaciones de IA observadas que tienen propietario y decisión documentada. Otra es la diferencia entre cuentas corporativas detectadas y cuentas corporativas declaradas. Si la brecha es del 40%, la organización no tiene un problema de formación; tiene un problema de descubrimiento.
Una política eficaz no se limita a «no subas información confidencial». Define categorías y acciones. Por ejemplo:
| Tipo de información | Uso permitido | Control mínimo | Evidencia |
|---|---|---|---|
| Pública | Herramientas aprobadas o públicas, sin datos internos añadidos | Formación y canal corporativo preferente | Política, registro de formación y muestreo |
| Interna | Solo servicios aprobados por la entidad | Identidad corporativa, retención definida y registro | Aprobación, configuración y logs |
| Confidencial | Entorno interno o proveedor evaluado expresamente | DLP, cifrado, minimización y revisión de acceso | Regla DLP, evaluación de proveedor y pruebas |
| Datos personales sensibles, secretos o credenciales | Prohibido salvo caso aprobado con base jurídica y controles reforzados | Bloqueo preventivo y excepción formal | Alerta, decisión y autorización documentada |
La política debe definir qué ocurre con los prompts, adjuntos, respuestas generadas, historial de conversaciones, memoria del asistente y datos derivados. La respuesta no puede quedarse en los datos de entrada. Un resumen generado puede incluir más información personal que el documento que pretendía condensar, y una respuesta incorrecta puede acabar en un expediente de cliente como si fuera un hecho verificado.
También hay que fijar quién aprueba las excepciones. El usuario no debería autoautorizar una herramienta porque la necesita para el cierre trimestral. La excepción debe tener finalidad, datos permitidos, duración, propietario, controles, fecha de caducidad y criterio de retirada. Las excepciones indefinidas son shadow AI con membrete.
Un programa DLP maduro combina clasificación, detección de contenido, contexto y respuesta. Para IA, las políticas más útiles suelen cubrir cuatro momentos: copiar datos desde un sistema corporativo, pegarlos en el navegador, cargar ficheros y compartir o conservar la respuesta.
La detección puede utilizar expresiones regulares para IBAN, tarjetas o documentos nacionales, diccionarios de términos, huellas de documentos, clasificación automática, coincidencia exacta de datos y detectores de secretos. Pero el patrón técnico no es suficiente. «Número de cuenta» en una plantilla de formación no equivale a un IBAN de cliente en un expediente. La política debe combinar contenido con usuario, aplicación, dispositivo, grupo de datos y destino.
Una respuesta gradual suele ser más eficaz que un bloqueo uniforme:
El KPI no debe ser «número de bloqueos». Un volumen alto puede indicar una política mal diseñada. Hay que observar tasa de falsos positivos, tiempo medio de revisión, reincidencia por usuario o unidad, porcentaje de alertas con resolución y cantidad de datos sensibles detectados. La prueba de eficacia es que las reglas reduzcan transferencias de riesgo sin generar un canal paralelo más opaco.
El navegador merece una atención específica. Muchos controles inspeccionan correo y almacenamiento, pero dejan libre el portapapeles hacia una aplicación web. Una arquitectura razonable puede combinar extensión de navegador gestionada, inspección en endpoint, control de aplicaciones cloud y bloqueo de cargas según clasificación. En equipos no gestionados, el acceso a servicios aprobados debe limitarse mediante identidad y condiciones de dispositivo, no mediante confianza implícita en la red.
La mayor parte del análisis se concentra en el prompt, aunque el riesgo más serio puede estar en el permiso persistente. Un asistente con acceso a un buzón, SharePoint, Google Drive, GitHub, Jira o un CRM puede exponer mucho más que un empleado que pega manualmente un párrafo.
Antes de aprobar un conector, hay que responder preguntas concretas: ¿lee todo el repositorio o solo una colección? ¿Puede escribir o borrar? ¿Qué identidad utiliza? ¿Se revisan permisos por recurso? ¿Se registra cada consulta? ¿El proveedor conserva índices o embeddings después de revocar el acceso? ¿Qué ocurre con las cuentas de servicio? ¿La aplicación puede invocar otras herramientas?
El principio de mínimo privilegio no desaparece porque la interfaz tenga apariencia conversacional. Una integración que solo necesita consultar una base documental no debería tener permiso de escritura en el sistema financiero. Las credenciales deben rotarse, los tokens OAuth revisarse y las aplicaciones sin propietario deshabilitarse. La caducidad automática de autorizaciones no usadas reduce un riesgo que las revisiones anuales suelen detectar demasiado tarde.
El cuestionario de proveedor debe ir más allá de preguntar si el servicio cumple GDPR. Hay que exigir información sobre roles de responsable y encargado, subencargados, localización, transferencias internacionales, medidas técnicas, retención, borrado, entrenamiento con datos del cliente, segregación entre tenants, pruebas de seguridad, gestión de vulnerabilidades, notificación de incidentes y exportación al terminar. La respuesta «nuestro modelo no utiliza sus datos para entrenar» tampoco resuelve por sí sola logs, soporte, telemetría, copias de seguridad o proveedores secundarios.
Para entidades financieras, la evaluación debe alimentar el registro de terceros ICT y la clasificación de criticidad de DORA cuando corresponda. Para entidades dentro de NIS2, debe reflejar la seguridad de la cadena de suministro exigida por el artículo 21. Para GDPR, debe reflejar el artículo 28 cuando el proveedor actúe como encargado, incluyendo instrucciones documentadas, confidencialidad, seguridad y asistencia al responsable.
El artículo 4 del AI Act exige que los proveedores y responsables del despliegue adopten medidas para garantizar un nivel suficiente de alfabetización en IA de su personal y de otras personas que utilicen sistemas por su cuenta, teniendo en cuenta conocimientos, experiencia, formación y contexto. La obligación no convierte cualquier curso en cumplimiento automático. La formación debe ser proporcional al uso y al riesgo.
Un empleado que utiliza IA para redactar comunicaciones necesita saber reconocer datos personales, secretos y contenido no verificado. Un desarrollador necesita además entender el riesgo de introducir código propietario, secretos de repositorio o dependencias generadas sin revisión. Un analista de recursos humanos debe conocer las restricciones aplicables a decisiones sobre personas. Un administrador que habilita conectores necesita formación sobre permisos, logs y revocación.
La formación eficaz utiliza ejemplos internos y medibles: qué ocurre cuando se pega una nómina, cómo solicitar una excepción, cómo anonimizar un expediente, qué canal usar para reportar una alerta y cómo comprobar una respuesta generada. Después hay que medir algo más que asistencia: tasa de finalización por rol, resultados de pruebas, reducción de eventos repetidos, tiempo de reporte y porcentaje de usuarios que conocen la herramienta aprobada.
El mensaje debe ser coherente. Si la dirección exige productividad basada en IA y el área de seguridad solo ofrece bloqueos, la organización está diseñando incentivos para incumplir. La alternativa aprobada tiene que ser suficientemente útil, accesible y rápida. De lo contrario, el usuario votará con una cuenta personal.
Un empleado comunica que ha cargado un fichero de clientes en una herramienta no aprobada. La primera respuesta no debería ser borrar su cuenta y esperar. Hay que preservar evidencias y contestar cuatro preguntas: qué datos salieron, qué servicio los recibió, qué pudo hacer el proveedor con ellos y qué otras personas o sistemas estuvieron implicados.
El procedimiento debe conectar SOC, privacidad, legal, recursos humanos y propietario del negocio. El SOC revisará proxy, endpoint, identidad, DLP y logs del proveedor. Privacidad clasificará los datos y valorará riesgo para las personas conforme a GDPR. Legal revisará contrato, transferencias y obligaciones de notificación. El propietario decidirá si el proceso puede continuar, si hay que revocar tokens o si debe suspenderse la integración.
La contención puede incluir revocar sesiones y OAuth, bloquear el dominio o tenant concreto, solicitar borrado contractual, preservar conversaciones y ficheros, cambiar secretos expuestos y aislar el dispositivo si hay indicios de compromiso. El borrado no siempre elimina la obligación de investigar. Además, hay que distinguir entre una carga bloqueada antes de llegar al proveedor, una carga almacenada temporalmente y una carga utilizada por el servicio para una finalidad adicional.
El registro del incidente debe incluir fecha y hora, usuario, dispositivo, aplicación, volumen y categorías de datos, regla activada, decisión adoptada, proveedor contactado, evaluación de riesgo, medidas de contención y conclusión sobre notificación. Si se decide no notificar a la autoridad, la justificación debe quedar documentada. El artículo 33 exige notificar cuando proceda; el artículo 34 puede exigir comunicación a las personas afectadas cuando el riesgo sea alto.
Una revisión posterior debe buscar la causa, no solo al culpable. ¿No existía herramienta aprobada? ¿La clasificación no reconocía el tipo de dato? ¿La regla DLP permitía el canal? ¿La persona tenía permisos excesivos? ¿La política era contradictoria? Castigar un caso sin corregir el diseño garantiza que el siguiente incidente se repita en silencio.
Una auditoría no puede evaluar una intención. Necesita evidencias fechadas, trazables y vinculadas a un control. La siguiente lista ayuda a comprobar si el programa existe más allá de la presentación de PowerPoint:
Hay una prueba sencilla: seleccionar una aplicación de IA del inventario y pedir la evidencia completa de su aprobación. Debe ser posible reconstruir quién decidió, con qué datos, bajo qué contrato, qué controles se aplican y cuándo se revisará de nuevo. Si la respuesta depende de localizar correos sueltos entre compras, TI y privacidad, el gobierno es nominal.
La madurez del programa se puede expresar en un cuadro de mando pequeño pero exigente. El porcentaje de usuarios formados importa, pero no demuestra que los datos estén protegidos. Es más útil combinar cobertura y resultado:
Estas métricas deben segmentarse por unidad, tipo de dato y canal. Un promedio corporativo puede ocultar que el departamento de desarrollo tiene cientos de secretos expuestos mientras el resto de la empresa apenas usa IA. También conviene informar de tendencias: el objetivo no es alcanzar cero alertas, sino reducir la exposición residual manteniendo un uso productivo y autorizado.
Una prohibición total puede parecer firme y resultar frágil. No elimina la demanda de IA; la desplaza a teléfonos personales, cuentas privadas y servicios que no pasan por el perímetro corporativo. Tampoco resuelve el riesgo de herramientas aprobadas mal configuradas. La organización puede tener una plataforma contractualizada y seguir enviando a ella más datos de los necesarios, otorgándole permisos excesivos o aceptando respuestas sin supervisión.
La alternativa tampoco es permitirlo todo. Consiste en crear una frontera operativa clara: usos públicos sin información sensible; herramientas corporativas con identidad y registro; datos confidenciales solo en servicios evaluados; categorías de alto riesgo bloqueadas salvo excepción formal; conectores con mínimo privilegio; y revisiones basadas en telemetría, no en declaraciones.
La combinación de DLP, CASB, IAM, gobierno del dato y formación ofrece mejores resultados que cualquiera de esas piezas por separado. DLP ve el contenido; CASB ve la aplicación y la sesión; IAM controla quién puede acceder; el gobierno del dato decide qué significa «confidencial»; privacidad determina si el tratamiento es lícito; cumplimiento conserva la evidencia. Cuando cada equipo trabaja con su propio inventario, la brecha aparece entre sistemas, justo donde el usuario encuentra el atajo.
La pregunta para el comité de riesgos en 2026 no debería ser «¿tenemos una política de IA?». Debería ser: «¿podemos demostrar qué datos han llegado a qué herramientas, qué decisiones hemos tomado y qué hemos hecho cuando alguien se ha salido de la ruta aprobada?». Si la respuesta es no, el shadow AI no está bajo control. Solo está fuera de la diapositiva.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal de regulación, vulnerabilidades explotadas y acciones para tu equipo.
¿Quieres un plan a medida? Modela tu organización con Agentic Digital Twin.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…