Imagen generada por IAUn modelo de IA no demuestra cumplimiento enseñando una política de privacidad de 40 páginas. La demuestra cuando alguien puede reconstruir, dato a dato y decisión a decisión, por qué ese sistema trató información personal, con qué base jurídica, durante cuánto tiempo y con qué controles.
Ese es el cambio que deberían asumir en 2026 los responsables de cumplimiento y los CISO europeos. La pregunta ya no es si una herramienta de inteligencia artificial “usa datos personales”. La pregunta útil es otra: ¿podría tu entidad probar ante una autoridad de protección de datos qué ocurrió con esos datos en cada fase del ciclo de vida del modelo?
El Comité Europeo de Protección de Datos (EDPB) ha situado esta cuestión entre las prioridades regulatorias de la inteligencia artificial. Su Opinion 28/2024, adoptada el 17 de diciembre de 2024 a petición de la autoridad irlandesa, abordó tres asuntos especialmente incómodos para los proveedores: cuándo un modelo puede considerarse anónimo, cómo valorar el interés legítimo y qué ocurre si los datos utilizados para desarrollar un modelo fueron tratados ilícitamente. No es una licencia general para entrenar modelos con cualquier cosa que pueda rastrearse en internet. Tampoco convierte el cumplimiento en una declaración del proveedor.
La consecuencia práctica es más exigente: el expediente de IA debe contener evidencias operativas, no solo conclusiones jurídicas. La entidad que despliega un asistente para analizar reclamaciones, un sistema de scoring o una herramienta de selección de personal tendrá que conectar cuatro capas: finalidad, datos, modelo y decisión. Si una de ellas queda en blanco, la trazabilidad se rompe.
Muchos proyectos fallan antes de elegir la base jurídica. Describen el sistema como “un chatbot interno” o “una herramienta de productividad”, categorías demasiado vagas para aplicar el GDPR. El tratamiento real puede incluir la recopilación de prompts, el almacenamiento de conversaciones, la inferencia de perfiles, la reutilización de salidas para ajustar el modelo, la revisión humana y la transferencia a un proveedor situado fuera del Espacio Económico Europeo.
Cada operación puede tener una finalidad y una base jurídica distinta. El hecho de que una empresa pueda utilizar legítimamente los datos para prestar un servicio no significa que pueda emplearlos para entrenar un modelo generalista. Tampoco significa que pueda conservar indefinidamente los prompts porque “quizá mejoren el producto” en el futuro.
El registro de actividades del tratamiento exigido por el artículo 30 del GDPR debería reflejar esa separación. Para un caso de uso serio, el registro debe identificar al menos:
El detalle no es burocracia decorativa. Determina quién responde cuando el modelo memoriza un número de teléfono, reproduce una nota clínica o asigna a una persona una categoría que nunca se le comunicó. El contrato puede llamar al proveedor “encargado”, pero si este decide reutilizar los datos para entrenar su modelo, sus decisiones reales pueden apuntar a otra distribución de responsabilidades.
El artículo 6 del GDPR ofrece varias bases jurídicas, pero en proyectos de IA la discusión suele concentrarse en dos: consentimiento e interés legítimo. Ninguna funciona por inercia.
Si la entidad invoca el consentimiento del artículo 6.1.a, debe demostrar que fue libre, específico, informado e inequívoco. En un entorno laboral, la asimetría entre empleador y empleado puede hacer difícil sostener que la negativa no tendría consecuencias. En servicios digitales, un botón que obliga a aceptar el entrenamiento para poder utilizar una función tampoco convierte automáticamente la aceptación en consentimiento válido.
El interés legítimo del artículo 6.1.f exige una evaluación en tres pasos: identificar un interés legítimo, demostrar que el tratamiento es necesario para alcanzarlo y superar la ponderación frente a los derechos y libertades de las personas. En IA, el segundo paso suele ser el más débil. Que un modelo funcione mejor con más datos no prueba que la utilización de todos esos datos sea necesaria.
Una evaluación de interés legítimo defendible debería contestar preguntas concretas:
El interés legítimo no cubre por sí solo las categorías especiales del artículo 9. Si un sistema deduce salud, afiliación sindical, origen étnico o creencias religiosas, la entidad necesita además una excepción del artículo 9.2 y debe vigilar la diferencia entre dato observado y dato inferido. Que el modelo no reciba explícitamente un campo llamado “salud” no evita que produzca una inferencia sobre salud.
El expediente debería conservar la versión de la evaluación realizada, los supuestos utilizados y las alternativas descartadas. Una autoridad puede aceptar una ponderación razonable y rechazar una frase genérica sobre “mejora de la experiencia de usuario”. La primera puede auditarse; la segunda solo revela que alguien pasó el corrector ortográfico por una plantilla.
El artículo 5.1.c del GDPR exige que los datos sean adecuados, pertinentes y limitados a lo necesario. En sistemas de IA, la minimización tiene al menos cuatro dimensiones: selección de fuentes, atributos, volumen y retención.
Selección de fuentes. Un equipo no debería incorporar a un conjunto de entrenamiento toda la base histórica porque esté disponible. Debe justificar por qué cada fuente aporta valor al objetivo y qué riesgos introduce. La información pública tampoco queda fuera del GDPR. Que una página web sea accesible no elimina la condición de dato personal ni autoriza cualquier reutilización.
Atributos. Para clasificar reclamaciones quizá hagan falta el texto de la queja, el producto y la fecha. El nombre completo, la dirección o el número de cuenta pueden ser irrelevantes. La tokenización o el reemplazo por identificadores no siempre anonimiza: si la entidad conserva la tabla de correspondencias, normalmente sigue tratando datos personales.
Volumen. Las muestras deben ser representativas del uso previsto, no necesariamente masivas. La organización debe poder explicar por qué necesita diez años de historial y no dos, o por qué necesita todos los clientes y no una muestra estratificada. El volumen de datos también afecta a la capacidad de corregir y suprimir: cuanto más grande sea el conjunto, más difícil será cumplir una solicitud individual.
Retención. El artículo 5.1.e exige limitar la conservación. La entidad debe diferenciar entre logs de seguridad, conversaciones del usuario, datos de evaluación, checkpoints del modelo y copias de respaldo. Una política que diga “se eliminan cuando dejan de ser necesarios” no sirve si nadie ha definido cuándo ocurre ese momento.
Las métricas de minimización deberían formar parte de la revisión del sistema. Por ejemplo, porcentaje de campos eliminados antes del entrenamiento, proporción de registros con identificadores directos, duración media de conservación de prompts, número de solicitudes de supresión pendientes y tasa de reaparición de datos eliminados en conjuntos derivados. No existe una cifra universal que garantice el cumplimiento, pero sí existe una diferencia enorme entre medir el riesgo y describirlo como “bajo”.
La anonimización suele aparecer como atajo jurídico. También es uno de los puntos que un supervisor examinará con más interés. Para que el GDPR deje de aplicarse, la entidad debe poder sostener que la persona no es identificable mediante medios razonablemente utilizables, teniendo en cuenta el coste, el tiempo, la tecnología disponible y la información adicional que pueda obtenerse.
En un modelo de lenguaje, el análisis no termina porque el conjunto de entrenamiento haya pasado por un proceso de seudonimización. Hay que comprobar qué conserva el modelo y qué puede revelar ante consultas normales, consultas diseñadas para provocar memorization y combinaciones de información aparentemente inocua.
Un expediente técnico razonable incluiría:
Los embeddings tampoco merecen una exención automática. Pueden no ser legibles para una persona, pero seguir codificando información sobre individuos y permitir su vinculación con otros datos. Lo mismo ocurre con un identificador hash cuando el universo de entrada es pequeño o el valor original puede recuperarse mediante diccionarios.
La Opinion 28/2024 del EDPB apunta precisamente a que la anonimidad de un modelo debe analizarse de forma efectiva, atendiendo a la posibilidad de extraer datos personales o identificar personas. La conclusión no se puede sustituir por una etiqueta comercial del proveedor. Si el proveedor afirma que el modelo es anónimo, pide el informe de pruebas, la metodología y el alcance de la afirmación. “Nuestro modelo no almacena datos” es una frase publicitaria, no una evidencia.
Los artículos 13 y 14 del GDPR obligan a informar sobre el tratamiento, sus fines, la base jurídica, los destinatarios, los plazos y, cuando proceda, la existencia de decisiones automatizadas y la información significativa sobre la lógica aplicada. El artículo 12 exige que esa información sea concisa, transparente, inteligible y fácilmente accesible.
La transparencia de un sistema de IA no se resuelve mostrando al usuario una pantalla con la frase “esta respuesta ha sido generada por inteligencia artificial”. Esa información puede ser útil, pero no sustituye la explicación del tratamiento de datos personales. El usuario necesita saber qué se recoge, si sus entradas se emplean para mejorar el sistema, cuánto se conservan, quién puede revisarlas y cómo puede ejercer sus derechos.
Para los profesionales de privacidad, la documentación debería separar tres objetos:
Esta separación importa porque una explicación técnica del modelo no siempre es una información significativa para el interesado. Decir que un sistema utiliza una arquitectura de transformadores explica poco a quien necesita saber por qué su solicitud de crédito fue derivada a una revisión manual. En cambio, enumerar los principales factores considerados, los umbrales de intervención y el papel del empleado revisor puede ser comprensible y accionable sin revelar secretos comerciales.
El Reglamento de IA añade obligaciones propias. El Reglamento (UE) 2024/1689 entró en vigor el 1 de agosto de 2024; las prohibiciones de determinadas prácticas y las obligaciones de alfabetización en IA son aplicables desde el 2 de febrero de 2025, mientras que buena parte de sus obligaciones generales se aplica desde el 2 de agosto de 2026. En 2026, una empresa que despliegue un sistema sujeto a transparencia no debería tratar el GDPR y el AI Act como dos expedientes independientes.
El artículo 50 del AI Act contempla obligaciones de transparencia para determinados sistemas, incluidos los que interactúan directamente con personas y los que generan o manipulan contenido sintético en los supuestos previstos por el Reglamento. Los artículos 12 a 15 imponen requisitos técnicos y organizativos para sistemas de alto riesgo: conservación de logs, transparencia e información a los responsables del despliegue, supervisión humana, precisión, robustez y ciberseguridad. La clasificación del sistema importa, pero el problema operativo es el mismo: hay que conservar evidencias de cómo funciona y de cómo se controla.
El artículo 22 del GDPR protege frente a decisiones basadas únicamente en un tratamiento automatizado, incluida la elaboración de perfiles, que produzcan efectos jurídicos o afecten significativamente a la persona. El análisis no depende de que la empresa utilice la palabra “recomendación”. Depende de lo que ocurra en la práctica.
Un sistema que rechaza automáticamente una solicitud de crédito entra claramente en la zona de riesgo. También puede hacerlo uno que asigna una puntuación, bloquea un pago, excluye a un candidato de una fase o determina qué reclamaciones recibirán atención prioritaria si el efecto sobre la persona es suficientemente relevante.
La revisión humana no es un sello que se estampa al final del proceso. Para ser significativa, debe poder examinar la información de entrada, cuestionar la salida, modificarla y justificar su decisión. Un empleado que solo confirma el resultado en segundos, sin formación ni acceso a los factores utilizados, difícilmente constituye una salvaguarda real.
Cuando el artículo 22 resulta aplicable, el responsable debe atender las garantías previstas, incluidas la intervención humana, la posibilidad de expresar el punto de vista y el derecho a impugnar la decisión. Si se utilizan categorías especiales, el artículo 22.4 exige condiciones adicionales y medidas adecuadas.
El supervisor pedirá probablemente evidencias que rara vez aparecen en la presentación comercial del proveedor:
Si la organización no puede medir estas variables, tampoco puede afirmar con rigor que la revisión humana controla el sistema. Y si el proveedor no permite obtenerlas, la cuestión deja de ser puramente técnica: es una decisión de contratación y de riesgo.
El artículo 35 del GDPR exige una evaluación de impacto relativa a la protección de datos cuando el tratamiento pueda entrañar un alto riesgo para los derechos y libertades. La elaboración de perfiles sistemática y extensa, el tratamiento a gran escala de categorías especiales y la vigilancia sistemática a gran escala aparecen entre los supuestos que activan la obligación.
En IA, la evaluación de impacto no debería ser un documento redactado antes de comprar la herramienta y abandonado después del lanzamiento. Tiene que describir el flujo real: fuentes, entrenamiento, inferencia, salidas, intervención humana, proveedores, transferencias, retención y eliminación. También debe incluir la necesidad y proporcionalidad del tratamiento, los riesgos para las personas y las medidas previstas para mitigarlos.
Una DPIA útil conecta riesgos con controles verificables. Por ejemplo:
| Riesgo | Evidencia que debería existir | Control operativo |
|---|---|---|
| Memorización de datos personales | Resultados de pruebas de extracción y revisión de muestras | Filtrado de datos, ajuste del entrenamiento, límites de salida y monitorización |
| Decisión discriminatoria | Métricas de error por grupos y análisis de variables proxy | Revisión de datos, umbrales, supervisión humana y proceso de impugnación |
| Uso secundario no informado | Mapa de finalidades y versiones de avisos | Separación de entornos y prohibición contractual de reutilización |
| Acceso indebido del proveedor | Registros de acceso, subencargados y localización de procesamiento | Controles de identidad, cifrado, retención limitada y auditoría |
La consulta al delegado de protección de datos debe quedar documentada cuando exista DPO. También deben conservarse las decisiones del responsable sobre riesgos residuales. No todos los riesgos se pueden eliminar; lo que no se puede hacer es ocultarlos bajo una clasificación “medio-baja” sin explicar por qué.
Si el riesgo residual continúa siendo alto y no se aplican medidas suficientes, el artículo 36 exige consultar a la autoridad de control antes de iniciar el tratamiento. La consulta previa no es habitual en todos los proyectos de IA, pero el umbral existe y conviene evaluar el caso antes de que el lanzamiento convierta el problema en incidente.
El artículo 28 del GDPR exige que el encargado ofrezca garantías suficientes y que el tratamiento se rija por contrato. En proyectos de IA, un acuerdo genérico de servicios en la nube suele dejar sin respuesta las cuestiones decisivas.
El contrato debe precisar si el proveedor puede utilizar prompts, salidas, telemetría o datos de soporte para entrenar modelos propios. También debe regular la retención, la eliminación al terminar el servicio, el acceso de subencargados, la localización de datos, la notificación de incidentes, la asistencia para derechos de los interesados y la disponibilidad de información para demostrar cumplimiento.
El artículo 28.3.h reconoce el derecho del responsable a disponer de la información necesaria para demostrar el cumplimiento y a contribuir a auditorías, incluidas inspecciones. En IA, esa cláusula debería traducirse en acceso a documentación técnica suficiente, informes de auditoría, métricas de rendimiento, registros de cambios y resultados de pruebas de seguridad y privacidad. Una certificación no sustituye automáticamente esa información.
Las transferencias internacionales requieren un análisis propio. Una cláusula contractual tipo puede ser el mecanismo jurídico, pero no elimina la obligación de evaluar la legislación y las prácticas del país de destino ni de aplicar medidas suplementarias cuando sean necesarias. Si el proveedor puede acceder desde fuera del EEE a conversaciones con datos personales, la arquitectura de acceso forma parte del análisis de transferencia; no basta con que el centro de datos esté físicamente en Europa.
La selección del proveedor debería incluir preguntas que obliguen a abandonar el lenguaje comercial:
Un proveedor que no pueda responder no es necesariamente ilegal. Sí es, como mínimo, un riesgo que debe aceptar formalmente alguien con autoridad para hacerlo. El equipo de privacidad no debería descubrir esa carencia cuando la autoridad ya ha enviado una solicitud de información.
El artículo 32 del GDPR exige medidas técnicas y organizativas apropiadas al riesgo. En sistemas de IA, la seguridad no se limita al modelo. Incluye el prompt, el contexto recuperado, las herramientas conectadas, la identidad del usuario, los registros, los embeddings, las claves y los controles de salida.
La organización debe vigilar amenazas como prompt injection, extracción de información, envenenamiento de datos, abuso de herramientas conectadas y fuga de información entre tenants. El OWASP Top 10 for LLM Applications puede ayudar a estructurar pruebas, pero no sustituye el análisis jurídico del GDPR. Un ataque que exfiltra datos personales puede activar los artículos 33 y 34 sobre notificación de brechas, además de las obligaciones contractuales y sectoriales aplicables.
Los logs son una pieza delicada. El artículo 5.1.c exige minimizar también los registros, y el artículo 5.1.e limita su conservación. Registrar cada prompt completo “por motivos de auditoría” puede crear una nueva base de datos de alto riesgo. La solución suele consistir en separar logs de seguridad, contenido funcional y datos de depuración; aplicar acceso por roles; enmascarar información; y definir plazos distintos.
El AI Act refuerza la relevancia de la trazabilidad para sistemas de alto riesgo mediante su artículo 12 sobre conservación de logs. La integración correcta no consiste en guardar todo para cumplir dos reglamentos. Consiste en diseñar una política de logging que permita reconstruir un evento sin convertir cada interacción en un archivo perpetuo de datos personales.
Una autoridad o un auditor no necesita necesariamente recibir todos los datos de entrenamiento. Sí necesita comprobar que las afirmaciones de la entidad pueden contrastarse. El expediente de un caso de uso debería reunir, como mínimo, estos bloques:
La palabra clave es versión. Una evaluación firmada en enero no prueba el comportamiento de un modelo actualizado en septiembre. El expediente debe vincular versión del modelo, conjunto de datos, configuración, prompt del sistema, proveedores, métricas y aprobación. Sin esa relación, la entidad no puede saber si está auditando el sistema desplegado o una maqueta que ya no existe.
Los derechos de acceso, rectificación, supresión, limitación, oposición y portabilidad —artículos 15 a 20 del GDPR— plantean dificultades específicas cuando los datos se han incorporado a modelos o índices derivados. La organización no puede prometer que siempre será capaz de eliminar una memoria concreta de un modelo sin haber diseñado esa capacidad.
La respuesta a una solicitud de acceso debe identificar qué datos personales trata la entidad, no limitarse a entregar una explicación general del algoritmo. Si el sistema genera un perfil o una puntuación sobre la persona, ese resultado puede formar parte de la información relevante. La rectificación también exige distinguir entre corregir la fuente, actualizar un índice, retirar un ejemplo de evaluación y modificar los parámetros del modelo.
La supresión no siempre obliga a borrar todos los elementos técnicos si concurre una excepción del artículo 17.3, pero las excepciones deben analizarse, documentarse y aplicarse de forma concreta. No es aceptable responder que “el modelo no permite borrar datos” como si esa limitación técnica resolviera por sí misma el derecho del interesado. Puede ser una restricción real; también puede revelar que la arquitectura se eligió sin evaluar el cumplimiento.
La oposición del artículo 21 cobra especial importancia cuando la base jurídica es el interés legítimo. El sistema debe permitir registrar la oposición, evaluar si existen motivos imperiosos y evitar que el dato vuelva a entrar por una fuente secundaria. Si el procedimiento solo marca al usuario en una aplicación pero no alcanza al almacén de entrenamiento, al proveedor y a los backups, la oposición es nominal.
El CISO no necesita convertirse en jurista para gobernar IA, pero sí debe impedir que la privacidad se trate como una revisión textual posterior. La arquitectura determina la capacidad de cumplir. Un sistema que separa datos personales de contenido operativo, limita el contexto enviado al proveedor, conserva logs mínimos y permite retirar fuentes será más defendible que otro con una única base de datos omnisciente.
La revisión técnica debe empezar antes del piloto. Conviene exigir un inventario de endpoints, controles de salida, aislamiento entre clientes, gestión de secretos, pruebas de extracción, límites de herramientas y mecanismo de parada. El artículo 32 del GDPR pide proporcionalidad al riesgo; en un sistema que accede a expedientes de clientes, la autenticación básica y un registro de actividad incompleto no pasan a ser suficientes porque la interfaz tenga aspecto moderno.
También hace falta una vía de escalado. Si el modelo produce una salida sospechosa, revela datos o empieza a desviarse, alguien debe poder detenerlo sin esperar a la siguiente reunión del comité. La política de incidentes debe cubrir errores de modelo y no solo intrusiones. Una respuesta inventada que provoca la exposición de datos personales puede ser un problema de protección de datos aunque nadie haya explotado una vulnerabilidad clásica.
La fecha del 2 de agosto de 2026 convierte la relación entre GDPR y AI Act en una cuestión operativa inmediata para muchas organizaciones europeas. No porque el AI Act reemplace al GDPR —no lo hace—, sino porque añade requisitos de gobernanza, documentación, supervisión humana y trazabilidad para determinados sistemas. La entidad que espere a clasificar los sistemas cuando llegue una auditoría descubrirá que no conoce ni siquiera cuántos modelos utiliza mediante sus proveedores.
El primer trabajo útil es construir un inventario que incluya herramientas compradas por negocio, extensiones de navegador, copilotos, APIs, modelos de código abierto y funciones de IA integradas en software empresarial. Después hay que asociar cada uso con datos, finalidad, proveedor, categoría de riesgo, responsable y evidencias disponibles. No hace falta crear una burocracia paralela: el inventario puede conectarse con el registro del artículo 30, la gestión de proveedores, el ciclo de desarrollo seguro y el proceso de DPIA.
La segunda prioridad es someter las afirmaciones a prueba. “Anonimizado”, “sin entrenamiento”, “con revisión humana” y “seguro” deben transformarse en preguntas medibles. ¿Qué prueba demuestra la anonimización? ¿Qué configuración impide la reutilización? ¿Qué porcentaje de casos revisa una persona y cuántos revoca? ¿Qué ocurre cuando se solicita borrar un dato? Si nadie puede responder con documentos, métricas o registros, todavía no existe control; solo existe una expectativa.
La tercera es asignar decisiones. El proveedor puede aportar documentación, pero el responsable del tratamiento sigue necesitando saber por qué utiliza el sistema y cómo protege a las personas. El departamento jurídico puede interpretar el artículo 6, pero necesita que ingeniería explique el flujo real de datos. El CISO puede probar la seguridad, pero no debería aprobar en solitario un uso que decide sobre clientes o empleados. La gobernanza de IA funciona cuando esas responsabilidades se cruzan antes del despliegue, no cuando se reparten culpas después del incidente.
La prueba definitiva llegará cuando una persona pregunte qué datos se trataron, cuando un auditor pida la versión exacta del modelo o cuando un supervisor cuestione la base jurídica. Una organización preparada no responderá con una presentación. Abrirá un expediente, mostrará la cadena de decisiones y explicará qué cambió desde la última revisión.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal y te avisamos de cada cambio en GDPR: DPIA, brechas de datos y plazos de notificación a la AEPD.
¿Necesitas priorizar acciones ya? Empieza un GAP Assessment GDPR.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…