Imagen generada por IADurante años, muchas organizaciones han tratado la palabra “anónimo” como una especie de conjuro jurídico. Se elimina el nombre, se quita el correo electrónico, seudonimiza el identificador y el modelo de inteligencia artificial pasa a describirse como seguro por definición. La Opinión 28/2024 del Comité Europeo de Protección de Datos (EDPB) acaba con esa comodidad.
El documento, adoptado el 17 de diciembre de 2024 a petición de la autoridad irlandesa de protección de datos conforme al artículo 64(2) del GDPR, no prohíbe entrenar o desplegar modelos con datos personales. Hace algo más incómodo: convierte la anonimización en una afirmación que debe resistir una evaluación técnica, jurídica y probatoria.
La pregunta ya no es si el equipo de datos cree que el modelo “no memoriza”. La pregunta es si la entidad puede demostrar que la probabilidad de extraer directamente datos personales —también mediante inferencias probabilísticas— o de obtenerlos a través de consultas es insignificante, teniendo en cuenta todos los medios razonablemente utilizables por el responsable o por otra persona.
Para banca y seguros, esta distinción cambia la conversación. Un modelo que resume expedientes, detecta fraude, clasifica reclamaciones o asiste a un analista de crédito no vive aislado en un laboratorio. Se conecta a proveedores cloud, APIs, bases documentales, sistemas de identidad y herramientas de atención al cliente. Cada conexión añade una superficie de ataque y otra capa de responsabilidad regulatoria.
La tesis de este análisis es directa: en 2026, la anonimización de un modelo de IA debe gestionarse como una afirmación de riesgo sometida a pruebas reproducibles, no como una descripción comercial escrita en una ficha técnica. El EDPB ha unido tres mundos que muchas organizaciones siguen tratando por separado: privacidad, ciberseguridad y gobierno del proveedor tecnológico.
La Opinión 28/2024 es más relevante por lo que obliga a demostrar que por lo que “recomienda”. El EDPB no crea una certificación europea de anonimato ni ofrece un test matemático universal. Tampoco declara que todo modelo entrenado con datos personales sea necesariamente personal data para siempre. Lo que hace es impedir que el responsable cierre el debate con una declaración unilateral.
El estándar es deliberadamente contextual. Las autoridades de control deben examinar caso por caso si las dos probabilidades relevantes son insignificantes: la posibilidad de extracción directa de datos de las personas utilizadas para desarrollar el modelo y la posibilidad de obtener esos datos, intencionadamente o no, mediante consultas. La evaluación incluye todos los medios razonablemente previsibles, no solo el comportamiento esperado del usuario normal.
Aquí está el punto que suele perderse en las presentaciones de producto: que un modelo no devuelva literalmente una dirección de correo en una prueba rutinaria no demuestra que no pueda revelar información personal bajo una secuencia de consultas especialmente diseñada. Tampoco prueba que un proveedor externo no pueda acceder a datos de entrenamiento, logs, prompts o artefactos intermedios con privilegios administrativos.
El EDPB enumera, sin convertirlos en una lista cerrada, enfoques que pueden ayudar a justificar la anonimidad: limitar la recopilación de datos personales durante el desarrollo, reducir su identificabilidad, impedir su extracción y aportar garantías sobre la resistencia del modelo frente a ataques conforme al estado de la técnica. La redacción importa. Son elementos de demostración, no casillas que, una vez marcadas, otorguen inmunidad.
Mi lectura es que el mercado ha confundido tres conceptos distintos: anonimizar los datos de entrenamiento, minimizar la retención de información en el modelo y demostrar que el modelo no permite recuperar datos personales. Son objetivos relacionados, pero no equivalentes. La eliminación de identificadores directos puede ayudar al primero. La regularización, el filtrado o el entrenamiento con técnicas de privacidad pueden contribuir al segundo. Solo una batería de pruebas y documentación puede sostener razonablemente el tercero.
Los modelos de IA generativa y otros sistemas de aprendizaje automático pueden reproducir fragmentos presentes en sus datos de entrenamiento, especialmente cuando esos datos aparecen repetidos, son estructurados o tienen patrones distintivos. La Opinión 28/2024 no depende de que un modelo sea generativo: su razonamiento alcanza al procesamiento de datos personales durante el desarrollo y el despliegue. Pero el riesgo de memorización y extracción resulta especialmente visible en sistemas que generan texto, código, imágenes o respuestas basadas en grandes corpus.
Una entidad financiera que incorpora un modelo de un proveedor no puede limitar su diligencia a preguntar si el vendedor “cumple GDPR”. Esa respuesta tiene el mismo valor que un certificado de buenas intenciones: sirve para empezar la conversación y no para cerrarla. Hay que saber qué se ha utilizado para entrenar el modelo, qué datos se conservan durante el ajuste, qué ocurre con las consultas, quién puede acceder a ellas, cuánto tiempo se almacenan y si se emplean para mejorar el servicio.
También importa la arquitectura. No es lo mismo un modelo general alojado por un proveedor que recibe prompts con expedientes de clientes que un modelo desplegado en un entorno segregado, con filtrado previo, tokenización, controles de salida y registro de consultas. Tampoco es igual un sistema que devuelve una clasificación de riesgo a otro que genera una respuesta textual con detalles del expediente utilizado.
La organización debe poder reconstruir la cadena de procesamiento. El artículo 5(1)(c) del GDPR exige minimización de datos; el artículo 25 impone protección de datos desde el diseño y por defecto; y el artículo 32 obliga a aplicar medidas técnicas y organizativas adecuadas al riesgo. Ninguno de esos artículos menciona una arquitectura concreta de IA. Precisamente por eso no basta con invocarlos de forma abstracta. Hay que traducirlos a controles verificables.
En la práctica, esa traducción puede incluir un inventario de fuentes de entrenamiento, reglas para excluir categorías especiales de datos, detección de duplicados, pruebas de extracción, límites de longitud de respuesta, filtros de información sensible, aislamiento entre clientes, cifrado, gestión de claves, control de privilegios y procedimientos para corregir o retirar datos cuando exista una base jurídica para ello.
El control más débil suele ser el último: la prueba. Muchas organizaciones conservan políticas y evaluaciones de impacto, pero no el expediente técnico que demostraría qué ataques se ejecutaron, con qué datos, qué tasa de recuperación se observó y qué decisión se tomó a partir del resultado. Sin esa evidencia, la palabra “anónimo” queda reducida a una opinión de diseño.
La segunda cuestión analizada por el EDPB es la utilización del interés legítimo como base jurídica durante el desarrollo y el despliegue de modelos de IA. La Opinión recuerda que no existe una jerarquía general entre las bases del artículo 6 del GDPR. Corresponde al responsable identificar la base adecuada para cada operación de tratamiento.
Cuando se invoca el artículo 6(1)(f), la entidad debe superar tres pasos acumulativos. Primero, identificar un interés legítimo del responsable o de un tercero. Ese interés tiene que ser lícito, estar formulado de manera clara y precisa y ser real y presente, no meramente especulativo. Desarrollar un asistente conversacional para usuarios o mejorar la detección de amenazas en un sistema de información pueden ser ejemplos de intereses potencialmente legítimos, pero el hecho de que sean útiles no los convierte automáticamente en jurídicamente suficientes.
Segundo, hay que demostrar la necesidad del tratamiento: que permite perseguir el interés identificado y que no existe una alternativa menos intrusiva. Esta parte debería obligar a abandonar algunas justificaciones perezosas. “Necesitamos todos los datos para que el modelo funcione mejor” no es un análisis de necesidad. Es una preferencia técnica disfrazada de argumento jurídico.
La entidad debe explicar qué volumen de datos personales utiliza, por qué cada categoría aporta valor, qué resultado se perdería si se excluye y qué alternativas se han evaluado. Un modelo que puede entrenarse con datos sintéticos, datos agregados, muestras reducidas o información previamente filtrada tiene más dificultades para justificar la captura indiscriminada de expedientes completos.
Tercero, debe realizarse la ponderación entre el interés del responsable y los derechos y libertades de las personas. El EDPB pide atender a la naturaleza de los datos, el contexto del tratamiento, sus posibles consecuencias y las expectativas razonables de los interesados. La disponibilidad pública de un dato no elimina por sí sola las obligaciones del GDPR. Que una persona haya publicado información en internet no significa que esperase que esa información se incorporara a un modelo comercial, se combinara con otras fuentes y se utilizara para decidir sobre un seguro o una solicitud de crédito.
La expectativa razonable se vuelve especialmente compleja en IA porque el interesado puede no comprender qué operaciones se realizan entre la recopilación inicial y la respuesta final. Una política de privacidad genérica que menciona “mejora de servicios mediante tecnologías de IA” puede ser insuficiente para explicar un tratamiento que afecta a la elegibilidad, la detección de fraude, la priorización de reclamaciones o la interacción con un chatbot.
Para las entidades financieras, la evaluación debe separarse por fase. El desarrollo de un modelo con datos históricos de clientes no es jurídicamente idéntico a su despliegue para atender consultas. El tratamiento puede cambiar de finalidad, escala, riesgo, destinatarios y consecuencias. La base jurídica que una organización considera defendible en un entorno de pruebas no se transfiere automáticamente al uso productivo.
La Opinión del EDPB conecta privacidad y seguridad de una manera que los equipos de IA no siempre han incorporado a sus diseños. Si el riesgo relevante incluye la obtención de datos personales mediante consultas, la seguridad del modelo no puede evaluarse solo como disponibilidad, integridad o resistencia frente a malware. También debe medirse su capacidad de no revelar información que no debería revelar.
Eso incorpora al programa de seguridad pruebas como los ataques de extracción de datos, los intentos de reconstrucción, las consultas adversariales, la manipulación de instrucciones, la explotación de funciones de recuperación documental y el abuso de cuentas con acceso privilegiado. En un sistema conectado a un repositorio interno, además, el riesgo no está únicamente en el modelo: puede estar en el mecanismo que decide qué documentos recuperar y qué fragmentos insertar en el prompt.
Un asistente que respeta la autorización del usuario en la aplicación pero recibe un índice vectorial mal segregado puede convertirse en un atajo hacia información de otro cliente. El problema no se arregla añadiendo una frase al prompt del tipo “no reveles datos confidenciales”. Las instrucciones del modelo no sustituyen al control de acceso, la segmentación de tenants ni la validación en el servidor.
El artículo 32 del GDPR exige un nivel de seguridad adecuado al riesgo, incluida, cuando proceda, la seudonimización y el cifrado, la capacidad de garantizar confidencialidad, integridad, disponibilidad y resiliencia, la restauración del acceso y un proceso de verificación y evaluación periódicas. Para un sistema de IA, el “proceso de verificación” debe incluir la evaluación de respuestas y del comportamiento ante ataques, no solo un escaneo convencional de vulnerabilidades.
La conexión con el artículo 33 también es práctica. Si una mala configuración del proveedor expone prompts con datos personales, la entidad debe determinar si existe una violación de seguridad de datos personales y si procede notificarla a la autoridad en un plazo de 72 horas desde que tenga constancia, salvo que sea improbable que entrañe un riesgo para los derechos y libertades. Si la exposición ocurre en un servicio de IA de terceros, la entidad necesitará información del proveedor con rapidez. Un contrato que no obliga a comunicar incidentes, preservar logs y cooperar en la investigación es un problema operativo antes de ser un problema jurídico.
La Opinión 28/2024 pertenece al GDPR, pero sus efectos no terminan en el departamento de privacidad. En las entidades financieras europeas, el mismo sistema de IA puede estar sujeto a obligaciones superpuestas de resiliencia operativa, gestión de riesgos tecnológicos, gobernanza de modelos y, dependiendo del caso de uso, inteligencia artificial de alto riesgo.
El GDPR aporta el núcleo jurídico. El artículo 6 obliga a justificar la base jurídica; el artículo 5 fija principios como minimización, limitación de finalidad y responsabilidad proactiva; el artículo 25 exige privacidad desde el diseño; el artículo 32 exige seguridad adecuada al riesgo; y el artículo 35 puede exigir una evaluación de impacto cuando el tratamiento probablemente entrañe un alto riesgo para las personas.
La evaluación de impacto no debería limitarse a describir el modelo y citar controles genéricos. Debe identificar qué datos entran, qué inferencias produce el sistema, quién puede resultar afectado, qué decisiones dependen de sus resultados y qué ocurriría si el modelo memoriza o revela información. Si el sistema se utiliza para perfilar clientes o influir significativamente en decisiones, el análisis debe conectarse también con los artículos 21 y 22 del GDPR, según la configuración concreta del tratamiento.
El Reglamento de Resiliencia Operativa Digital es aplicable a las entidades financieras desde el 17 de enero de 2025. Su artículo 28 obliga a gestionar el riesgo derivado de terceros proveedores de servicios TIC. El artículo 30 establece elementos contractuales relevantes para esos acuerdos, incluidos derechos de acceso, inspección y auditoría, cooperación y condiciones para la terminación cuando el servicio ya no pueda gestionarse de forma segura.
Para un banco o aseguradora que utiliza un modelo externo, la pregunta DORA no es únicamente si el proveedor tiene un certificado de seguridad. Hay que determinar si el servicio de IA soporta una función crítica o importante, qué dependencia se crea, qué ocurre si el proveedor cambia el modelo sin aviso, cómo se recuperan los datos y registros, qué subcontratistas intervienen y cómo se prueba la salida ordenada del servicio.
La gestión de la anonimidad encaja aquí como una capacidad de control y evidencia. Una entidad que afirma que los datos no pueden extraerse debe conservar los resultados de las pruebas, controlar las versiones del modelo y exigir notificación de cambios materiales en el servicio. Si un proveedor actualiza el modelo, cambia la política de retención de prompts o modifica el mecanismo de recuperación, la evidencia anterior puede dejar de describir el riesgo real.
DORA tampoco convierte en lícito un tratamiento que incumple el GDPR. La resiliencia operativa no es un salvoconducto de privacidad. Pero sí obliga a mirar al proveedor con más precisión: dependencias, concentración, recuperación, auditoría, incidentes y salida dejan de ser asuntos de compras para convertirse en componentes del control regulatorio.
La Directiva NIS2, y en particular su artículo 21, exige medidas de gestión de riesgos de ciberseguridad que cubren, entre otros elementos, análisis de riesgos, gestión de incidentes, continuidad, seguridad de la cadena de suministro, seguridad en la adquisición y desarrollo de sistemas y evaluación de la eficacia de las medidas. El artículo 23 fija obligaciones de notificación de incidentes significativos con una alerta temprana en 24 horas y una notificación en 72 horas, junto con un informe final posterior, bajo las condiciones de la directiva.
En el sector financiero, la relación con DORA requiere cuidado. Las entidades cubiertas por DORA tienen un régimen sectorial específico y NIS2 debe leerse junto con esa regulación, no como una segunda lista automática de controles idénticos. Para proveedores digitales, operadores de servicios esenciales o grupos con actividades fuera del perímetro DORA, NIS2 puede seguir siendo directamente relevante.
La enseñanza operativa es compartida: si un modelo de IA depende de terceros, la cadena de suministro debe incluir los datos, los pesos, las APIs, los componentes de recuperación y los servicios de monitorización. Un inventario que solo registra “proveedor cloud” oculta demasiadas cosas para ser útil.
El Reglamento de Inteligencia Artificial añade otra capa. En noviembre de 2026, sus obligaciones aplicables ya no pueden tratarse como un horizonte lejano: el Reglamento (UE) 2024/1689 tiene una aplicación general prevista para el 2 de agosto de 2026, mientras que las obligaciones específicas para determinados modelos de propósito general comenzaron a aplicarse el 2 de agosto de 2025 conforme al artículo 113.
El AI Act no convierte automáticamente cualquier modelo entrenado con datos personales en un sistema de alto riesgo. La clasificación depende del uso, la función y el encaje en las categorías del Reglamento. Cuando el sistema sea de alto riesgo, el artículo 9 exige un sistema de gestión de riesgos durante su ciclo de vida; el artículo 10 aborda la gobernanza y gestión de datos; el artículo 12 exige capacidades de registro; y el artículo 15 contempla requisitos de precisión, robustez y ciberseguridad.
Para modelos de propósito general, las obligaciones de los artículos 51 a 55 pueden resultar relevantes, especialmente cuando existe riesgo sistémico. La transparencia sobre capacidades y limitaciones, la documentación técnica y la cooperación con proveedores y desplegadores ayudan a que la entidad usuaria no tenga que aceptar el modelo como una caja negra contractual.
El AI Act y el GDPR no son intercambiables. El primero regula determinados riesgos de la IA; el segundo protege a las personas frente al tratamiento de sus datos. Un sistema puede cumplir una obligación de documentación del AI Act y seguir teniendo una base jurídica deficiente bajo el artículo 6 del GDPR. También puede superar una evaluación de protección de datos y fallar los requisitos de ciberseguridad aplicables a un sistema de alto riesgo.
El NIST Cybersecurity Framework 2.0 no impone obligaciones por sí mismo en la Unión Europea. Sí ofrece una estructura útil para convertir la Opinión del EDPB en un programa operativo. La función Govern puede alojar la política de uso de modelos y la asignación de responsabilidades; Identify, el inventario de modelos, fuentes y proveedores; Protect, los controles de acceso, cifrado y minimización; Detect, la monitorización de extracción y anomalías; Respond, la gestión de incidentes; y Recover, la restauración, sustitución o retirada del servicio.
La ventaja de utilizar un marco de este tipo no es decorar la documentación con siglas estadounidenses. Es conectar controles técnicos con responsables y evidencias. Si una entidad no puede decir quién aprueba el uso de datos personales para ajustar un modelo, qué prueba demuestra que las consultas no permiten extracción o qué procedimiento activa el aislamiento del servicio, el problema no es la falta de un marco. Es la falta de gobierno.
EIDAS 2.0 puede entrar en juego cuando la IA se integra en servicios de identificación electrónica, carteras europeas de identidad o servicios de confianza. No convierte, sin embargo, un modelo de IA en anónimo ni reemplaza el análisis del GDPR. CSRD puede hacer visible un riesgo tecnológico o de gobernanza en la información corporativa cuando sea material, pero tampoco ofrece una base jurídica para entrenar modelos. HIPAA, por su parte, pertenece al marco estadounidense de información sanitaria protegida y no sustituye al GDPR en Europa. Las analogías pueden ser útiles; mezclar perímetros regulatorios para aparentar cobertura no lo es.
El riesgo más delicado no está necesariamente en el chatbot que responde preguntas frecuentes. Está en los sistemas que convierten datos personales en decisiones o recomendaciones con consecuencias económicas.
En banca, un modelo puede apoyar la detección de fraude, la clasificación de operaciones, la prevención del blanqueo, el análisis de reclamaciones, la atención al cliente o la evaluación de riesgo crediticio. En seguros, puede extraer información de historiales, priorizar siniestros, detectar patrones de fraude, valorar documentación médica o sugerir reservas. En cada caso, el tratamiento puede implicar datos financieros, de salud, biométricos o información que permita inferir circunstancias sensibles.
El primer riesgo es la extracción. Un modelo puede devolver información perteneciente a otro expediente si el aislamiento es defectuoso o si la recuperación documental ignora los permisos. El segundo es la inferencia: aunque no reproduzca el dato original, puede generar una conclusión personal sobre un cliente. El tercero es la deriva del modelo. Un sistema inicialmente aprobado para asistencia interna puede terminar integrado en un flujo de decisión, con una consecuencia jurídica y operativa completamente distinta.
El cuarto riesgo es la concentración en un proveedor. Si el mismo proveedor suministra el modelo, aloja los datos, administra los logs y actualiza los mecanismos de seguridad, la entidad puede perder visibilidad precisamente sobre las piezas que necesita auditar. El quinto es el cambio silencioso: una nueva versión puede alterar el comportamiento, la retención o la localización del procesamiento sin que la organización vuelva a ejecutar su evaluación de impacto.
Los controles recomendables no son misteriosos, aunque sí exigen disciplina:
La última línea merece atención. Registrar todo para poder auditar puede crear otro problema de privacidad. Los logs de prompts pueden contener información financiera, médica o identificativa. La organización debe definir qué se registra, con qué finalidad, quién accede, cuánto tiempo se conserva y cómo se anonimiza o se elimina. La evidencia de control no debe convertirse en una nueva base de datos de alto riesgo sin propietario.
La Opinión 28/2024 no prescribe un formulario, pero una autoridad de control o un auditor necesitarán algo más que una política aprobada por el comité. Un expediente defendible debería poder responder, como mínimo, a estas preguntas:
Esta documentación cumple una función más importante que aprobar una auditoría puntual. Permite demostrar responsabilidad proactiva, asignar decisiones y detectar que el uso real se ha separado del propósito autorizado. El peor escenario no es descubrir que un control era insuficiente. Es no poder reconstruir quién decidió desplegar el sistema, con qué información y sobre qué supuestos.
El mercado ofrece modelos descritos como “sin memoria”, “privados” o “no utilizados para entrenamiento”. Esas etiquetas pueden referirse a la retención de las consultas por el proveedor, pero no resuelven por sí solas la cuestión que plantea el EDPB. Un modelo puede no usar los prompts de un cliente para seguir entrenándose y aun así devolver datos presentes en sus datos de desarrollo. También puede exponer información por una mala configuración del sistema que lo rodea.
La precisión terminológica importa porque cada afirmación activa pruebas distintas. “No se retienen prompts” exige revisar registros, políticas y configuración. “El modelo no puede extraer datos personales” exige pruebas de extracción. “El tratamiento está basado en interés legítimo” exige el triple test del artículo 6(1)(f). “El sistema es seguro” exige definir frente a qué amenazas, con qué controles y con qué nivel de riesgo residual.
Las entidades deberían prohibir en sus políticas internas el uso de afirmaciones absolutas salvo que estén respaldadas por un alcance muy preciso. La frase correcta puede ser menos comercial y más útil: “en las pruebas realizadas con este conjunto de ataques, bajo esta configuración y con estos límites, no se observó extracción directa por encima del umbral definido”. Eso no elimina el riesgo, pero permite gobernarlo.
La Opinión 28/2024 no exige que bancos y aseguradoras abandonen la IA. Exige que dejen de tratar el modelo como un componente aislado y la privacidad como un trámite posterior. El desarrollo, el proveedor, la seguridad, el caso de uso y la base jurídica forman una única cadena de responsabilidad.
La decisión importante no es si la organización quiere utilizar inteligencia artificial. Esa discusión ya quedó superada por los presupuestos, los pilotos y los contratos firmados. La decisión es qué nivel de evidencia está dispuesta a exigir antes de permitir que un modelo procese datos personales o influya en una operación regulada.
Si la respuesta es que basta con una declaración del proveedor, la organización está aceptando un riesgo que no controla. Si exige pruebas de extracción, trazabilidad de versiones, minimización, controles de acceso, revisión jurídica y capacidad de salida, estará haciendo algo menos vistoso pero mucho más defendible.
El EDPB no ha dicho que la anonimización sea imposible. Ha dicho que no se presume. En 2026, esa diferencia separa una arquitectura gobernada de una promesa de marketing. Y las promesas, cuando las examina una autoridad de protección de datos después de una filtración, suelen tener una vida bastante corta.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal y te avisamos de cada cambio en GDPR: DPIA, brechas de datos y plazos de notificación a la AEPD.
¿Necesitas priorizar acciones ya? Empieza un GAP Assessment GDPR.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…