Imagen generada por IALa pregunta decisiva para una entidad que entrena un modelo de inteligencia artificial no es si los datos estaban disponibles en internet. Es si podrá demostrar, ante una autoridad de protección de datos, que el modelo no permite extraer, inferir o reconstruir información personal y que el entrenamiento superaba los tres filtros del interés legítimo.
Ahí está el verdadero alcance de la Opinión 28/2024 del Comité Europeo de Protección de Datos (EDPB), solicitada por la autoridad irlandesa y presentada públicamente por la Secretaría del EDPB el 10 de abril de 2025. El documento no ofrece una patente europea para entrenar modelos con datos personales. Hace algo menos cómodo: desplaza la discusión desde las intenciones del proveedor hacia las pruebas técnicas, jurídicas y organizativas que deben existir antes del despliegue.
La opinión aborda tres cuestiones que se han convertido en el cuello de botella de la IA empresarial: cuándo un modelo puede considerarse anónimo, cómo justificar el interés legítimo durante el desarrollo y la explotación, y qué ocurre cuando el entrenamiento se realizó de forma ilícita. La respuesta del EDPB deja poco espacio para el optimismo jurídico de PowerPoint: la ilicitud inicial puede contaminar el uso posterior, salvo que el modelo haya sido debidamente anonimizado; y esa anonimización exige bastante más que borrar nombres de columnas.
La Opinión 28/2024 debe leerse como un cambio de estándar probatorio. No convierte automáticamente en ilegal el entrenamiento de modelos con datos personales, pero sí hace inviable tratar la privacidad como una revisión documental al final del proyecto. Para banca, seguros y fintech, el mensaje es especialmente relevante: un comité de IA que aprueba un modelo sin conservar evidencias sobre extracción, inferencia, retención, minimización y base jurídica está aprobando una afirmación, no un control.
La posición editorial de este análisis es clara: el EDPB está llevando el RGPD hacia una lógica de seguridad verificable. No basta con decir que el modelo no memoriza; hay que someterlo a pruebas de membership inference, model inversion, exfiltration, regurgitation y reconstruction, documentar sus resultados y explicar por qué los controles reducen el riesgo. La gobernanza de IA que no pueda enseñar sus artefactos técnicos será débil aunque el consejo de administración haya aprobado una política impecable.
El segundo mensaje es todavía más incómodo. La anonimización no debe funcionar como una amnistía retroactiva improvisada. Si el modelo conserva datos personales, la autoridad puede valorar la ilicitud del desarrollo cuando examine el tratamiento posterior. El hecho de que otro proveedor despliegue el modelo tampoco borra la historia: el nuevo responsable debe comprobar cómo se desarrolló antes de apoyarse en él.
La opinión nace del artículo 64.2 del RGPD, que permite a una autoridad de control solicitar al EDPB una opinión para obtener una aplicación coherente del Reglamento en asuntos de alcance general o con efectos en más de un Estado miembro. La Secretaría del EDPB explicó que las autoridades nacionales deben tener muy en cuenta estas opiniones al resolver casos concretos. Si persisten desacuerdos, el artículo 65 del RGPD permite al Comité adoptar una decisión vinculante para resolver la controversia.
Hay dos matices que conviene no perder. Primero, la Opinión 28/2024 no sustituye a una resolución individual ni elimina la evaluación caso por caso. Segundo, tampoco es una guía de ingeniería de modelos que determine un porcentaje universal de riesgo aceptable. El propio material presentado por el EDPB subraya que el alcance depende de las preguntas formuladas por la autoridad solicitante. La opinión marca criterios comunes; no entrega un certificado de conformidad.
La cronología también importa. La opinión pertenece formalmente a 2024, mientras que la presentación utilizada como fuente fue difundida el 10 de abril de 2025. En 2026, por tanto, no estamos ante una propuesta futura pendiente de aterrizaje. Estamos ante un criterio europeo ya disponible para orientar investigaciones, evaluaciones de impacto y decisiones de compra, aunque el EDPB siga trabajando en directrices específicas sobre la interacción entre el AI Act y la legislación europea de protección de datos.
Ese último punto impide leer la opinión de forma aislada. El RGPD responde a la licitud del tratamiento de datos personales. El Reglamento de IA responde, entre otras cosas, a los riesgos del sistema y a las obligaciones del proveedor o responsable del despliegue. Son capas distintas. Cumplir una no concede inmunidad frente a la otra.
El EDPB parte de una idea elemental y frecuentemente maltratada: el RGPD se aplica al tratamiento de datos personales. Si un modelo es realmente anónimo, el modelo anonimizado queda fuera del ámbito material del Reglamento. El problema está en ese realmente.
La referencia metodológica es la opinión del antiguo Grupo de Trabajo del artículo 29 sobre técnicas de anonimización. El análisis no se limita a preguntar si una persona puede ser identificada de forma directa. También examina tres riesgos: singling out, cuando es posible aislar registros o características de una persona; linkability, cuando pueden vincularse datos o respuestas entre sí; e inferencia, cuando puede deducirse información personal no expuesta explícitamente.
Para que un modelo pueda considerarse anónimo, debe ser muy improbable tanto extraer directamente los datos personales usados para crearlo como obtener esos datos mediante consultas. La fórmula es deliberadamente exigente. Un modelo que no devuelve literalmente un número de DNI puede seguir revelando edad, ubicación, historial clínico, salario, relación contractual o pertenencia a un grupo suficientemente pequeño como para identificar a una persona.
La evaluación debe empezar en el diseño, no después de la auditoría. El EDPB señala varios elementos que una autoridad puede examinar:
Después llega la parte que muchas evaluaciones tratan como una formalidad: las pruebas ofensivas. El material del EDPB menciona ataques de extracción, membership inference, attribute inference, model inversion, regurgitation y reconstruction. Cada uno responde a una pregunta distinta. ¿Puede saberse si un registro concreto estaba en el conjunto de entrenamiento? ¿Puede deducirse un atributo sensible? ¿Puede forzarse al modelo a repetir una cadena memorizada? ¿Puede reconstruirse una entrada a partir de las salidas?
Para una entidad financiera, el riesgo no es abstracto. Un asistente interno entrenado con expedientes de clientes podría revelar fragmentos de comunicaciones, datos de solvencia o patrones de fraude si el sistema memoriza ejemplos. Un modelo de seguros podría permitir inferir que una persona pertenece a un colectivo de pacientes con una enfermedad rara aunque nunca muestre su historial completo. Un modelo contra el fraude podría exponer reglas internas o variables que faciliten la evasión de controles.
El EDPB no ofrece un umbral numérico general que convierta estos ataques en un aprobado o suspenso. Por eso la documentación debe explicar el modelo de amenaza, los conjuntos de prueba, las tasas observadas, las condiciones de ataque, los límites de las pruebas y las medidas correctoras. Un informe que solo diga "no se detectaron riesgos significativos" es una conclusión; no es evidencia suficiente.
La Opinión 28/2024 recuerda que el RGPD no establece una jerarquía entre las bases jurídicas del artículo 6. El interés legítimo puede servir para determinadas operaciones de desarrollo o despliegue, pero el responsable debe demostrar que es la base adecuada y que respeta los principios generales del artículo 5, los derechos de los interesados y el principio de responsabilidad proactiva del artículo 5.2.
La evaluación exige tres pasos. No son tres párrafos estándar para pegar en una evaluación de impacto.
El interés debe ser lícito, claramente formulado, real y actual. El material del EDPB menciona como ejemplos el desarrollo de un agente conversacional, la detección de contenido o comportamiento fraudulento y la detección de amenazas en un sistema de información.
La diferencia entre una finalidad defendible y una declaración publicitaria es importante. "Mejorar la innovación mediante IA" es demasiado amplio. "Detectar patrones de apropiación de cuentas en transferencias inmediatas para reducir operaciones fraudulentas" permite identificar el responsable, la necesidad, los datos implicados y el resultado perseguido.
En el desarrollo y en el despliegue puede haber intereses distintos. El entrenamiento de un modelo para clasificar transacciones no tiene necesariamente la misma finalidad que su uso posterior para bloquear pagos. Si la organización documenta una única finalidad para todo el ciclo de vida, probablemente está ocultando una decisión que debería haber tomado de forma explícita.
El responsable debe demostrar que el tratamiento es adecuado para alcanzar el interés perseguido y que no existe una alternativa menos intrusiva. La pregunta no es si los datos ayudan al modelo. Casi siempre ayudan. La pregunta es si la misma finalidad puede alcanzarse usando menos datos, menos detalle, menos tiempo de retención o una fuente con menor impacto.
Una entidad que quiere detectar fraude debería comparar, por ejemplo, el uso de identificadores directos con datos seudonimizados; un historial completo con ventanas temporales limitadas; textos íntegros con variables estructuradas; o datos reales con conjuntos sintéticos calibrados. La seudonimización no elimina el RGPD, porque la información adicional puede permitir reidentificar, pero sí puede reducir el riesgo y contribuir a la necesidad y al equilibrio.
Los controles técnicos también cuentan en esta fase. Minimización, separación de entornos, acceso restringido, retención limitada, filtrado de datos sensibles, privacidad diferencial cuando sea técnicamente viable y pruebas de memorization pueden reforzar el argumento. No convierten por sí solos un tratamiento innecesario en necesario. El orden importa: primero se demuestra la necesidad; después se explica cómo se reduce el impacto.
El tercer paso sopesa el interés del responsable o de un tercero frente a los intereses, derechos y libertades de las personas. La evaluación debe atender a la naturaleza de los datos, el contexto de su recogida, las consecuencias previsibles, la relación entre la persona y la organización, sus expectativas razonables y las medidas de mitigación.
Las expectativas razonables no se evaporan porque los datos fueran públicos. Una persona que publica una reseña, participa en un foro o aparece en un registro accesible puede no esperar que sus palabras se incorporen a un modelo generativo que las reproduzca años después. En banca, un cliente puede aceptar que sus operaciones se analicen para prestar un servicio concreto sin esperar que se reutilicen para entrenar un modelo general compartido con un proveedor externo.
El artículo 21 del RGPD concede a los interesados el derecho a oponerse a tratamientos basados en el artículo 6.1.e o f por motivos relacionados con su situación particular. La oposición no es un botón decorativo: debe integrarse en el diseño operativo, con mecanismos para recibirla, evaluarla, excluir datos cuando proceda y demostrar qué se hizo con ella.
También deben considerarse los artículos 13 y 14 sobre información, el artículo 15 sobre acceso y los artículos 17 y 18 sobre supresión y limitación. La respuesta a una solicitud de acceso puede ser especialmente compleja si el responsable no sabe qué fuentes alimentaron una versión concreta del modelo, qué registros permanecen en artefactos intermedios o si el entrenamiento permite retirar la influencia de un registro.
Aquí aparece una tensión técnica que el EDPB no resuelve con una frase mágica: eliminar una fila de una base de datos no equivale necesariamente a eliminar su influencia de los parámetros del modelo. Por eso la organización debe conocer si puede hacer un reentrenamiento, aplicar técnicas de machine unlearning, aislar el modelo afectado o justificar por qué una medida alternativa protege los derechos de la persona. Si no conoce la respuesta antes del despliegue, ha trasladado el problema al interesado y a la autoridad.
El tercer bloque de la opinión es el que más debería preocupar a los compradores de modelos. Si el desarrollo se apoyó en un tratamiento contrario al principio de licitud del artículo 5.1.a y al artículo 6 del RGPD, esa infracción puede afectar al tratamiento posterior. No se trata de una consecuencia automática en todos los casos: el EDPB insiste en la necesidad de valorar las circunstancias. Pero la hipótesis está claramente sobre la mesa.
La presentación distingue tres escenarios.
Cuando quien desarrolló el modelo también lo despliega y los datos personales permanecen en él, la autoridad puede examinar si el uso posterior es lícito. Si el despliegue se basa en interés legítimo, la ilicitud inicial debe formar parte de la ponderación. Además, la autoridad conserva facultades para intervenir sobre el tratamiento de desarrollo y ordenar medidas correctoras.
La separación artificial entre los equipos de datos y los equipos de producto no cambia el responsable jurídico. Si el modelo se entrena en una filial y se utiliza en otra entidad del grupo, habrá que examinar las relaciones de responsabilidad, los acuerdos intragrupo, las finalidades y las transferencias. Una reorganización societaria no limpia los datos.
El comprador no puede aceptar la afirmación del proveedor de que "el modelo cumple el RGPD" como sustituto de su propia evaluación. Según el material del EDPB, el responsable que despliega el modelo debe realizar una evaluación adecuada para determinar si fue desarrollado ilícitamente. El grado de diligencia dependerá del caso, pero debe existir.
Esto modifica la negociación contractual. Un proveedor que no revela la procedencia de los datos, los controles de filtrado, la política de retención, las pruebas de extracción o el régimen de incidentes está impidiendo al cliente cumplir su propia responsabilidad proactiva. Las cláusulas genéricas de cumplimiento no resuelven una asimetría informativa tan grande.
En servicios de IA adquiridos como API, la entidad debería exigir al menos información sobre categorías y fuentes de datos, finalidad de entrenamiento, uso de datos del cliente, subencargados, localización, retención, procesos de eliminación, pruebas de seguridad y mecanismos para responder a derechos. También debe aclarar si el proveedor reutiliza prompts, logs o documentos cargados para mejorar modelos generales.
Si el modelo está debidamente anonimizado antes de que el mismo u otro responsable inicie un nuevo tratamiento, el RGPD no se aplica al modelo anonimizado y la ilicitud inicial no debería afectar a la operación posterior del modelo. Pero el umbral es alto. La anonimización debe resistir la extracción directa y las consultas, además de los riesgos de vinculación e inferencia.
La palabra clave es debidamente. No basta con quitar nombres, reemplazar identificadores por hashes o declarar que el modelo es de propósito general. Un hash estable puede facilitar la vinculación; una salida aparentemente agregada puede permitir inferencias en grupos pequeños; y una secuencia repetida puede revelar material de entrenamiento. La conclusión jurídica depende de la arquitectura, el conjunto de datos, el acceso, el contexto y las capacidades previsibles del atacante.
La utilidad de la Opinión 28/2024 aumenta cuando se conecta con el resto del paquete regulatorio europeo. No porque todas las normas digan lo mismo, sino porque obligan a coordinar evidencias que históricamente vivían en departamentos separados.
El artículo 25 exige protección de datos desde el diseño y por defecto. El artículo 32 exige medidas técnicas y organizativas apropiadas al riesgo, y el artículo 35 obliga a realizar una evaluación de impacto cuando el tratamiento pueda entrañar un alto riesgo para los derechos y libertades. La IA que perfila clientes, detecta fraude con datos personales o influye en decisiones de crédito puede activar una DPIA, según la naturaleza y escala del tratamiento.
La evidencia no debería consistir solo en la DPIA final. Debe incluir el inventario de fuentes, las decisiones de minimización, la matriz de finalidades, la evaluación de necesidad, los resultados de ataques, los controles de salida, la trazabilidad de versiones y la opinión del delegado de protección de datos cuando intervenga. El artículo 5.2 convierte esa documentación en parte del cumplimiento, no en un apéndice administrativo.
El Reglamento de IA, Reglamento (UE) 2024/1689, añade obligaciones que no se sustituyen con una base jurídica válida. El artículo 10 aborda la gobernanza y gestión de datos para determinados sistemas de alto riesgo; el artículo 12 exige capacidades de registro; el artículo 14 regula la supervisión humana; y el artículo 15 exige niveles adecuados de precisión, robustez y ciberseguridad.
Para modelos de propósito general, el artículo 53 establece obligaciones para los proveedores, incluida la preparación y actualización de documentación técnica y la elaboración de políticas para cumplir el derecho de autor de la Unión. Los proveedores de modelos con riesgo sistémico afrontan obligaciones adicionales bajo el régimen específico del Reglamento. En 2026, una entidad no debería comprar un modelo sin determinar si actúa como proveedor, implementador o mero usuario y qué documentación debe conservar en cada rol.
La conexión con la opinión del EDPB es práctica: las pruebas de extracción y reconstrucción sirven para privacidad y ciberseguridad; los logs sirven para reconstruir decisiones y detectar abuso; la supervisión humana debe conocer las limitaciones del modelo; y la documentación de datos permite responder tanto a una auditoría de IA como a una investigación de protección de datos.
DORA es aplicable desde el 17 de enero de 2025 y obliga a las entidades financieras a gestionar el riesgo de terceros TIC. El artículo 28 exige que la entidad gestione el riesgo contractual y operativo derivado de proveedores TIC; el artículo 30 fija elementos contractuales esenciales, incluidos niveles de servicio, derechos de acceso y auditoría, asistencia, terminación y condiciones de subcontratación.
Un modelo utilizado para scoring, atención al cliente, detección de fraude, gestión de reclamaciones o automatización de operaciones puede convertirse en una dependencia operativa relevante. La pregunta no es si el proveedor se presenta como una empresa de IA, nube o software. La pregunta es qué servicio soporta, qué ocurre si cambia el modelo, se interrumpe la API, se degrada su precisión o elimina una versión que la entidad necesita para reproducir una decisión.
DORA también refuerza la necesidad de pruebas, gestión de incidentes, continuidad y control de concentración. Un contrato que permite al proveedor entrenar con datos del banco sin controles de segregación puede generar simultáneamente un riesgo RGPD, un riesgo de secreto bancario y un riesgo TIC. El comité de compras no debería aprobarlo con tres casillas independientes.
La Directiva NIS2, en su artículo 21, exige medidas de gestión de riesgos de ciberseguridad que incluyan análisis de riesgos, seguridad de la cadena de suministro, gestión de vulnerabilidades, criptografía, control de acceso y autenticación, entre otras medidas. El artículo 23 regula la notificación de incidentes significativos, con plazos escalonados que incluyen una alerta temprana en 24 horas y una notificación del incidente en 72 horas desde que se tiene conocimiento, según las condiciones previstas por la Directiva.
Un ataque de prompt injection que provoque la extracción masiva de datos, una modificación maliciosa del modelo o una dependencia comprometida de la cadena de suministro no es solo un problema de privacidad. Puede ser un incidente de ciberseguridad con impacto operativo y de notificación. Las pruebas de resistencia del modelo deben integrarse en el programa de vulnerabilidades, no quedarse en el laboratorio de ciencia de datos.
El Reglamento (UE) 2024/1183, que modifica eIDAS y establece el marco europeo de identidad digital, importa cuando la IA procesa atributos de identidad, credenciales o datos de la cartera europea de identidad digital. En ese escenario, la minimización, la autenticidad de atributos y la prevención de correlación entre servicios deben formar parte de la arquitectura. No todo modelo financiero activa eIDAS 2.0; forzar la conexión sería tan poco serio como ignorarla cuando la identidad digital es el producto.
CSRD puede ser relevante para la gobernanza y el control interno cuando los riesgos de privacidad, ciberseguridad o dependencia tecnológica son materiales para la información de sostenibilidad y los procesos de reporte. No convierte cada modelo en un asunto de información no financiera, pero sí aumenta la presión sobre la trazabilidad de riesgos y controles declarados por grupos sujetos a la Directiva.
HIPAA solo entra directamente en juego cuando existe una entidad cubierta, un socio comercial o información sanitaria protegida sometida a la legislación estadounidense. Una aseguradora europea con negocio sanitario en Estados Unidos no puede resolver el análisis con RGPD: deberá coordinar la base europea con las salvaguardas de HIPAA y sus acuerdos de negocio.
NIST CSF 2.0, publicado en 2024, no es una ley europea, pero ofrece una estructura útil para organizar la evidencia: Govern, Identify, Protect, Detect, Respond y Recover. En IA, eso significa asignar responsabilidad, inventariar modelos y fuentes, proteger entornos y secretos, detectar abuso y deriva, responder a extracción o corrupción y recuperar la operación sin perder trazabilidad.
La respuesta no es crear otro comité con una presentación de 80 diapositivas. Es construir un expediente que conecte decisión jurídica, arquitectura y operación. Como mínimo, el responsable de producto, el DPO, seguridad, compras y riesgo deberían poder responder conjuntamente a estas preguntas:
El error habitual consiste en separar estas preguntas por departamentos. Privacidad revisa la base jurídica, seguridad revisa el API, compras revisa el contrato y negocio revisa la precisión. El riesgo aparece en las intersecciones. Un proveedor puede tener un SOC 2 impecable y no poder explicar de dónde proceden los datos de entrenamiento. Un modelo puede ser estadísticamente preciso y no soportar una solicitud de supresión. Una DPIA puede estar firmada y no existir ninguna prueba contra extracción.
En banca, la IA generativa y los modelos de decisión pueden afectar a atención al cliente, detección de fraude, crédito, recuperación de deuda, prevención del blanqueo y operaciones internas. El riesgo no es solo que el modelo revele datos. También puede generar una explicación falsa sobre una decisión, introducir sesgos, mezclar expedientes, aceptar instrucciones de un atacante o convertirse en una puerta de acceso a sistemas internos.
El artículo 22 del RGPD añade una capa delicada cuando una persona queda sometida a una decisión basada únicamente en tratamiento automatizado que produce efectos jurídicos o le afecta significativamente. No todos los usos de IA activan automáticamente el artículo, pero una entidad no debería esconder una decisión material detrás de la etiqueta "herramienta de apoyo" si el empleado no puede apartarse realmente de la recomendación.
En seguros, el uso de datos de salud, hábitos, geolocalización o comportamiento puede elevar tanto la sensibilidad de los datos como el impacto de la inferencia. Un modelo que no muestra una enfermedad concreta, pero cambia la prima porque identifica patrones asociados a ella, plantea problemas de transparencia, minimización, discriminación y expectativa razonable. Quitar el campo clínico no elimina necesariamente la información clínica inferible.
Los controles recomendables son conocidos, pero deben aplicarse con precisión: separación entre entrenamiento y producción, tokenización, filtrado de datos especiales, controles de acceso por función, pruebas adversariales, monitorización de prompts y salidas, revisión humana real, límites de uso, logs inmutables, validación independiente y reentrenamiento gobernado. Lo que falta no es una nueva lista de controles; falta demostrar qué riesgo reduce cada uno y quién responde si falla.
La Opinión 28/2024 del EDPB no prohíbe la innovación ni exige que cada modelo sea perfecto. Exige algo más razonable y más exigente: que la organización pueda explicar qué hizo, por qué era necesario, qué alternativas descartó, qué riesgos probó y cómo responderá cuando el sistema revele más de lo previsto.
La anonimización es una conclusión técnica y jurídica que debe sostenerse frente a ataques plausibles. El interés legítimo es una evaluación de tres pasos, no una frase comodín. Y la licitud del entrenamiento puede importar al comprador que nunca vio los datos originales.
Para las entidades financieras, la consecuencia práctica es inmediata en 2026: el expediente de un modelo debe viajar con él durante todo su ciclo de vida. Debe alimentar la DPIA del RGPD, el expediente del AI Act, la gestión de terceros de DORA, el análisis de cadena de suministro de NIS2 y, cuando proceda, los controles de identidad digital, reporte corporativo o sanidad transfronteriza.
La organización que solo pregunte si el proveedor cumple está haciendo la pregunta equivocada. Debe preguntar qué puede demostrar el proveedor, qué puede verificar ella misma y qué hará cuando la respuesta deje de ser tranquilizadora. En regulación de IA, la diferencia entre una promesa y un control sigue siendo la evidencia.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal y te avisamos de cada cambio en GDPR: DPIA, brechas de datos y plazos de notificación a la AEPD.
¿Necesitas priorizar acciones ya? Empieza un GAP Assessment GDPR.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…