Imagen generada por IAUn modelo de IA no convierte los datos personales en una zona franca jurídica. Si una empresa utiliza correos electrónicos para entrenar un asistente, analiza currículos para descartar candidatos o genera perfiles de clientes a partir de historiales de navegación, está tratando datos personales aunque el proveedor llame al proceso fine-tuning, inferencia o enriquecimiento.
La pregunta útil para un CISO o un responsable de cumplimiento no es si el sistema usa inteligencia artificial. Es bastante más incómoda: ¿puede demostrar qué datos entran, con qué base jurídica, durante cuánto tiempo, para qué finalidad y con qué controles sobre las decisiones que salen?
El RGPD no contiene una excepción para los modelos de IA. Sus principios siguen aplicándose en el orden que fija el artículo 5: licitud, lealtad y transparencia; limitación de la finalidad; minimización; exactitud; limitación del plazo de conservación; integridad y confidencialidad; y responsabilidad proactiva. El Reglamento de IA de la Unión Europea, el Reglamento (UE) 2024/1689, añade obligaciones según el uso y el nivel de riesgo, pero no sustituye la evaluación de protección de datos.
Esta es una checklist operativa para revisar un caso de uso antes de ponerlo en producción. Está ordenada por prioridad y esfuerzo porque no todos los controles cuestan lo mismo y porque descubrir después del lanzamiento que el proveedor conserva los prompts para entrenar su modelo suele ser una forma cara de leer el contrato.
La primera evidencia no es un diagrama de arquitectura. Es una ficha que describa el uso real del sistema: quién lo utiliza, qué decisión apoya o ejecuta, qué datos recibe, qué salida produce y qué ocurre con esa salida.
Un chatbot interno que resume políticas corporativas no plantea el mismo riesgo que una herramienta que clasifica solicitudes de crédito. Un sistema que propone respuestas a un operador no equivale a otro que bloquea automáticamente una transferencia. La palabra IA agrupa desde funciones de búsqueda hasta decisiones con efectos jurídicos; el análisis de cumplimiento cambia por completo entre ambos extremos.
La ficha debería responder, como mínimo, a estas preguntas:
Esta clasificación también activa el Reglamento de IA. Un sistema puede ser de riesgo limitado por sus obligaciones de transparencia, de alto riesgo por su finalidad concreta o incluso estar prohibido por el artículo 5 del Reglamento de IA. El hecho de que el proveedor lo comercialice como una herramienta generalista no resuelve la clasificación: importa el uso previsto y, en determinados casos, el uso efectivo.
Un error frecuente consiste en registrar un único tratamiento llamado, por ejemplo, plataforma de IA. En realidad puede haber varios:
Cada operación puede tener una finalidad, una base jurídica y un periodo de conservación diferente. El artículo 30 del RGPD exige que el registro de actividades describa, entre otros elementos, las finalidades, las categorías de interesados y datos, los destinatarios, las transferencias y los plazos previstos de supresión. Si el registro no distingue el entrenamiento de la inferencia, será difícil demostrar responsabilidad proactiva conforme al artículo 5.2.
La distinción entre entrenamiento e inferencia es decisiva. Que una consulta concreta se borre al terminar la sesión no significa que el modelo no haya retenido información durante el entrenamiento o que un proveedor no conserve registros técnicos. Pide un mapa de datos que incluya memoria de conversación, cachés, registros de depuración, copias de seguridad, conjuntos de evaluación y cuentas de administradores.
También debes separar los datos que el modelo recibe de los datos que el sistema genera. Una puntuación, una etiqueta de riesgo o una predicción sobre una persona puede ser un dato personal, aunque no apareciera en la fuente original. El artículo 4.1 del RGPD incluye cualquier información sobre una persona identificada o identificable; la inferencia no deja de ser información por haber sido calculada estadísticamente.
El artículo 6 del RGPD no ofrece una casilla genérica para proyectos innovadores. La base jurídica debe corresponder a una finalidad concreta y debe poder explicarse a los interesados.
El consentimiento del artículo 6.1.a exige que sea libre, específico, informado e inequívoco. En relaciones de desequilibrio, como empleo o determinados servicios esenciales, la libertad puede ser discutible. Tampoco sirve un consentimiento obtenido para prestar un servicio si se utiliza después para entrenar un modelo con una finalidad distinta y sin una información adecuada.
El responsable debe poder demostrar la retirada y detener el tratamiento posterior cuando proceda. Si el diseño técnico no permite excluir los datos de una canalización de entrenamiento o responder de forma razonable a una solicitud de oposición, el consentimiento no arregla el problema: solo lo documenta.
El artículo 6.1.b cubre el tratamiento necesario para ejecutar un contrato, no cualquier tratamiento útil para el negocio. Personalizar un servicio puede ser necesario en un caso concreto; entrenar un modelo generalista con todas las conversaciones de clientes normalmente requiere una justificación más precisa.
La base del artículo 6.1.c exige una obligación legal aplicable al responsable. Una política interna, una recomendación sectorial o la conveniencia operativa no equivalen a una obligación jurídica.
El interés legítimo del artículo 6.1.f exige tres pasos documentados: identificar un interés legítimo, demostrar que el tratamiento es necesario y superar una ponderación entre ese interés y los derechos de los interesados. El análisis debe incluir expectativas razonables, naturaleza de los datos, escala, relación con la persona y salvaguardas.
La Opinión 28/2024 del Comité Europeo de Protección de Datos sobre determinados aspectos de la protección de datos relacionados con el tratamiento de datos personales en el contexto de modelos de IA examina, entre otras cuestiones, la licitud del desarrollo y uso de modelos, la anonimización y el interés legítimo. Su mensaje operativo no es que exista una base jurídica automática para entrenar modelos, sino que el análisis depende del contexto, de la naturaleza de los datos y de la posibilidad real de mitigar los riesgos.
Una evaluación de interés legítimo que solo enumera beneficios comerciales no está terminada. Debe explicar por qué no se puede lograr el objetivo con menos datos, cómo se evita el uso de información especialmente sensible, qué mecanismos de exclusión existen y qué impacto tendría para una persona que el modelo reprodujera o infiriera información sobre ella.
Si el sistema trata datos de salud, origen racial o étnico, opiniones políticas, creencias religiosas, afiliación sindical, vida sexual, orientación sexual o datos biométricos para identificar de manera unívoca, el artículo 9 añade una prohibición de partida y excepciones específicas. No basta con invocar el artículo 6. También debe existir una condición del artículo 9.2.
El artículo 10 regula los datos personales relativos a condenas e infracciones penales y limita su tratamiento a supuestos bajo control de autoridad pública o autorizados por el Derecho de la Unión o de los Estados miembros con garantías adecuadas. Un sistema de selección de candidatos que infiere antecedentes a partir de fuentes abiertas no se convierte en lícito porque la información sea accesible en internet.
El artículo 5.1.c exige que los datos sean adecuados, pertinentes y limitados a lo necesario para las finalidades. En IA, la minimización no significa solo eliminar columnas antes de subir un fichero. Obliga a cuestionar si hace falta utilizar datos personales, con ese nivel de detalle, durante todo el ciclo de vida.
La empresa debería probar, por escrito, estas decisiones:
La seudonimización reduce riesgos, pero el artículo 4.5 deja claro que los datos seudonimizados siguen siendo datos personales cuando pueden atribuirse a una persona mediante información adicional. Sustituir el nombre por un identificador no convierte un historial médico o salarial en información anónima.
La anonimización sí puede sacar los datos del ámbito del RGPD, pero el umbral es exigente: debe ser razonablemente imposible reidentificar a las personas, directa o indirectamente, teniendo en cuenta los medios disponibles. En modelos de IA conviene probar también la memorización y la extracción de datos mediante consultas, no limitarse a eliminar identificadores directos del conjunto de entrenamiento.
El artículo 25 exige protección de datos desde el diseño y por defecto. Traducido a controles técnicos: desactivar por defecto la reutilización de prompts para entrenamiento, aplicar filtros de datos personales antes de enviar información a una API, limitar la retención de registros, separar entornos de desarrollo y producción y restringir el acceso a datos de evaluación. La configuración predeterminada del proveedor no sustituye a la decisión del responsable.
Los artículos 13 y 14 del RGPD exigen informar sobre la identidad del responsable, las finalidades, la base jurídica, los intereses legítimos cuando se utilice el artículo 6.1.f, los destinatarios, las transferencias, los plazos de conservación y los derechos. El artículo 14 es especialmente relevante cuando los datos utilizados para entrenar o perfilar no se obtienen directamente del interesado.
La frase el sistema utiliza inteligencia artificial no cumple por sí sola. Tampoco explica qué datos se usan, si la salida influye en una decisión, si existe supervisión humana o cómo puede una persona impugnar un resultado.
Una información útil debe separar tres capas:
El artículo 12 exige que la información sea concisa, transparente, inteligible y fácilmente accesible, utilizando un lenguaje claro. Eso no impide una documentación técnica extensa; impide esconder la explicación esencial en un anexo de 80 páginas que nadie lee. Para un cliente o empleado, la información debe responder a la pregunta que realmente le importa: ¿qué hará la empresa con mis datos y qué puedo hacer si el sistema se equivoca?
El Reglamento de IA añade obligaciones de transparencia en distintos supuestos. El artículo 50 establece requisitos para determinados sistemas, incluidos los que interactúan directamente con personas o generan contenido sintético en los casos previstos. La aplicación exacta depende del sistema y de su finalidad, pero la transparencia del Reglamento de IA no sustituye a los artículos 13, 14 y 22 del RGPD. Son capas acumulativas, no alternativas.
El artículo 22 del RGPD reconoce el derecho a no ser objeto de una decisión basada únicamente en un tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos o afecte significativamente de modo similar. El análisis tiene tres elementos acumulativos: decisión, tratamiento exclusivamente automatizado y efecto jurídico o significativamente similar.
Un sistema que rechaza automáticamente una solicitud de crédito, cancela una cuenta, deniega una prestación o descarta a un candidato puede situarse claramente en este terreno. Pero la intervención humana no basta si es puramente simbólica. La persona que revisa debe tener autoridad, competencia y tiempo para cuestionar la salida, acceder a la información relevante y apartarse de la recomendación del modelo.
Las excepciones del artículo 22.2 permiten la decisión cuando sea necesaria para celebrar o ejecutar un contrato, esté autorizada por el Derecho de la Unión o de los Estados miembros, o se base en el consentimiento explícito. En los casos de contrato o consentimiento, el responsable debe aplicar medidas adecuadas para salvaguardar los derechos y libertades, como mínimo el derecho a obtener intervención humana, expresar el punto de vista y impugnar la decisión, conforme al artículo 22.3.
El artículo 22.4 restringe además las decisiones basadas en categorías especiales del artículo 9, salvo que se aplique una excepción concreta y existan medidas adecuadas para proteger los derechos del interesado.
El diseño operativo debería registrar, para cada decisión automatizada:
En sectores regulados, este rastro no es un lujo de auditoría. Permite explicar una decisión al interesado, investigar sesgos, responder a una reclamación y demostrar que la supervisión humana no era una figura decorativa colocada en un organigrama.
El artículo 35 del RGPD exige una evaluación de impacto relativa a la protección de datos cuando el tratamiento pueda entrañar un alto riesgo para los derechos y libertades. La obligación aparece, entre otros casos, cuando existe evaluación sistemática y exhaustiva de aspectos personales basada en tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos o similares; tratamiento a gran escala de categorías especiales; o tratamiento a gran escala de zonas de acceso público.
Una evaluación de impacto genérica, copiada del proyecto anterior, no sirve para un modelo que cambia de versión cada trimestre. Debe describir las operaciones, finalidades, necesidad y proporcionalidad, riesgos para los interesados y medidas previstas para afrontarlos. Si el sistema aprende con datos nuevos, la evaluación debe contemplar el cambio de distribución, la deriva del rendimiento y la posibilidad de que aparezcan patrones no previstos.
La evaluación debería incluir riesgos que suelen quedar fuera de los formularios de privacidad:
El artículo 36 exige consultar a la autoridad de control antes del tratamiento cuando la evaluación indique que el riesgo seguiría siendo alto si el responsable no toma medidas para mitigarlo. El expediente debe explicar por qué el riesgo residual es aceptable o qué se ha cambiado. La respuesta no puede ser simplemente que el proveedor certifica que su modelo es seguro.
El Reglamento de IA introduce evaluaciones y obligaciones adicionales para determinados sistemas de alto riesgo, incluidos requisitos sobre gestión de riesgos, gobernanza de datos, documentación técnica, registros, supervisión humana, precisión, solidez y ciberseguridad. El artículo 27 regula la evaluación de impacto sobre derechos fundamentales para determinados operadores antes de utilizar un sistema de alto riesgo. Cuando coincidan una evaluación del artículo 35 del RGPD y una del Reglamento de IA, la solución sensata es coordinar evidencias y responsables; no pegar dos informes que se contradicen en los supuestos críticos.
El artículo 28 del RGPD exige que el encargado trate los datos únicamente siguiendo instrucciones documentadas del responsable y que ofrezca garantías suficientes. El contrato debe cubrir, entre otros aspectos, confidencialidad, seguridad, subcontratación, asistencia en derechos, apoyo en artículos 32 a 36, supresión o devolución de datos y auditorías.
En una herramienta de IA, las preguntas contractuales son más concretas que el habitual cumplimiento de estándares:
Si el proveedor determina por su cuenta las finalidades y medios esenciales, podría no ser un encargado puro. El análisis de roles debe atender a la realidad del servicio, no a la etiqueta contractual. La Comisión Europea ha publicado cláusulas contractuales tipo para las relaciones entre responsables y encargados, pero ninguna cláusula estándar responde por sí sola a quién decide entrenar el modelo.
Las transferencias internacionales requieren una revisión independiente. El capítulo V del RGPD exige una decisión de adecuación, garantías adecuadas como las cláusulas contractuales tipo o una excepción del artículo 49 en casos restringidos. La empresa debe conocer las entidades que acceden a los datos, las ubicaciones de soporte y las medidas suplementarias. Decir que el centro de datos está en la Unión Europea no resuelve necesariamente el acceso remoto desde terceros países ni la cadena de subencargados.
El artículo 32 del RGPD exige medidas técnicas y organizativas apropiadas al riesgo. Para sistemas de IA, el mínimo razonable incluye control de acceso por función, autenticación reforzada para administradores, cifrado en tránsito y reposo, separación de entornos, gestión de secretos, filtrado de datos personales y registros de actividad.
La seguridad específica del modelo requiere controles adicionales. Un CISO debería probar si un usuario puede extraer información de otros clientes mediante instrucciones, si los documentos recuperados quedan expuestos a usuarios sin permisos, si los logs contienen datos sensibles y si una respuesta del modelo puede ejecutar acciones sin validación. El principio de mínimo privilegio debe aplicarse también a las herramientas conectadas al modelo: consultar una base de datos no implica autorización para modificarla.
La gestión de vulnerabilidades debe cubrir bibliotecas, contenedores, dependencias de frameworks de IA, endpoints de inferencia y componentes de recuperación documental. El proveedor debería notificar incidentes y vulnerabilidades con plazos definidos. Si se produce una violación de seguridad de datos personales, el artículo 33 obliga al responsable a notificarla a la autoridad de control sin dilación indebida y, cuando sea posible, dentro de las 72 horas desde que tenga constancia, salvo que sea improbable que entrañe un riesgo para los derechos y libertades. El artículo 34 puede exigir comunicación a los afectados cuando el riesgo sea alto.
La respuesta a incidentes debe contemplar un caso que los planes tradicionales suelen olvidar: el modelo ha revelado un dato personal en una respuesta, pero nadie sabe todavía quién más lo ha visto. Hay que preservar registros, identificar el alcance, bloquear la ruta de exposición, evaluar el riesgo y documentar la decisión. Un mensaje del proveedor diciendo que se trató de una alucinación no sustituye al análisis de una brecha.
La responsabilidad proactiva del artículo 5.2 no se demuestra con una presentación sobre innovación responsable. Se demuestra con artefactos verificables y con decisiones trazables. Para cada caso de uso, el expediente debería contener, como mínimo:
| Control | Evidencia esperable | Responsable principal |
|---|---|---|
| Finalidad y roles | Ficha del caso de uso, mapa de tratamientos y análisis responsable-encargado | Privacidad, negocio y compras |
| Base jurídica | Memoria del artículo 6 y, cuando proceda, del artículo 9 o 10 | Delegado de protección de datos y jurídico |
| Minimización | Inventario de atributos, pruebas de eliminación, anonimización o seudonimización | Data governance e ingeniería |
| Transparencia | Información de artículos 13 y 14, avisos de interacción y procedimiento de revisión | Privacidad y producto |
| Decisión automatizada | Análisis del artículo 22, reglas de intervención humana y registro de decisiones | Negocio, riesgo y cumplimiento |
| Riesgo | Evaluación del artículo 35, pruebas de sesgo, extracción, precisión y robustez | Privacidad, seguridad y modelo |
| Proveedor | Contrato del artículo 28, lista de subencargados, retención y transferencias | Compras, jurídico y seguridad |
| Operación | Controles de acceso, registros, gestión de cambios, incidentes y borrado | CISO y operaciones |
La lista no es burocracia ornamental. Permite responder a tres preguntas que aparecerán en una auditoría, una reclamación o una investigación de la autoridad: qué se decidió, por qué se decidió y quién podía cambiarlo.
Muchas organizaciones no parten de cero. Tienen cientos de usuarios con herramientas públicas, extensiones de navegador, cuentas corporativas y experimentos que nunca pasaron por compras. La respuesta no consiste en prohibir toda IA durante seis meses y descubrir después que los equipos han creado una segunda infraestructura en la sombra.
La primera prioridad son los usos que deciden o afectan a personas: crédito, seguros, empleo, acceso a servicios, prevención del fraude, fijación de precios individualizada y moderación que pueda bloquear cuentas. Ahí deben completarse antes de la producción el análisis del artículo 22, la evaluación de impacto, la revisión de sesgos y el mecanismo de impugnación.
La segunda prioridad son los datos de alto riesgo: categorías especiales, información financiera, secretos empresariales, datos de menores y grandes volúmenes de conversaciones. La empresa debe bloquear la carga en servicios no aprobados y ofrecer una alternativa corporativa con retención y controles conocidos.
La tercera prioridad son los sistemas que conectan el modelo a acciones. Un asistente que redacta un correo es distinto de uno que crea beneficiarios, modifica límites o elimina registros. Las acciones sensibles requieren autorización separada, revisión humana y registros resistentes a manipulaciones.
Para los usos de menor riesgo, puede bastar una política clara, formación, filtrado automático de datos personales, aprobación del proveedor y revisiones periódicas. La proporcionalidad no significa ausencia de control: significa gastar el esfuerzo donde un error puede perjudicar a una persona o comprometer a la organización.
El Reglamento de IA no convierte el cumplimiento del RGPD en una nota a pie de página. La coexistencia exige repartir bien las preguntas.
El RGPD pregunta si existe un tratamiento de datos personales, si es lícito, necesario y proporcional, cómo se informa a los interesados, cómo se ejercen los derechos y qué medidas protegen esos datos. El Reglamento de IA pregunta, entre otras cosas, qué práctica está prohibida, qué nivel de riesgo tiene el sistema, qué documentación y supervisión exige y qué obligaciones recaen sobre proveedor, responsable del despliegue u otros operadores.
Un sistema puede cumplir formalmente una obligación de documentación del Reglamento de IA y seguir incumpliendo el artículo 5 del RGPD por utilizar más datos de los necesarios. También puede tener una base jurídica válida y fallar en una obligación de transparencia o supervisión prevista por el Reglamento de IA. Las dos normas se cruzan, pero ninguna absorbe a la otra.
Las fechas del Reglamento de IA ayudan a ordenar el calendario regulatorio: las prohibiciones del artículo 5 y las obligaciones de alfabetización en IA del artículo 4 empezaron a aplicarse el 2 de febrero de 2025; las obligaciones para proveedores de modelos de IA de propósito general del capítulo V se aplican desde el 2 de agosto de 2025; y la aplicación general de muchas obligaciones para sistemas de alto riesgo está prevista para el 2 de agosto de 2026, con particularidades para sistemas integrados en productos regulados. En este año 2026, tratar la clasificación de IA como un asunto futuro ya no es una estrategia: es un retraso documentado.
El punto de coordinación debe ser el gobierno del producto. Antes de aprobar un caso de uso, privacidad, seguridad, riesgo, compras y negocio deberían firmar la misma ficha de control. Si cada función mantiene un inventario distinto, la empresa no tiene gobernanza; tiene varias versiones de la realidad compitiendo por una auditoría.
El cumplimiento de la IA bajo el RGPD se decide antes de que aparezca la primera respuesta del modelo. Se decide al escoger la finalidad, limitar los datos, seleccionar la base jurídica, negociar la retención, diseñar la supervisión humana y preparar la evidencia.
Para un CISO, el control decisivo suele ser la arquitectura: qué entra, qué sale, quién accede y qué queda registrado. Para cumplimiento, la prueba está en la trazabilidad: finalidad, base jurídica, información, derechos y decisiones. Para el negocio, la consecuencia es más práctica: un sistema que no puede explicar sus datos ni corregir sus errores no es una ventaja competitiva; es una dependencia difícil de defender.
La checklist mínima cabe en una frase, aunque ejecutarla no: identifica cada tratamiento, justifica cada dato, informa a cada persona afectada, revisa cada decisión significativa y conserva evidencia de cada control. El modelo puede seguir siendo opaco. La organización no puede permitirse serlo.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal y te avisamos de cada cambio en GDPR: DPIA, brechas de datos y plazos de notificación a la AEPD.
¿Necesitas priorizar acciones ya? Empieza un GAP Assessment GDPR.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…