Imagen generada por IAUn modelo de IA que redacta correos, resume contratos o genera código puede parecer una herramienta de productividad. Para el regulador europeo, sin embargo, también puede ser una pieza reutilizable en miles de sistemas, desde un chatbot bancario hasta un software que filtra candidatos. Esa capacidad de reutilización es el motivo por el que el AI Act no regula únicamente el producto final: también coloca obligaciones específicas sobre los modelos de IA de propósito general, conocidos como GPAI.
La diferencia no es académica. Un proveedor de un modelo generalista debe poder explicar cómo lo ha entrenado, qué política aplica respecto al copyright y qué información entrega a quienes integran el modelo en otros sistemas. Si el modelo alcanza el umbral de riesgo sistémico, la exigencia sube: evaluaciones de modelo, pruebas adversariales, mitigación de riesgos sistémicos, seguimiento de incidentes y ciberseguridad avanzada.
Para el usuario empresarial, la trampa está en la palabra “usuario”. Una compañía que consume una API no asume automáticamente todas las obligaciones del proveedor. Pero tampoco puede desentenderse de ellas cuando utiliza el modelo dentro de un sistema de alto riesgo, procesa datos personales, toma decisiones sobre personas o modifica sustancialmente el modelo. La frontera jurídica depende de lo que la entidad haga con la tecnología, no del nombre comercial que figure en la factura.
Este análisis parte de la situación regulatoria de octubre de 2026 y se centra en los artículos 51 a 56 del Reglamento (UE) 2024/1689, el AI Act, junto con las obligaciones de transparencia, gobernanza, protección de datos y ciberseguridad que determinan su aplicación práctica.
El AI Act separa dos capas que muchas organizaciones siguen mezclando. La primera es el modelo de IA de propósito general. La segunda es el sistema de IA que utiliza ese modelo para una finalidad concreta.
El artículo 3 define un modelo de IA de propósito general como un modelo, incluido aquel entrenado con grandes cantidades de datos mediante autosupervisión a escala, que muestra una generalidad significativa y puede realizar de forma competente una amplia gama de tareas. Puede integrarse en múltiples sistemas o aplicaciones posteriores. Un modelo de lenguaje que genera texto suele entrar en esta categoría, pero el concepto no se limita al texto: también puede abarcar modelos multimodales capaces de trabajar con imágenes, audio, vídeo o código.
Que un modelo sea GPAI no significa que cada aplicación construida sobre él sea de alto riesgo. El artículo 6 y el anexo III identifican determinados usos de alto riesgo, entre ellos algunos sistemas empleados en empleo, educación, acceso a servicios esenciales, crédito, justicia, migración o infraestructuras críticas. Un modelo generalista utilizado para resumir actas internas no se convierte por arte de magia en un sistema de alto riesgo. Un sistema que lo utiliza para recomendar la concesión de crédito puede hacerlo, dependiendo de su finalidad y configuración.
Aquí aparece la primera tarea para el CISO y el responsable de cumplimiento: mantener dos inventarios relacionados, pero no idénticos. Uno debe identificar los modelos GPAI consumidos, desarrollados o modificados por la organización. El otro debe localizar los sistemas de IA, sus finalidades, usuarios afectados, datos tratados y clasificación regulatoria. Si solo se mantiene un catálogo de herramientas —“ChatGPT”, “Copilot”, “modelo interno”— no hay inventario regulatorio; hay una lista de marcas.
El AI Act entró en vigor el 1 de agosto de 2024. Su calendario no es uniforme. El artículo 113 establece que la mayor parte del Reglamento será aplicable el 2 de agosto de 2026, mientras que varias obligaciones comenzaron antes. Las prohibiciones del artículo 5 y las obligaciones de alfabetización en materia de IA del artículo 4 son aplicables desde el 2 de febrero de 2025. Las obligaciones para proveedores de modelos GPAI del capítulo V comenzaron a aplicarse el 2 de agosto de 2025.
La regla transitoria relevante está en el artículo 111. Los proveedores de modelos GPAI comercializados antes del 2 de agosto de 2025 disponen, como regla general, hasta el 2 de agosto de 2027 para cumplir las obligaciones del capítulo V. Los modelos nuevos introducidos después de la fecha de aplicación no disfrutan de esa misma ventana. La conclusión operativa es sencilla: en 2026 no basta con preguntar si un proveedor ha anunciado una hoja de ruta. Hay que saber cuándo se puso el modelo en el mercado, qué versión se utiliza y si el proveedor ha declarado cómo aplica el régimen transitorio.
Las obligaciones de transparencia del artículo 50 son aplicables desde el 2 de agosto de 2026. Afectan, entre otros supuestos, a la información a las personas cuando interactúan con un sistema de IA y a determinados contenidos generados o manipulados artificialmente. Una interfaz que permite al usuario creer razonablemente que está hablando con una persona incumple la lógica básica de esa obligación, aunque el modelo subyacente sea técnicamente excelente.
El calendario crea una dificultad contractual. Una empresa puede contratar en 2026 un servicio basado en un modelo lanzado antes del 2 de agosto de 2025 y recibir garantías de cumplimiento diferido hasta 2027. Eso no elimina sus riesgos actuales de privacidad, secreto empresarial, ciberseguridad, contratación tecnológica ni responsabilidad frente a clientes. El plazo del proveedor no es un salvoconducto para el comprador.
El artículo 53 impone a los proveedores de modelos GPAI un conjunto de obligaciones que afectan directamente a la capacidad de auditoría de sus clientes. La primera es elaborar y mantener documentación técnica del modelo conforme al anexo XI. Esa documentación debe permitir a la Oficina Europea de IA y a las autoridades nacionales evaluar las capacidades, limitaciones y procesos de desarrollo del modelo.
El proveedor debe facilitar determinada información a los proveedores que pretendan integrar el modelo en sus sistemas. El objetivo es que quien construye una aplicación posterior pueda entender, entre otros aspectos, las tareas que el modelo puede realizar, las limitaciones conocidas, los requisitos técnicos, los procesos de evaluación y las medidas aplicadas para reducir riesgos. No se trata de exigir la publicación del código fuente o de todos los pesos del modelo. Se trata de impedir que el integrador reciba una caja negra sin manual, sin limitaciones conocidas y sin canal de incidentes.
La documentación útil para un cliente empresarial debería cubrir, como mínimo, la versión exacta del modelo, fecha de lanzamiento, modalidad de acceso, cambios materiales entre versiones, capacidades previstas, restricciones de uso, datos de evaluación, métricas relevantes, límites de contexto, comportamiento ante entradas adversariales y condiciones de servicio. El artículo 53 no convierte automáticamente cada métrica interna en un derecho ilimitado del cliente, pero sí obliga a replantear los contratos que solo describen el servicio como “acceso a una IA avanzada”. Esa redacción sirve para marketing. No sirve para una auditoría.
La segunda obligación sensible aparece en el artículo 53.1.c: el proveedor debe establecer una política para cumplir la legislación de la Unión sobre copyright y derechos conexos, incluida la identificación y observancia de reservas de derechos expresadas conforme al artículo 4.3 de la Directiva (UE) 2019/790. La norma no resuelve todas las disputas sobre los datos de entrenamiento, pero obliga al proveedor a tener una política documentada y operativa.
La tercera pieza es el resumen suficientemente detallado del contenido utilizado para entrenar el modelo, conforme al anexo XII. La palabra “resumen” no equivale a publicar una lista completa de cada URL, documento o registro utilizado. Sí exige una descripción con un nivel de detalle que permita comprender las principales categorías de datos y fuentes empleadas. Para los clientes, este documento es una evidencia de diligencia en la selección del proveedor; para los titulares de derechos, una herramienta para examinar posibles usos no autorizados.
El proveedor también debe designar un representante autorizado en la Unión cuando esté establecido en un tercer país y comercialice el modelo en la Unión, según el artículo 54. El representante no sustituye al proveedor ni convierte una empresa externa en responsable de todos los defectos del modelo. Pero crea un punto de contacto para la documentación y la cooperación con la Oficina Europea de IA. Un contrato con un proveedor estadounidense o asiático que no identifique quién ejerce esa función deja una grieta bastante visible.
El AI Act utiliza una categoría más exigente para los modelos GPAI con riesgo sistémico. El artículo 51 considera que un modelo presenta ese riesgo cuando tiene capacidades de impacto de alcance significativo por su alcance o por sus efectos previsibles, y establece una presunción cuando la cantidad acumulada de cálculo utilizada para su entrenamiento supera los 1025 operaciones de coma flotante, conocidas como FLOP.
El umbral no es una clasificación eterna. La Comisión puede designar un modelo como modelo GPAI con riesgo sistémico aunque no opere exactamente en el umbral, cuando existan criterios adicionales relacionados con capacidades, alcance o impacto. También puede revisar la designación. Por eso la evidencia relevante no es solo el número histórico de FLOP: importan la evolución de las capacidades, la escala de uso, la autonomía, el potencial de abuso y la posibilidad de que un fallo se replique en numerosos servicios.
Los proveedores de estos modelos deben cumplir el artículo 55. La obligación más exigente es realizar evaluaciones del modelo siguiendo protocolos y herramientas normalizados, incluido el uso de pruebas adversariales. En la práctica, esto significa intentar encontrar deliberadamente conductas peligrosas, no limitarse a demostrar que el modelo funciona en escenarios normales. Los casos de prueba deberían cubrir, según el modelo y su despliegue, generación de código vulnerable, extracción de secretos, instrucciones para evadir controles, manipulación de usuarios, abuso de herramientas, filtración de datos y degradación bajo entradas diseñadas para provocar errores.
El proveedor también debe evaluar y mitigar posibles riesgos sistémicos a escala de la Unión. La palabra “sistémico” cambia el nivel de análisis. No basta con preguntar si una respuesta individual es incorrecta. Hay que examinar qué ocurre si el mismo fallo aparece simultáneamente en miles de integraciones: fraude automatizado, campañas de ingeniería social, generación masiva de malware, interrupción de servicios esenciales o decisiones correlacionadas en sectores críticos.
El artículo 55 exige asimismo evaluar y mitigar los riesgos sistémicos, realizar pruebas adversariales, informar a la Oficina Europea de IA y a las autoridades nacionales competentes sobre incidentes graves, y garantizar un nivel adecuado de ciberseguridad para el modelo y su infraestructura física. La ciberseguridad no se reduce a proteger el endpoint de la API. Incluye los pesos del modelo, los datos de entrenamiento, las canalizaciones de despliegue, los repositorios, las claves, los entornos de evaluación y los mecanismos de actualización.
Para un CISO, el riesgo más subestimado es el robo o manipulación de los pesos. Un atacante que altera el modelo antes de su publicación puede introducir comportamientos persistentes que no aparecen en una revisión superficial de la aplicación. Por eso los controles esperables incluyen segregación de entornos, control de acceso privilegiado, firma y verificación de artefactos, registros de cambios, gestión de secretos, monitorización de cargas y descargas, pruebas de integridad y planes de recuperación. El AI Act no prescribe una arquitectura concreta, pero el artículo 55 hace difícil sostener que la seguridad de la infraestructura termina en el firewall de la empresa.
El artículo 56 prevé códigos de buenas prácticas para facilitar el cumplimiento de las obligaciones de los proveedores GPAI. Estos códigos pueden abordar transparencia, copyright, identificación y evaluación de riesgos sistémicos y medidas de mitigación. Su valor práctico depende de si se traducen en evidencias comprobables: documentación versionada, resultados de pruebas, criterios de escalado, informes de incidentes y responsabilidades asignadas.
Un proveedor que firma o sigue un código obtiene una referencia operativa relevante, pero no convierte el código en inmunidad. El cumplimiento debe valorarse frente a las obligaciones del Reglamento y a la conducta real del proveedor. Para un comprador, la pregunta correcta no es “¿está adherido al código?”, sino “¿qué controles concretos puedo verificar y qué ocurre si el proveedor deja de aplicarlos?”. El entusiasmo por las declaraciones voluntarias suele durar hasta la primera interrupción grave.
Una organización que utiliza un modelo GPAI ofrecido por un tercero no se convierte automáticamente en su proveedor. Puede ser un implementador o deployer del sistema que incorpora el modelo, y sus obligaciones dependerán de la finalidad, el sector y la forma de uso. El artículo 25 regula determinadas responsabilidades a lo largo de la cadena de valor cuando se modifica sustancialmente un sistema o se cambia su finalidad de modo que pase a ser de alto riesgo.
La modificación no es solo entrenar de nuevo el modelo. Puede consistir en añadir una capa de decisión, conectarlo a una base de datos con información personal, darle acceso a herramientas externas, automatizar una acción que antes requería aprobación humana o emplearlo en una finalidad de alto riesgo. Un banco que usa un modelo para generar borradores internos está en una posición distinta de una fintech que lo conecta a un motor que recomienda aceptar o rechazar solicitudes de crédito.
Cuando el sistema sea de alto riesgo, el artículo 26 impone obligaciones al deployer, entre ellas usar el sistema conforme a las instrucciones, asignar supervisión humana competente, monitorizar su funcionamiento, conservar registros bajo su control y emplear datos de entrada pertinentes y suficientemente representativos cuando proceda. El artículo 27 exige una evaluación de impacto sobre derechos fundamentales para determinados deployers antes de poner en uso un sistema de alto riesgo, especialmente cuando son organismos públicos o prestan servicios públicos y en otros supuestos regulados por el propio artículo.
El artículo 4 obliga a proveedores y deployers a adoptar medidas para garantizar un nivel suficiente de alfabetización en IA de su personal y de quienes utilizan los sistemas en su nombre, teniendo en cuenta conocimientos, experiencia, formación y contexto de uso. No se satisface con una presentación genérica de una hora. Para un equipo jurídico, la formación debe cubrir alucinaciones, confidencialidad y revisión de fuentes. Para desarrollo, inyección de instrucciones, fuga de secretos y dependencias. Para recursos humanos o crédito, sesgo, explicabilidad y prohibición de delegar una decisión regulada en una salida probabilística.
Incluso cuando el sistema no sea de alto riesgo, el Reglamento no elimina las obligaciones horizontales. El artículo 50 exige transparencia en determinados usos, incluida la información a las personas cuando interactúan con un sistema de IA, salvo que resulte evidente por las circunstancias. Los contenidos generados o manipulados artificialmente deben marcarse en los supuestos previstos por el mismo artículo. Esta exigencia debe integrarse en la interfaz, los flujos de comunicación y los procesos de aprobación de contenidos, no esconderse en una política de uso que nadie lee.
El AI Act no sustituye al GDPR. Si una organización introduce datos personales en una herramienta GPAI, debe analizar la base jurídica, la finalidad, la minimización, la seguridad y los derechos de los interesados bajo el Reglamento 2016/679. El artículo 5 del GDPR exige, entre otros principios, limitación de la finalidad y minimización de datos; el artículo 25 exige protección de datos desde el diseño y por defecto; el artículo 32 exige medidas de seguridad adecuadas al riesgo.
La cuestión crítica es distinguir entre usar un modelo alojado por un proveedor y permitir que las entradas o salidas se utilicen para mejorar el modelo. El contrato debe especificar si los datos del cliente se conservan, durante cuánto tiempo, en qué regiones se procesan, quién puede acceder a ellos, si se emplean para entrenamiento y cómo se gestionan las subcontrataciones. También debe aclarar la devolución o supresión de datos, la asistencia ante solicitudes de derechos y la notificación de incidentes.
Una evaluación de impacto relativa a la protección de datos conforme al artículo 35 del GDPR puede ser necesaria cuando el uso implique alto riesgo, por ejemplo, evaluación sistemática y extensa de personas mediante tratamiento automatizado o tratamiento a gran escala de categorías especiales de datos. La evaluación de impacto del artículo 27 del AI Act, cuando proceda, no sustituye a la DPIA. Son instrumentos distintos, con preguntas parcialmente coincidentes y responsables que pueden ser diferentes.
La localización del proveedor tampoco resuelve por sí sola las transferencias internacionales. Si los datos salen del Espacio Económico Europeo, habrá que analizar el capítulo V del GDPR, incluidas las decisiones de adecuación, las cláusulas contractuales tipo y, cuando corresponda, medidas suplementarias. Un proveedor que prometa “no entrenar con tus datos” no está respondiendo a la pregunta de si esos datos se transfieren o quién puede acceder a ellos.
Los contratos de IA deben abandonar el enfoque de software estándar. El cliente necesita identificar el modelo concreto, su versión, el proveedor real, la región de procesamiento, las dependencias relevantes y las condiciones de cambio. También debe pactar una notificación previa o suficientemente rápida de modificaciones materiales, degradaciones de servicio, cambios en el uso de datos, nuevas subcontrataciones y alteraciones de controles de seguridad.
Para servicios críticos, el acuerdo debe incluir derechos de auditoría o, al menos, mecanismos de aseguramiento equivalentes: informes independientes, resultados de pruebas, documentación técnica, evidencias de controles y cooperación ante investigaciones. Si el modelo alimenta procesos financieros, de salud, empleo o atención al cliente, la organización debe conservar una vía de operación degradada. Depender de una única API sin procedimiento manual o proveedor alternativo convierte una decisión de compras en un riesgo de continuidad.
Los requisitos de DORA añaden presión para las entidades financieras. El artículo 28 del Reglamento (UE) 2022/2554 exige gestionar el riesgo de terceros proveedores de servicios TIC, mantener un registro de información y controlar las relaciones contractuales. Si una entidad financiera integra un modelo GPAI en un servicio crítico o importante, debe evaluar la concentración, la sustituibilidad, la localización, la subcontratación y las capacidades de salida. No hace falta que el proveedor se anuncie como “empresa tecnológica crítica” para que la dependencia sea relevante en el análisis de resiliencia.
Una cláusula contractual tampoco puede transformar al proveedor en chivo expiatorio universal. El banco, aseguradora o fintech sigue respondiendo de sus procesos, de la supervisión humana y de la interacción con clientes. La asignación de responsabilidades debe acompañarse de controles internos: quién aprueba la finalidad, quién valida las salidas, quién puede cambiar el prompt del sistema, quién revisa una actualización del modelo y quién decide detenerlo.
La organización que quiera demostrar control debería poder reconstruir, para cada caso de uso, una cadena de decisiones. Qué modelo se empleó, en qué versión, con qué instrucciones, sobre qué datos, para qué finalidad, con qué revisión humana y con qué resultado. Sin esa trazabilidad, una política corporativa de IA es una declaración de intenciones.
El expediente no tiene que contener el razonamiento interno del modelo ni almacenar indiscriminadamente todos los datos personales. Sí debería incluir una ficha de caso de uso, clasificación de riesgo, evaluación de privacidad, análisis de seguridad, aprobación del propietario del proceso, condiciones contractuales, resultados de pruebas, controles de acceso, procedimiento de incidentes y criterios para retirar o sustituir el sistema.
Para los modelos GPAI de terceros, las evidencias externas más útiles son la documentación del artículo 53, el resumen de datos de entrenamiento del anexo XII, la política de copyright, la información sobre capacidades y limitaciones, los informes de pruebas y la descripción del proceso de gestión de incidentes. Para modelos internos o modificados, el expediente debe incorporar además datos de entrenamiento, controles de procedencia, validación, cambios de pesos, evaluación de regresiones y aprobación de cada lanzamiento.
El registro de prompts puede ser necesario para investigar un incidente, pero no debe implantarse sin analizar minimización y retención. El GDPR no permite conservarlo todo “por si acaso”. La solución razonable es definir qué eventos se registran, durante cuánto tiempo, quién accede a ellos y cómo se eliminan o anonimizan. Seguridad y privacidad vuelven a pedir lo mismo: trazabilidad suficiente, no vigilancia ilimitada.
La prioridad no es comprar otra plataforma de gobierno de IA. Es identificar dónde está la decisión material. El CISO debería pedir a cada unidad de negocio una relación de modelos y servicios utilizados, incluidos experimentos, extensiones de navegador, copilotos integrados y APIs contratadas directamente por equipos técnicos. El inventario debe vincular cada modelo con una finalidad, un responsable y un flujo de datos.
Después hay que separar tres escenarios. Primero, uso interno de bajo impacto, como redactar un borrador sin datos personales ni decisión automatizada. Segundo, uso que afecta a clientes, empleados o proveedores, aunque exista revisión humana. Tercero, uso integrado en un proceso regulado o de alto riesgo. El nivel de pruebas, aprobación, monitorización y evidencias debe aumentar en ese orden.
Al proveedor no debería aceptársele una respuesta comercial del tipo “nuestro modelo es seguro” o “cumplimos el AI Act”. La pregunta debe ser concreta: ¿qué artículo se considera satisfecho, qué documento lo acredita, qué versión cubre la afirmación y qué sucede si el modelo cambia? También conviene exigir información sobre incidentes graves, canal de notificación, tiempo de respuesta, pruebas adversariales, segregación de datos, uso para entrenamiento y mecanismos de apagado.
El equipo de cumplimiento debe coordinarse con compras, privacidad, seguridad, legal, arquitectura y negocio. Si cada función trabaja con una definición distinta de “proveedor”, “usuario”, “modelo” o “sistema”, la organización descubrirá el conflicto cuando ya exista una reclamación. Una taxonomía común vale más que otra política de 40 páginas.
El AI Act no convierte la IA de propósito general en una tecnología prohibida ni exige que cada empresa audite desde cero los pesos de un modelo comercial. Su efecto real es menos vistoso y más incómodo: obliga a repartir la responsabilidad entre quien desarrolla el modelo, quien lo integra y quien lo utiliza para afectar a personas o servicios.
Para los proveedores, el cambio consiste en demostrar capacidades, límites, copyright, documentación y seguridad con evidencias que puedan sobrevivir a una revisión regulatoria. Para los usuarios, consiste en dejar de confundir una suscripción con un control. El modelo puede estar cubierto por el artículo 53 y, aun así, la implementación empresarial puede incumplir el GDPR, el artículo 50 o las obligaciones aplicables a los sistemas de alto riesgo.
La pregunta decisiva no es si la compañía “usa IA”. Eso ya aporta poca información. Las preguntas útiles son otras: qué modelo interviene, qué decisión influye, qué datos recibe, quién puede cambiarlo, cómo se detecta un fallo y cuánto tardaría la organización en sustituirlo. Si esas respuestas no están documentadas, la empresa no tiene gobierno de IA. Tiene optimismo con licencia de software.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal y te avisamos de cada cambio en AI Act: clasificación de riesgo de tus sistemas de IA y obligaciones por nivel.
¿Necesitas priorizar acciones ya? Empieza un GAP Assessment AI Act.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…