Imagen generada por IAUn proveedor de un modelo de IA de propósito general no tendrá que convencer al supervisor de que su sistema es “seguro por diseño”. Tendrá que demostrarlo con documentación técnica, resultados de evaluación, controles de ciberseguridad, una política de derechos de autor y evidencias de que los riesgos se gestionan antes y después de la puesta a disposición del modelo.
Ese cambio de verbo —de afirmar a demostrar— es el centro de gravedad del Reglamento de Inteligencia Artificial. Para los modelos de propósito general, conocidos como GPAI, el Reglamento (UE) 2024/1689 no se limita a regular el uso final de una aplicación. Regula también la infraestructura cognitiva que otras empresas integran en sus productos, desde un modelo lingüístico hasta un sistema multimodal capaz de generar código, imágenes o audio.
Para un CISO o un responsable de cumplimiento europeo, la pregunta útil no es si su proveedor ha firmado un compromiso ético. Es otra: si mañana el AI Office o una autoridad nacional solicita el expediente del modelo, ¿puede la empresa reconstruir qué datos, evaluaciones, versiones, incidentes y decisiones de mitigación explican el comportamiento observado?
Si la respuesta depende de buscar documentos dispersos en Jira, el repositorio de modelos y tres carpetas de producto, la organización no tiene un sistema de cumplimiento. Tiene una búsqueda del tesoro.
El AI Act entró en vigor el 1 de agosto de 2024. Las obligaciones específicas para proveedores de modelos GPAI son aplicables desde el 2 de agosto de 2025, de acuerdo con el calendario del Reglamento. En noviembre de 2026, por tanto, no estamos ante una preparación teórica: el expediente de cumplimiento debería existir y estar operativo.
El artículo 3 define el modelo de IA de propósito general como un modelo que muestra una generalidad significativa y es capaz de realizar competentemente una amplia gama de tareas distintas, con independencia de cómo se distribuya. El hecho de que una empresa ofrezca el modelo mediante API, lo descargue para instalación local o lo integre en un producto no elimina por sí solo la condición de proveedor.
El artículo 53 concentra las obligaciones generales de los proveedores de GPAI. Exige, entre otras cuestiones:
El proveedor establecido fuera de la Unión debe designar un representante autorizado en la UE antes de poner el modelo en el mercado europeo, conforme al artículo 54. Este representante no es un buzón jurídico decorativo. Es el interlocutor que puede recibir solicitudes, cooperar con la Oficina de IA y conservar o facilitar la documentación exigida.
La obligación no recae automáticamente del mismo modo sobre cada empresa que utiliza un modelo. Un banco que emplea una API de un proveedor externo suele actuar como deployer de un sistema de IA, no como proveedor del GPAI subyacente. Pero la frontera se mueve si modifica sustancialmente el modelo o lo comercializa bajo su propio nombre. El artículo 25 establece obligaciones para quienes introducen cambios sustanciales o ponen un sistema a disposición bajo su marca, y el artículo 25.1 obliga a valorar si ese actor pasa a asumir la posición de proveedor.
Hay una consecuencia práctica que suele perderse en los resúmenes jurídicos: comprar el acceso a un modelo no transfiere la responsabilidad de comprobar qué documentación se necesita para integrarlo. El proveedor del GPAI tiene unas obligaciones propias; el proveedor del sistema de IA construido sobre él tendrá otras; y el usuario profesional seguirá necesitando controles sobre el uso concreto, los datos, las personas afectadas y los resultados.
El anexo XI es el documento que convierte el expediente del modelo en algo auditable. Su objetivo no es que un lector pueda entender en cinco minutos qué hace el sistema, sino que un supervisor pueda evaluar cómo se desarrolló, qué capacidades tiene, dónde falla y qué medidas reducen el riesgo.
Para un proveedor, eso implica mantener un inventario versionado que conecte al menos cinco capas: arquitectura, datos, entrenamiento, evaluación y distribución. Si se actualizan los pesos del modelo, se cambia la política de filtrado, se amplía el contexto disponible o se habilita una nueva modalidad, la organización debe poder demostrar qué parte del expediente deja de ser válida.
El expediente debería describir la arquitectura y el proceso de desarrollo con suficiente precisión para explicar las decisiones técnicas relevantes: familia y versión del modelo, modalidades soportadas, tamaño o configuración cuando sea pertinente, ventanas de contexto, mecanismos de alineamiento, técnicas de ajuste, herramientas externas y dependencias críticas. La obligación no significa necesariamente publicar secretos industriales. El artículo 53 permite proteger información confidencial y secretos comerciales, pero esa protección no convierte la documentación en una caja negra frente a la autoridad.
La parte más difícil suele ser la descripción de los datos. Un listado de fuentes —“internet, libros y código”— no responde a las preguntas que plantearía un auditor: ¿qué familias de datos se utilizaron?, ¿qué filtros se aplicaron?, ¿cómo se trataron los datos personales?, ¿qué controles detectaron contenidos ilícitos o de baja calidad?, ¿cómo se gestionaron las reservas de derechos?, ¿qué proporción del corpus cambió entre versiones?
El Reglamento no exige publicar cada registro de entrenamiento. Sí exige que el proveedor pueda explicar el contenido utilizado de forma suficientemente detallada y presentar el resumen conforme a la plantilla aplicable. La organización debería conservar, junto al resumen público, la evidencia interna que lo sostiene: fuentes, contratos, bases jurídicas, decisiones de exclusión, pruebas de calidad y registros de los cambios introducidos.
La documentación también debe cubrir las capacidades y limitaciones del modelo. “Puede generar texto” es una descripción comercial, no una evaluación. Un expediente útil distingue, por ejemplo, entre generación de código, extracción de información, razonamiento matemático, uso de herramientas, comprensión multilingüe, generación de contenido sensible y comportamiento ante instrucciones contradictorias. Cada afirmación relevante debería enlazar con una prueba, una métrica, un intervalo de confianza o una explicación de sus límites.
Aquí aparece una tensión que el AI Act no resuelve con una cifra mágica: no existe una métrica universal que mida la seguridad de un GPAI. Accuracy, tasa de alucinación, tasa de rechazo, robustez ante jailbreaks y exposición de datos miden cosas diferentes. Un modelo puede mejorar en una prueba de conocimiento y empeorar en extracción de información confidencial. La documentación que solo presenta una tabla de benchmarks seleccionados será formalmente vistosa y supervisoriamente débil.
La métrica útil no es la que hace parecer más inteligente al modelo, sino la que permite tomar una decisión de control. Para cada capacidad o riesgo material, el proveedor debería documentar cuatro elementos: la pregunta evaluada, el conjunto de pruebas, el resultado y el umbral que activa una medida correctora.
En seguridad, esto puede traducirse en una batería que incluya:
Estos indicadores no son una lista cerrada impuesta literalmente por el artículo 53. Son la traducción operativa de la obligación de documentar capacidades, limitaciones y riesgos. La diferencia importa: presentarlos como “las cinco métricas obligatorias del AI Act” sería incorrecto; omitirlos porque el Reglamento no entrega una tabla universal sería una mala decisión de control.
Las métricas deben conservar su contexto. Un resultado del 2% de respuestas inseguras no dice mucho si se obtuvo con cien prompts fáciles, sin ataques multilingües y sin repetir consultas. El expediente debería registrar tamaño de la muestra, procedencia de los casos, criterios de etiquetado, versión del evaluador, fecha de ejecución y límites estadísticos. También debería separar pruebas internas de evaluaciones independientes.
El auditor querrá saber quién decidió que un resultado era aceptable. Por eso conviene que cada umbral esté vinculado a una decisión documentada: bloquear una versión, restringir una capacidad, añadir una salvaguarda, modificar un filtro o aceptar temporalmente el riesgo con aprobación formal. Sin esa conexión, las métricas son telemetría, no gobierno.
No todos los GPAI reciben el mismo trato. El artículo 51 considera que un modelo tiene capacidades de impacto sistémico cuando alcanza el umbral de cómputo previsto en el Reglamento —1025 operaciones de coma flotante, o FLOPs— o cuando la Comisión designa el modelo atendiendo a los criterios del anexo XIII. El umbral no es una licencia para ignorar modelos menos grandes: un modelo puede tener riesgos relevantes aunque no sea clasificado como de impacto sistémico.
La clasificación desencadena obligaciones adicionales del artículo 55. El proveedor debe realizar evaluaciones del modelo mediante protocolos y herramientas estandarizados, efectuar evaluaciones y pruebas adversariales para identificar riesgos sistémicos, evaluar y mitigar esos riesgos, informar de incidentes graves y garantizar un nivel adecuado de ciberseguridad para el modelo y su infraestructura física.
La diferencia entre el artículo 53 y el 55 es sustancial. Para un GPAI ordinario, la documentación debe hacer comprensible el modelo y su cadena de desarrollo. Para un modelo con riesgo sistémico, el proveedor debe demostrar una capacidad de gestión de riesgos que se parezca más a un programa de seguridad crítica: identificación continua, pruebas adversariales, medidas de reducción, monitorización y respuesta a incidentes.
El término “sistémico” tampoco equivale a “el modelo ha tenido un incidente grave”. Se refiere al potencial de efectos de gran alcance, por ejemplo por su capacidad de ser integrado masivamente en servicios, generar código con impacto sobre sistemas conectados, facilitar campañas de abuso a escala o producir fallos comunes en múltiples sectores. La evaluación debe mirar más allá del rendimiento del modelo aislado y considerar su distribución, accesibilidad, uso de herramientas y dependencia de terceros.
Un programa de red teaming creíble debería incluir equipos con perfiles distintos: seguridad ofensiva, privacidad, abuso de plataformas, especialistas sectoriales y evaluadores lingüísticos. Las pruebas deben cubrir tanto el modelo como el entorno de servicio. Un modelo que rechaza una petición peligrosa en una interfaz conversacional puede comportarse de otra manera cuando una aplicación intermedia reformula automáticamente la solicitud, conserva memoria o le permite ejecutar código.
El artículo 55 también exige informar a la Oficina de IA y, cuando proceda, a las autoridades nacionales sobre incidentes graves. Para que esa obligación funcione, el proveedor debe haber definido previamente qué considera incidente, quién decide la gravedad, qué datos se preservan y cómo se reconstruye la línea temporal. La peor estrategia es esperar a que el incidente obligue a inventar un proceso.
El artículo 55.1.d exige un nivel adecuado de protección de la ciberseguridad para el modelo y su infraestructura física. En la práctica, eso amplía el alcance mucho más allá de la autenticación de la API.
El perímetro incluye repositorios de código, pesos del modelo, checkpoints, conjuntos de datos, claves de firma, entornos de entrenamiento, plataformas de inferencia, sistemas de evaluación y mecanismos de actualización. Un atacante que robe pesos no necesita comprometer la interfaz pública para causar daño; puede eliminar salvaguardas, extraer información o redistribuir una copia difícil de revocar.
La evidencia esperable debería cubrir controles como:
Esto conecta el AI Act con marcos que las entidades financieras ya conocen, aunque no sean equivalentes jurídicos. NIST CSF 2.0 puede ayudar a estructurar funciones de gobierno, identificación, protección, detección, respuesta y recuperación. DORA, aplicable desde el 17 de enero de 2025, añade para las entidades financieras obligaciones sobre gestión del riesgo TIC, incidentes y terceros tecnológicos. Pero adoptar NIST o cumplir DORA no demuestra automáticamente el cumplimiento del artículo 55. Los marcos ayudan a organizar pruebas; la obligación nace del AI Act.
La dependencia de un proveedor de nube plantea otra pregunta incómoda: ¿quién controla el entorno físico en el que se entrenó el modelo? El proveedor del GPAI debe poder demostrar que ha gestionado el riesgo de su cadena tecnológica, aunque no opere personalmente cada centro de datos. Los contratos deberían cubrir registros, notificación de incidentes, controles de acceso, continuidad, subcontratación, preservación de evidencias y cooperación con investigaciones.
El proveedor del GPAI no trabaja en el vacío. Su documentación alimenta las obligaciones del siguiente actor de la cadena. El artículo 53.1.b exige proporcionar información y documentación a los proveedores que pretendan integrar el modelo en sus sistemas de IA. Esa entrega debe permitir que el proveedor posterior entienda las capacidades, limitaciones y condiciones de uso relevantes.
Para un integrador, la pregunta clave es si el paquete recibido permite hacer una evaluación propia. Una tarjeta de modelo de cuatro páginas puede ser útil para producto, pero insuficiente para un sistema de alto riesgo que toma decisiones sobre empleo, crédito, acceso a servicios esenciales o infraestructuras críticas.
El contrato debería especificar, como mínimo, la versión exacta del modelo, el régimen de cambios, el aviso previo para modificaciones materiales, los resultados de evaluaciones, las limitaciones conocidas, los controles disponibles, los datos que pueden enviarse al proveedor, la retención de prompts y las condiciones para investigar incidentes. También debería aclarar si el proveedor utiliza las entradas del cliente para entrenamiento y cómo se separan los entornos.
La trazabilidad de la versión es decisiva. Si una entidad financiera documenta un proceso de evaluación con el modelo X, versión 4.2, pero el proveedor cambia silenciosamente el comportamiento bajo el mismo nombre comercial, la evidencia deja de ser reproducible. La gobernanza debe tratar el modelo como una dependencia versionada, no como una suscripción abstracta.
El artículo 50 incorpora obligaciones de transparencia para determinados sistemas de IA, entre ellas informar cuando una persona interactúa con un sistema de IA y etiquetar ciertos contenidos generados o manipulados artificialmente. Esas obligaciones recaen sobre el sistema y su uso concreto, no se resuelven automáticamente porque el modelo base tenga documentación. Un chatbot bancario que usa un GPAI debe diseñar sus propias comunicaciones al usuario, sus controles de supervisión y su gestión de errores.
Una inspección eficaz no empezará necesariamente por la política de IA. Empezará por un modelo concreto y pedirá que la empresa reconstruya su historia. Para llegar preparada, la organización debería mantener un expediente de evidencias con referencias cruzadas entre requisitos, controles y resultados.
Ese expediente puede organizarse en seis bloques:
Cada evidencia debería tener propietario, fecha, versión y periodo de conservación. También debería distinguir entre una afirmación del proveedor y una prueba de la afirmación. “El modelo resiste ataques de prompt injection” es una declaración. El informe de pruebas, con metodología, corpus, resultados y defectos abiertos, es evidencia.
La conservación importa especialmente cuando el proveedor publica actualizaciones frecuentes. Si el modelo se ajusta semanalmente, el expediente no puede depender de una evaluación anual que describa un sistema que ya no existe. La frecuencia de reevaluación debe responder al ritmo de cambios, al tipo de modificación y al riesgo. El artículo 72 exige monitorización poscomercialización para sistemas de IA de alto riesgo; aunque los GPAI no sean automáticamente sistemas de alto riesgo, esa lógica de seguimiento es una referencia sensata para mantener control sobre modelos que cambian de forma continua.
El CISO de una empresa usuaria no puede descargar sobre el proveedor todas las obligaciones del AI Act, pero sí puede evitar que el contrato convierta el riesgo en una sorpresa. El primer paso es clasificar el uso, no la herramienta. El mismo modelo puede servir para resumir documentos internos o para recomendar decisiones sobre clientes; el riesgo regulatorio y operativo cambia radicalmente.
Después conviene establecer una puerta de entrada para nuevos usos de IA. Esa revisión debe identificar si la empresa es proveedor o deployer del sistema, si el uso puede entrar en una categoría de alto riesgo del anexo III, si se tratan datos personales, si hay decisiones automatizadas con efectos sobre personas y si se conectan herramientas capaces de actuar sobre sistemas corporativos.
La evaluación del proveedor debería pedir evidencias, no solo respuestas a cuestionarios. Entre las solicitudes razonables están el resumen de datos de entrenamiento, la política de derechos de autor, la documentación técnica relevante, resultados de pruebas de seguridad, historial de incidentes, controles de cambio, condiciones de retención de datos y procedimiento de notificación. Si el proveedor se niega a entregar detalles por secreto comercial, debe explicar qué información alternativa permite verificar el control.
El segundo paso es probar el sistema propio. La documentación del modelo base no cubre los prompts de la empresa, sus datos, sus conectores ni su configuración. Hay que probar inyección de instrucciones, fuga de información, abuso de permisos, generación de contenido incorrecto, uso de datos personales y degradación ante cambios del proveedor. En entornos financieros, la prueba debe incluir escenarios de fraude, asesoramiento incorrecto, tratamiento desigual y generación de informes que puedan acabar en una decisión regulada.
El tercer paso es definir una condición de retirada. ¿Qué resultado obliga a suspender el caso de uso? ¿Quién puede desactivar la integración? ¿Cómo se conserva la evidencia? ¿Qué alternativa permite mantener el servicio? Una gobernanza que solo sabe aprobar pilotos, pero no detenerlos, es una campaña de innovación con nombre de control interno.
El AI Act no convierte cada aplicación que usa un modelo generativo en un modelo GPAI. Tampoco permite que un proveedor se libre de sus obligaciones llamando “asistente” a un sistema con capacidades generales. La clasificación depende de la función, la generalidad, la distribución y el papel que desempeña cada actor en la cadena.
El supervisor tendrá que mirar tres cosas a la vez. Primero, el modelo y sus capacidades intrínsecas. Segundo, el sistema que lo integra y las funciones que habilita. Tercero, el uso real y los efectos sobre personas o servicios. Un proveedor puede cumplir el artículo 53 y, aun así, el integrador incumplir obligaciones de transparencia, supervisión humana o gestión de riesgos en el sistema final.
Para las empresas, esa división significa que el cumplimiento no puede vivir únicamente en compras, legal o innovación. El CISO debe controlar el perímetro técnico; compliance debe interpretar la posición jurídica; privacidad debe revisar datos y derechos; producto debe conocer el comportamiento; y auditoría interna debe comprobar que las declaraciones se sostienen con evidencias reproducibles.
La Comisión Europea ha colocado a la Oficina de IA en el centro de la supervisión de los proveedores de GPAI, mientras que las autoridades nacionales mantienen funciones relevantes respecto de los sistemas desplegados en sus jurisdicciones. La coordinación será gradual y la práctica supervisora irá afinando qué nivel de detalle resulta suficiente. Esperar a que aparezca la primera solicitud formal para descubrirlo no es una estrategia prudente: es utilizar al regulador como consultor gratuito, y normalmente uno bastante caro.
El AI Act no exige que un modelo sea perfecto. Exige que el proveedor conozca sus capacidades, limite los riesgos previsibles, documente sus decisiones y pueda cooperar con la supervisión. Para los modelos de impacto sistémico, la exigencia sube: evaluaciones adversariales, gestión de riesgos sistémicos, notificación de incidentes y ciberseguridad reforzada.
La mejor preparación no consiste en redactar una política solemne sobre inteligencia artificial. Consiste en construir una cadena de evidencia: cada versión del modelo debe tener una identidad; cada afirmación sobre rendimiento debe tener una prueba; cada riesgo material debe tener una mitigación; cada cambio debe tener un responsable; y cada incidente debe poder reconstruirse sin depender de la memoria del equipo que lo sufrió.
Para el proveedor, el artículo 53 marca el expediente mínimo. Para el proveedor de un modelo con riesgo sistémico, el artículo 55 añade una disciplina de pruebas y respuesta más exigente. Para el integrador y el usuario, los artículos 25 y 50 recuerdan que el cumplimiento no termina al contratar una API. La responsabilidad sigue al sistema hasta su uso real.
La pregunta decisiva para 2026 es sencilla: si un auditor pide demostrar por qué una versión concreta del modelo era aceptable el día que se puso en producción, ¿puedes entregarle algo más sólido que un PDF comercial y una captura de pantalla? Si la respuesta es no, el trabajo no es mejorar el relato. Es empezar a construir el expediente.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal y te avisamos de cada cambio en AI Act: clasificación de riesgo de tus sistemas de IA y obligaciones por nivel.
¿Necesitas priorizar acciones ya? Empieza un GAP Assessment AI Act.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…