Imagen generada por IAEl proveedor de IA que entra en una entidad financiera no llega solo. Trae consigo una cadena de subcontratistas, centros de datos, modelos fundacionales, APIs, registros de actividad, cambios de versión y una pregunta incómoda: ¿quién responde cuando el servicio falla o toma una decisión que nadie sabe explicar?
La respuesta comercial suele ser conocida: “la plataforma es segura”, “el modelo cumple”, “la disponibilidad está garantizada”. La respuesta regulatoria es bastante menos complaciente. Para una entidad sujeta a DORA, un servicio de IA utilizado para prestar servicios financieros puede formar parte del perímetro de terceros TIC aunque el contrato lo describa como software, analítica avanzada o “asistente inteligente”. El nombre del producto no cambia el riesgo operativo.
La dificultad aumenta porque tres normas miran el mismo proveedor desde ángulos distintos. DORA —Reglamento (UE) 2022/2554— exige controlar el riesgo de terceros TIC, mantener un registro de contratos y preservar la capacidad de supervisión, continuidad y salida. El Reglamento de IA —Reglamento (UE) 2024/1689— reparte obligaciones entre proveedor, fabricante, importador, distribuidor y responsable del despliegue según el tipo de sistema. NIS2 —Directiva (UE) 2022/2555— exige medidas de seguridad de la cadena de suministro y gestión del riesgo cibernético.
El resultado práctico es sencillo de formular y difícil de ejecutar: contratar un modelo no basta. Hay que poder demostrar qué servicio se consume, qué datos procesa, quién puede modificarlo, qué ocurre cuando subcontrata, cómo se prueba su funcionamiento y cómo se abandona sin dejar al negocio financiero atrapado en una API.
El error más caro aparece al clasificar la tecnología por su etiqueta. “IA generativa”, “machine learning” o “modelo fundacional” no son categorías suficientes para decidir el nivel de control. El análisis debe comenzar por la función que desempeña el servicio y por el daño que produciría su indisponibilidad, manipulación o error.
Un chatbot interno que resume políticas públicas no plantea el mismo riesgo que un sistema que puntúa solicitudes de crédito, detecta operaciones sospechosas, decide límites de negociación o prioriza reclamaciones de clientes. En el segundo grupo, el sistema puede entrar en las categorías de alto riesgo del artículo 6 y el anexo III del AI Act, dependiendo de su finalidad y del uso concreto. La clasificación no se obtiene leyendo la presentación del proveedor: se determina por el propósito previsto y por la arquitectura real del proceso.
También conviene separar tres capas que a menudo aparecen mezcladas en una sola factura:
La misma API puede ser un servicio auxiliar de bajo impacto para un equipo de marketing y un componente crítico para operaciones de pagos. DORA no protege contra la mala clasificación; obliga a gobernar la dependencia que realmente existe. El artículo 28 exige que las entidades financieras gestionen el riesgo de terceros TIC como parte de su marco de riesgo operativo. En la práctica, eso impide que compras o innovación aprueben el proveedor sin la participación del CISO, cumplimiento, protección de datos y el dueño del proceso.
DORA no exige únicamente evaluar la seguridad del proveedor antes de firmar. Exige gobernar todo el ciclo de vida de la relación. El artículo 28 establece principios generales para el riesgo de terceros TIC; el artículo 30 concreta el contenido de los acuerdos contractuales; y el artículo 28 exige mantener un registro de información sobre los acuerdos de servicios TIC. Ese registro no es una lista decorativa de proveedores. Debe permitir identificar qué entidad del grupo contrata, qué servicio recibe, dónde se presta, qué funciones soporta, qué subcontratación existe y qué nivel de criticidad tiene.
Para un servicio de IA, el registro debe ser suficientemente granular. “Proveedor cloud” puede ser demasiado genérico si la entidad usa, dentro de esa relación, una plataforma de modelos, un servicio de entrenamiento, una API de inferencia y un sistema de almacenamiento de prompts. Cada componente puede tener distinta localización, disponibilidad, subcontratación y posibilidad de sustitución.
El artículo 30 de DORA obliga a que el contrato cubra, entre otros elementos, una descripción clara de los servicios, las localizaciones donde se procesan los datos, requisitos de disponibilidad, integridad, seguridad y protección de datos, derechos de acceso y auditoría, asistencia durante incidentes, cooperación con autoridades y condiciones de terminación. En un contrato de IA, esas exigencias necesitan traducción técnica. “El proveedor mantendrá medidas de seguridad adecuadas” no responde a preguntas esenciales:
La due diligence debe distinguir entre el fallo del proveedor y el fallo del modelo. Un centro de datos puede estar disponible mientras el modelo devuelve respuestas degradadas, cambia su tasa de falsos positivos o pierde capacidad para procesar el idioma utilizado por los clientes. Desde la perspectiva de resiliencia, ambos escenarios pueden interrumpir el servicio financiero.
Las plataformas de IA evolucionan más rápido que los contratos empresariales. El proveedor puede sustituir el modelo, modificar los filtros de seguridad, alterar el límite de contexto, cambiar la política de retención o trasladar el procesamiento a otro proveedor de infraestructura. Si el contrato trata el servicio como una aplicación estática, la entidad pierde visibilidad sobre un componente que cambia sin pasar por su comité de cambios.
El contrato debe definir qué cambios requieren aprobación previa, cuáles solo exigen notificación y qué pruebas debe aportar el proveedor antes de una modificación material. También debe establecer un proceso de regresión: comparar precisión, tasas de error, latencia, comportamiento ante entradas adversarias y resultados en los idiomas y dominios utilizados por la entidad.
Para sistemas que intervienen en decisiones de alto impacto, una promesa de “mejora continua” puede ser un riesgo de control. La mejora del proveedor puede ser la degradación del control interno del cliente si rompe la trazabilidad de los resultados anteriores.
El AI Act distribuye obligaciones según el papel desempeñado en la cadena. El proveedor de un sistema de IA responde de unas obligaciones; la entidad que lo utiliza —el deployer o responsable del despliegue— responde de otras. Externalizar la tecnología no externaliza automáticamente la responsabilidad operativa.
Para sistemas de alto riesgo, el artículo 16 recoge obligaciones del proveedor, entre ellas establecer un sistema de gestión de riesgos, utilizar prácticas de gobernanza de datos, elaborar documentación técnica, conservar registros, facilitar instrucciones de uso, implantar un sistema de gestión de calidad y adoptar medidas de precisión, robustez y ciberseguridad. El artículo 26 impone obligaciones al responsable del despliegue, como utilizar el sistema conforme a las instrucciones, asignar supervisión humana competente, vigilar su funcionamiento y conservar los registros bajo su control cuando proceda.
El artículo 25 también importa en contratos de integración. Una entidad puede convertirse en proveedor a efectos del AI Act si comercializa el sistema bajo su propio nombre, modifica sustancialmente su finalidad o realiza una modificación sustancial de un sistema ya puesto en el mercado. Un banco que integra un modelo externo en una solución propia para evaluar solvencia no debería asumir que siempre será únicamente usuario. La frontera depende de lo que modifica, de la finalidad que fija y de cómo presenta el sistema.
La fecha de aplicación también condiciona la planificación. El Reglamento (UE) 2024/1689 entró en vigor el 1 de agosto de 2024; las prohibiciones del artículo 5 y las obligaciones de alfabetización en IA del artículo 4 empezaron a aplicarse el 2 de febrero de 2025; las obligaciones para proveedores de modelos de IA de propósito general se aplican desde el 2 de agosto de 2025; y varias obligaciones para sistemas de alto riesgo y transparencia tienen fechas de aplicación vinculadas al 2 de agosto de 2026, con matices según la categoría del sistema y las disposiciones transitorias. En 2026, esperar a que el proveedor “termine de adaptar su documentación” ya no es una estrategia de cumplimiento: es una dependencia sin resolver.
En los modelos de propósito general, el contrato debe pedir más que una ficha técnica comercial. Los artículos 51 a 56 del AI Act establecen el régimen aplicable a estos modelos y, para los que presentan riesgo sistémico, obligaciones adicionales. La entidad no necesita reproducir la evaluación regulatoria del proveedor, pero sí debe saber si consume un modelo de propósito general, qué documentación está disponible, qué limitaciones reconoce el proveedor y cómo se comunica una modificación relevante.
NIS2 obliga a las entidades esenciales e importantes incluidas en su ámbito a adoptar medidas de gestión del riesgo cibernético. El artículo 21.2.d menciona expresamente la seguridad de la cadena de suministro, incluidos los aspectos de seguridad relativos a las relaciones con proveedores directos y prestadores de servicios. El artículo 21.2.a exige políticas de análisis de riesgos y seguridad de los sistemas de información; el artículo 21.2.e cubre la gestión y divulgación de vulnerabilidades; y el artículo 23 establece obligaciones de notificación de incidentes significativos.
Aplicado a IA, el análisis de cadena de suministro debe alcanzar más allá de la marca que figura en el contrato. El proveedor de la API puede depender de un hyperscaler; el hyperscaler puede usar un servicio de almacenamiento distinto; la plataforma puede incorporar un modelo de un tercero; y el sistema de moderación puede procesar datos en otra región. No todos esos actores tendrán una relación contractual directa con la entidad, pero sus fallos pueden propagarse hasta el proceso financiero.
La pregunta útil no es “¿tiene el proveedor ISO 27001?”. Es “¿qué parte de la cadena cubre ese certificado, con qué alcance y qué componentes quedan fuera?”. Una certificación puede ser una evidencia inicial, no una sustitución del análisis de dependencia. El CISO debería solicitar el mapa de subcontratación relevante, la ubicación de los servicios, el proceso de incorporación de nuevos subencargados y el derecho de objeción o terminación cuando el cambio incremente materialmente el riesgo.
También hay que fijar el circuito de incidentes. Un proveedor que detecta una extracción de datos desde un entorno de inferencia debe informar con suficiente rapidez para que la entidad valore sus obligaciones bajo DORA, NIS2 y GDPR. El artículo 33 del GDPR exige notificar una violación de datos personales a la autoridad de control, cuando proceda, sin dilación indebida y, como regla general, dentro de las 72 horas desde que se tiene constancia. DORA contempla su propio régimen de notificación de incidentes graves relacionados con las TIC. El contrato no puede dejar estos relojes regulatorios a merced de una cláusula que prometa avisar “de forma razonable”.
La siguiente checklist está ordenada por prioridad de control, no por comodidad administrativa. La evidencia debe conservarse en el expediente del proveedor y vincularse al caso de uso concreto. Un dossier genérico del grupo del proveedor no demuestra que la configuración contratada tenga las mismas garantías.
La entidad debe documentar la finalidad, los usuarios, las decisiones afectadas, los datos tratados, la dependencia operativa y el resultado de la clasificación regulatoria. La ficha debe responder si el sistema solo asiste a una persona o si condiciona una decisión; si genera contenido o una puntuación; si interviene en una función crítica o importante; y si procesa datos personales, secretos bancarios o información de seguridad.
Evidencias: ficha de caso de uso, diagrama de flujo, evaluación de impacto de protección de datos cuando proceda, clasificación de criticidad DORA, análisis de alto riesgo conforme al artículo 6 y anexo III del AI Act, y aprobación del propietario del proceso.
El expediente debe identificar modelo, versión, endpoint, región de procesamiento, proveedor de infraestructura, dependencias y límites de servicio. La entidad debe conocer si la solución incluye entrenamiento, ajuste fino, recuperación aumentada, moderación, monitorización o almacenamiento de prompts.
Evidencias: arquitectura técnica, lista de componentes, ficha de producto fechada, inventario de subcontratistas, documentación de interfaces, regiones de datos y declaración sobre uso de entradas y salidas para entrenamiento.
La política de datos debe definir qué información puede enviarse al servicio y con qué transformación. La anonimización no puede utilizarse como palabra mágica: si la entidad puede reidentificar a una persona o el proveedor conserva identificadores indirectos, seguirá existiendo un riesgo de datos personales.
El contrato debe establecer propósito, retención, borrado, segregación entre clientes, cifrado en tránsito y reposo, gestión de claves, subencargados y localización. Para transferencias internacionales, el análisis debe coordinarse con el capítulo V del GDPR y con las garantías aplicables, no esconderse detrás de una certificación del proveedor.
Evidencias: matriz de datos, configuración de retención, registros de borrado, documentación de cifrado, evaluación de transferencias, acuerdo de tratamiento de datos del artículo 28 del GDPR y pruebas de segregación.
Un modelo puede estar protegido contra intrusión y seguir siendo vulnerable a manipulación de instrucciones, extracción de información, envenenamiento de datos, abuso de credenciales o recuperación de documentos no autorizados. La evaluación debe cubrir la plataforma y el comportamiento de la aplicación que la integra.
Solicita pruebas de penetración con alcance definido, gestión de vulnerabilidades, tiempos de corrección, control de secretos, autenticación multifactor para administradores, segregación de entornos, limitación de tasas, detección de abuso y mecanismos frente a prompt injection. Si el proveedor entrega una puntuación de seguridad sin metodología, no es una evidencia: es una cifra de marketing con traje.
Evidencias: resumen de pruebas independientes, política de vulnerabilidades, SLA de corrección por severidad, informes SOC 2 o equivalentes con alcance, arquitectura de identidad y registros de acceso.
La explicabilidad no significa que el proveedor tenga que revelar el código fuente o publicar los pesos del modelo. Significa que la entidad debe poder reconstruir qué versión, configuración, datos de entrada, instrucciones y controles produjeron una salida determinada.
Para un sistema que influye en crédito, fraude, contratación o atención al cliente, deben definirse métricas de rendimiento, umbrales de revisión humana, tratamiento de errores y procedimiento para impugnar una salida. El artículo 26 del AI Act exige al responsable del despliegue utilizar el sistema conforme a las instrucciones y garantizar supervisión humana adecuada en los sistemas de alto riesgo. Sin registros y sin capacidad de intervención, la “supervisión humana” se reduce a pulsar aceptar.
Evidencias: versionado de modelos y prompts, trazabilidad de entradas y salidas, métricas por población relevante, procedimiento de escalado, registro de intervenciones humanas y muestras de pruebas de regresión.
El proveedor debe notificar cambios materiales con antelación suficiente para que la entidad repita pruebas y evalúe impacto. El contrato debe definir qué se considera material: nueva familia de modelo, cambio de proveedor de infraestructura, modificación de filtros, cambio de región, variación sustancial de precisión o retirada de una versión.
La entidad debe mantener un entorno de prueba y criterios de aceptación. No basta con medir si el servicio responde; hay que comparar resultados con un conjunto de casos representativo y comprobar tasas de falsos positivos, falsos negativos, latencia, disponibilidad y comportamiento ante entradas maliciosas.
Evidencias: política de gestión de cambios, calendario de versiones, notificaciones recibidas, resultados de pruebas antes y después del cambio, aprobación del dueño del proceso y decisión documentada de continuar, limitar o retirar el servicio.
Los derechos de auditoría de DORA no se satisfacen con una cláusula que permita revisar documentos “durante horario laboral”. Deben cubrir acceso a información, entrevistas, pruebas, instalaciones cuando sea necesario, subcontratistas relevantes y asistencia de terceros independientes. También deben contemplar la cooperación con las autoridades competentes y las autoridades de resolución cuando el servicio afecte a funciones críticas o importantes.
Para proveedores de gran escala, una auditoría individual completa puede ser inviable. La alternativa razonable es combinar informes independientes, auditorías agrupadas, cuestionarios técnicos, pruebas específicas y derechos de escalado cuando aparezcan señales de riesgo. Lo que no sirve es aceptar una certificación cuyo alcance excluye precisamente la API que utiliza la entidad.
Evidencias: cláusulas de auditoría, plan anual de assurance, informes con periodo y alcance, hallazgos abiertos, planes de remediación, resultados de revisiones y registros de excepciones aprobadas.
La salida no consiste en cancelar la suscripción. La entidad debe saber cómo extraer datos, configuraciones, prompts, evaluaciones, listas de documentos, índices vectoriales, reglas de seguridad y artefactos de ajuste fino. Debe conocer el formato, el plazo, el coste y las dependencias necesarias para migrar a otro proveedor o volver a una operación manual.
El plan debe cubrir pérdida de disponibilidad, degradación de calidad, aumento de precio, retirada de modelo, sanción regulatoria, incidente de confidencialidad y fracaso del proveedor. Para una función crítica, hay que probar al menos el procedimiento técnico y la capacidad del proceso alternativo. Un plan de salida que nadie ha ejecutado es una hipótesis, no una capacidad.
Evidencias: plan de salida aprobado, inventario de activos exportables, pruebas de restauración, estimación de tiempo de migración, proveedor alternativo o procedimiento manual, criterios de activación y acta de una prueba.
Los grandes proveedores de modelos suelen ofrecer contratos estándar con poca capacidad de negociación. Eso no elimina el deber de gestión; obliga a decidir con precisión qué riesgo se acepta y qué caso de uso se limita.
La entidad puede aplicar controles compensatorios: no enviar datos personales, mantener una capa propia de anonimización, limitar el modelo a tareas no decisorias, exigir revisión humana, reducir permisos, aislar el servicio en una cuenta dedicada o utilizar un segundo proveedor. Pero un control compensatorio debe tener propietario, frecuencia y criterio de eficacia. “El equipo vigilará las respuestas” no es un control si no define qué revisa, con qué muestra, durante cuánto tiempo y qué hace cuando detecta una desviación.
Hay tres líneas que no deberían cruzarse sin una decisión formal del órgano competente: ausencia de derecho razonable de salida para una función crítica; imposibilidad de conocer dónde se procesan datos regulados; y falta de notificación de incidentes o cambios que impida cumplir los plazos de DORA, NIS2 o GDPR. El apetito de riesgo puede admitir una latencia peor. No debería admitir ceguera contractual.
El expediente del proveedor debe alimentar el registro de información exigido por DORA, no vivir separado en la herramienta de compras. El registro debe enlazar el contrato con el servicio TIC, el caso de uso de IA, la función soportada, la evaluación de criticidad, los subcontratistas y el plan de salida. Si el inventario de terceros y el inventario de sistemas de IA no pueden reconciliarse, la entidad no sabe realmente qué ha contratado.
La responsabilidad debe repartirse. Compras negocia precio y condiciones; el CISO evalúa controles técnicos; privacidad analiza datos y transferencias; cumplimiento clasifica obligaciones; el dueño del proceso acepta el riesgo operativo; y la dirección decide las excepciones relevantes. Ninguno sustituye a los demás.
El consejo de administración y la alta dirección tampoco pueden tratar la IA como una herramienta puramente tecnológica. DORA atribuye responsabilidad a los órganos de dirección sobre el marco de gestión del riesgo TIC. En una entidad financiera, aprobar una dependencia crítica de un proveedor de IA sin conocer su concentración, sustitución y salida no es una decisión de innovación: es una decisión de resiliencia.
La due diligence madura no intenta demostrar que un proveedor nunca fallará. Intenta demostrar que la entidad detectará el fallo, limitará su impacto, conservará la trazabilidad y seguirá prestando el servicio o saldrá de la relación.
Antes de firmar, el equipo debería ser capaz de contestar cinco preguntas sin llamar al proveedor: qué función financiera depende de la IA; qué datos entran y dónde terminan; qué cambia sin autorización; qué evidencia permite reconstruir una decisión; y cuánto tiempo tardaría la entidad en operar sin ese servicio.
Si alguna respuesta es “lo revisaremos cuando ocurra”, la relación todavía no está lista para una función crítica. DORA pide resiliencia, el AI Act reparte obligaciones a lo largo de la cadena y NIS2 exige controlar el riesgo de suministro. Ninguno de los tres reglamentos acepta como evidencia una presentación comercial de cuarenta diapositivas.
El objetivo no es convertir cada contrato de IA en una negociación interminable ni prohibir la externalización. Es contratar con los ojos abiertos: identificar el riesgo que realmente se compra, exigir pruebas proporcionales y conservar una salida practicable. Para un CISO, esa es la diferencia entre usar inteligencia artificial y depender de una caja negra con facturación mensual.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal y te avisamos de cada cambio en DORA: registro de proveedores ICT, resiliencia operativa y plazos clave.
¿Necesitas priorizar acciones ya? Empieza un GAP Assessment DORA.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…