Imagen generada por IALa pregunta no es si una herramienta utiliza inteligencia artificial. La pregunta que activa el AI Act es otra: qué hace exactamente el sistema, con qué consecuencias para una persona y bajo qué categoría legal encaja.
Una entidad puede llamar a su solución “asistente comercial”, “motor de priorización” o “analítica avanzada”. Si ese sistema evalúa la solvencia de personas físicas y contribuye a decidir si reciben financiación, el nombre comercial sirve de poco. El artículo 6 y el anexo III del Reglamento (UE) 2024/1689 miran la función y el uso previsto, no el folleto de ventas.
Esta distinción tiene consecuencias operativas. La clasificación como sistema de alto riesgo puede activar obligaciones sobre gestión de riesgos, calidad de datos, documentación técnica, supervisión humana, precisión, ciberseguridad, evaluación de conformidad, registro europeo y vigilancia poscomercialización. Para el proveedor, cambia el expediente técnico y la ruta de comercialización. Para la entidad que lo despliega, cambia la gobernanza de decisiones, la evaluación de impacto sobre derechos fundamentales y la forma de demostrar que un humano sigue teniendo capacidad real de intervención.
Lo que sigue es un caso ficticio, diseñado para una entidad financiera mediana europea. No pretende sustituir el análisis jurídico del producto concreto, pero sí mostrar dónde suelen equivocarse los equipos de cumplimiento: empiezan por la tecnología y terminan ignorando el caso de uso.
FinanRed es una entidad de crédito ficticia con operaciones en varios Estados miembros. Tiene 650 empleados, concede préstamos personales y ofrece financiación a pequeñas empresas. En 2026 quiere implantar un sistema de IA adquirido a un proveedor europeo.
El sistema recibe datos de la solicitud, historial de pagos, ingresos declarados, información de cuentas bancarias autorizadas por el cliente y variables derivadas del comportamiento financiero. Genera tres resultados:
El comité de producto sostiene que el modelo “solo recomienda” y que la decisión final corresponde a un empleado. El CISO observa que el proveedor entrena versiones nuevas del modelo con datos agregados de clientes. El equipo jurídico añade una duda más incómoda: el sistema también se utilizará para detectar solicitudes fraudulentas y para ordenar expedientes según su urgencia.
Son tres funciones dentro de una misma plataforma. No tienen necesariamente la misma clasificación jurídica. Ese es el primer punto que debe quedar grabado en el inventario de IA: la clasificación se hace por sistema y por finalidad prevista, pero una solución modular puede contener funciones con perfiles regulatorios distintos.
El artículo 6 del AI Act establece dos grandes vías para que un sistema sea de alto riesgo.
La primera, prevista en el artículo 6.1, afecta a los sistemas de IA que sean un componente de seguridad de un producto, o que sean ellos mismos un producto, cuando el producto esté cubierto por la legislación de armonización de la Unión enumerada en el anexo I y deba someterse a una evaluación de conformidad por terceros. Es una ruta vinculada al producto regulado.
La segunda, prevista en el artículo 6.2, cubre los sistemas incluidos en los casos de uso del anexo III. Ahí aparece el caso de FinanRed: el anexo III, punto 5(b), incluye los sistemas destinados a evaluar la solvencia de personas físicas o a establecer su puntuación crediticia, salvo la excepción aplicable a determinados sistemas utilizados por microempresas para uso propio.
FinanRed no es una microempresa y el sistema se utiliza para decisiones de financiación de consumidores. La conclusión preliminar es clara: la función de evaluación crediticia entra en el perímetro de alto riesgo por el artículo 6.2 y el anexo III. No hace falta demostrar que el modelo sea generativo, autónomo o especialmente sofisticado. Tampoco importa que el algoritmo tenga un índice de precisión elevado. La puerta de entrada es el uso.
El equipo de negocio intenta acogerse a un argumento habitual: la herramienta no decide, solo ayuda. Ese razonamiento confunde la responsabilidad humana con la clasificación del sistema.
El artículo 6.3 permite que determinados sistemas incluidos en el anexo III no se consideren de alto riesgo cuando el proveedor documenta, antes de su puesta en servicio o comercialización, que el sistema no plantea un riesgo significativo de daño para la salud, la seguridad o los derechos fundamentales. La excepción puede operar, entre otros supuestos, cuando el sistema realiza una tarea procesal limitada, mejora el resultado de una actividad humana previamente completada, detecta patrones sin sustituir una evaluación humana previa o realiza una tarea preparatoria.
Pero la excepción no es una declaración comercial. Requiere una evaluación documentada y no puede utilizarse para vaciar de contenido la categoría. Además, el artículo 6.4 establece que un sistema siempre se considera de alto riesgo cuando realiza perfiles de personas físicas.
En el caso de FinanRed, el modelo produce una puntuación individual a partir de datos personales y esa puntuación influye en el acceso al crédito. Aunque un empleado pulse el botón final, el sistema no está simplemente ordenando documentos ni corrigiendo una decisión ya adoptada. Está generando el elemento central sobre el que se construye la decisión. Pretender que es una herramienta administrativa porque existe una firma humana al final sería convertir la supervisión en un sello de goma.
La excepción del artículo 6.3 puede ser defendible para una función muy acotada de clasificación documental o para una comprobación preparatoria que no determine el resultado. Es mucho más difícil sostenerla cuando el output del sistema es la puntuación que separa la aprobación del rechazo.
FinanRed debe dividir el análisis en tres módulos, aunque el proveedor los entregue bajo una única licencia.
Es el núcleo de alto riesgo. La finalidad coincide directamente con el anexo III, punto 5(b). El sistema evalúa a personas físicas y establece un indicador que influye en la concesión del crédito. La entidad necesitará tratarlo como sistema de alto riesgo y exigir al proveedor las garantías correspondientes.
La detección de fraude financiero no debe mezclarse automáticamente con la evaluación de solvencia. El AI Act no convierte toda herramienta utilizada por un banco en un sistema de alto riesgo. La función concreta, el sujeto afectado y la consecuencia importan.
Un modelo que identifica patrones anómalos para enviar una operación a revisión puede tener un perfil diferente del modelo que calcula la capacidad de pago. Eso no significa que quede fuera de toda obligación: pueden resultar aplicables las obligaciones de transparencia del artículo 50, el GDPR, DORA y los controles internos de seguridad. También habrá que analizar si el sistema encaja en otro supuesto del anexo III, especialmente si se utiliza para evaluar riesgos de fraude respecto de personas físicas con efectos materiales.
La conclusión prudente no es etiquetarlo como “bajo riesgo” por defecto. Es documentar la finalidad exacta, el tipo de output, quién lo utiliza y qué decisión puede producir. Un detector que solo genera una alerta no es lo mismo que uno que bloquea automáticamente una cuenta o rechaza una solicitud.
Ordenar solicitudes por urgencia puede ser una función administrativa de menor riesgo, siempre que no introduzca variables que perjudiquen sistemáticamente a determinados grupos ni modifique de facto el acceso al crédito. Si los expedientes marcados como “baja prioridad” sufren retrasos incompatibles con los plazos comerciales o regulatorios, la función deja de ser neutral en la práctica.
El inventario debe registrar estas funciones por separado. También debe registrar las dependencias: qué datos comparten, si utilizan el mismo modelo, si el módulo de fraude alimenta la puntuación crediticia y si una alerta puede provocar un rechazo automático. La clasificación jurídica no se resuelve mirando el diagrama de arquitectura sin mirar el flujo de decisión.
Para evitar una clasificación abstracta, el equipo de cumplimiento de FinanRed reconstruye una solicitud ficticia.
Una clienta pide un préstamo de 12.000 euros. El sistema consulta los datos autorizados, calcula una probabilidad de impago del 8,4%, asigna una categoría de riesgo y recomienda aprobación condicionada. La empleada del centro de crédito puede aceptar la recomendación, modificarla o pedir documentación adicional. El modelo registra su decisión final y el proveedor utiliza parte de esos datos para recalibrar el sistema.
El recorrido revela cinco hechos relevantes:
Los cinco hechos apuntan a una clasificación de alto riesgo y a una gobernanza más amplia que la simple validación del modelo. La entidad debe poder explicar no solo cómo se calculó el resultado, sino también qué controles impidieron que una recomendación defectuosa se convirtiera automáticamente en una denegación.
La clasificación como alto riesgo activa el capítulo III, sección 2, del AI Act. No se trata de un único formulario de cumplimiento. Es un conjunto de controles que deben encajar en el ciclo de vida del sistema.
El artículo 9 exige un sistema de gestión de riesgos continuo y documentado. Debe identificar y analizar riesgos conocidos y previsibles, estimar los que pueden surgir durante el uso previsto y razonablemente previsible, y adoptar medidas para reducirlos. En FinanRed, eso incluye errores de clasificación, datos desactualizados, cambios en el perfil económico de los clientes, ataques de manipulación de entradas y degradación del rendimiento entre grupos.
El artículo 10 exige prácticas de gobernanza y gestión de datos. Los conjuntos de entrenamiento, validación y prueba deben ser pertinentes, suficientemente representativos y, en la medida aplicable, libres de errores y completos. Para una entidad financiera, la pregunta difícil no es si el proveedor declara que sus datos son “de calidad”. Es si puede demostrar qué variables se utilizaron, cómo se trataron los valores ausentes, qué controles existen sobre datos históricos y cómo se detectan sesgos o proxies de características protegidas.
Una variable aparentemente neutra puede funcionar como sustituto de otra sensible. El código postal, la estabilidad laboral o la antigüedad de una cuenta pueden correlacionarse con origen, edad, situación familiar o discapacidad. No basta con eliminar una columna y declarar victoria.
El artículo 11 exige documentación técnica antes de poner el sistema en el mercado o servicio. El artículo 12 obliga a diseñar capacidades de registro automático durante la vida del sistema. El artículo 13 reclama transparencia y provisión de información suficiente para que los usuarios interpreten los resultados y utilicen el sistema correctamente.
El contrato de FinanRed debe traducir esas obligaciones en entregables concretos. Como mínimo, el proveedor debería aportar:
Un informe de validación fechado hace dos años no cubre una actualización que cambia el modelo, los datos o el umbral de decisión. La evidencia debe seguir a la versión desplegada.
El artículo 14 exige medidas de supervisión humana adecuadas. La persona asignada debe comprender las capacidades y limitaciones del sistema, interpretar correctamente el resultado, decidir cuándo no utilizarlo y poder anularlo o detenerlo. Para FinanRed, eso exige algo más que un botón de “override”. Hay que definir quién puede apartarse de la recomendación, con qué justificación, en qué plazo y cómo se revisan los patrones de anulaciones.
El artículo 15 exige niveles adecuados de precisión, solidez y ciberseguridad. En un sistema de crédito, las métricas deben analizarse en condiciones normales y adversas. El CISO debería probar, entre otros escenarios, manipulación de datos de entrada, abuso de APIs, extracción de información del modelo, ataques de envenenamiento de datos y cambios bruscos en la distribución de solicitudes.
DORA añade una capa operativa relevante para las entidades financieras. Si el proveedor de IA es un tercero de servicios TIC, el contrato y la supervisión deberán integrarse en el marco de gestión del riesgo TIC de DORA, incluido su artículo 28 sobre gestión del riesgo de terceros TIC. El AI Act no sustituye DORA: uno regula el sistema de IA y el otro la resiliencia operativa y la relación tecnológica. El mismo proveedor puede tener que responder a ambos expedientes de control.
El artículo 43 regula la evaluación de conformidad. La ruta depende de la base jurídica que haga aplicable la clasificación y de si el sistema está integrado en un producto cubierto por la legislación del anexo I. En los sistemas de alto riesgo del anexo III, el proveedor debe seguir el procedimiento previsto por el Reglamento y preparar la declaración UE de conformidad conforme al artículo 47 antes de ponerlo en el mercado o servicio.
La entidad compradora no puede limitarse a pedir un certificado en formato PDF. Debe comprobar:
El proveedor también debe disponer de un sistema de gestión de la calidad conforme al artículo 17 y cumplir las obligaciones de registro europeo del artículo 49 cuando resulten aplicables. El artículo 18 exige conservar la documentación y los registros durante el periodo establecido por el Reglamento. Para el comprador, esa documentación es una condición de continuidad del servicio, no una cortesía del vendedor.
La contratación debe incluir derechos de auditoría, notificación previa de cambios materiales, acceso a información sobre incidentes, cooperación en investigaciones y asistencia para responder a solicitudes de supervisores. Una cláusula genérica que permita al proveedor “actualizar el servicio en cualquier momento” es incompatible con una gobernanza seria de un modelo que participa en decisiones crediticias.
El artículo 26 impone obligaciones a los deployers de sistemas de alto riesgo. FinanRed debe utilizar el sistema conforme a las instrucciones de uso, asignar supervisión humana competente, vigilar su funcionamiento y conservar los registros bajo su control durante al menos seis meses, salvo que la legislación aplicable disponga otra cosa.
También debe informar al proveedor si identifica riesgos o incidentes, suspender el uso cuando existan motivos razonables para considerar que el sistema presenta un riesgo y conservar la documentación necesaria para demostrar el cumplimiento. El responsable no puede desaparecer detrás del proveedor: quien utiliza el sistema para decidir sobre sus clientes debe controlar cómo se utiliza en su organización.
El artículo 27 obliga a determinados deployers a realizar una evaluación de impacto sobre derechos fundamentales antes de utilizar un sistema de alto riesgo. Entre ellos figuran los operadores privados que proporcionan servicios públicos y los deployers de sistemas del anexo III, punto 5(b), para evaluar la solvencia de personas físicas o establecer su puntuación crediticia.
FinanRed debe analizar, como mínimo:
Esta evaluación no es la misma que una evaluación de impacto relativa a la protección de datos del artículo 35 del GDPR. Pueden compartir evidencias, pero responden a preguntas distintas. La DPIA examina los riesgos del tratamiento para los derechos y libertades de las personas; el artículo 27 del AI Act exige una mirada más amplia sobre el impacto del sistema de IA en derechos fundamentales. Hacer una sola plantilla con dos logotipos no resuelve la diferencia.
Un sistema de puntuación crediticia procesa datos personales y puede producir efectos jurídicos o igualmente significativos. Por eso FinanRed debe analizar el artículo 22 del GDPR, que limita las decisiones basadas únicamente en tratamiento automatizado, incluida la elaboración de perfiles, cuando produzcan efectos jurídicos o afecten significativamente a la persona.
La existencia de intervención humana solo cuenta si es real, competente y capaz de cambiar el resultado. Un empleado que revisa cientos de expedientes por hora y confirma automáticamente el 99% de las recomendaciones no ofrece necesariamente una intervención significativa. La entidad debe definir umbrales de revisión, casos de escalado, formación y controles sobre la calidad de las anulaciones.
El artículo 22.3 del GDPR exige salvaguardas cuando la decisión automatizada se basa en determinadas excepciones, entre ellas la intervención humana y la posibilidad de impugnar la decisión. El interesado debe poder obtener intervención humana, expresar su punto de vista y contestar la decisión. El artículo 13 del AI Act, por su parte, obliga a proporcionar información a los usuarios del sistema para que interpreten y utilicen correctamente sus resultados. Son obligaciones relacionadas, no intercambiables.
También habrá que revisar la base jurídica, la minimización de datos, los plazos de conservación y la información entregada al solicitante. Una explicación del tipo “su puntuación no supera el umbral interno” puede ser insuficiente para ejercer derechos, aunque revele más que la antigua caja negra.
El Reglamento (UE) 2024/1689 entró en vigor el 1 de agosto de 2024. Las prohibiciones del artículo 5 y la obligación de alfabetización en materia de IA del artículo 4 son aplicables desde el 2 de febrero de 2025. Las obligaciones para los proveedores de modelos de IA de uso general empezaron a aplicarse el 2 de agosto de 2025.
Para los sistemas de alto riesgo regulados por el artículo 6.2, el calendario general fija el 2 de agosto de 2026 como fecha de aplicación de las obligaciones principales del Reglamento. Los sistemas de alto riesgo integrados en productos sujetos a la legislación del anexo I cuentan con el plazo específico del 2 de agosto de 2027. En 2026, una entidad que todavía esté “identificando casos de uso” no está ante un proyecto preliminar: está trabajando contra una fecha de aplicación ya llegada para buena parte de sus sistemas.
La obligación de alfabetización del artículo 4 merece una mención aparte. Formar al equipo no significa impartir un curso genérico de dos horas sobre qué es la IA. El personal que revisa recomendaciones crediticias necesita entender falsos positivos, límites del modelo, señales de deriva, instrucciones de escalado y prohibiciones de uso. La formación del comité de riesgos debe ser distinta de la del operador de primera línea.
Una clasificación sólida debe poder reconstruirse seis meses después, cuando el equipo original haya cambiado y el proveedor responda con una actualización de producto. FinanRed debería conservar un expediente por sistema que contenga al menos:
El expediente no debe limitarse a demostrar que el sistema fue aprobado. También debe mostrar cuándo se rechazó una versión, qué riesgo se aceptó y qué condición obliga a reevaluar la clasificación. Un cambio de finalidad, población, datos de entrada o autonomía puede convertir una evaluación razonable en una evaluación obsoleta.
El primero es clasificar por proveedor. Que una empresa tecnológica describa su producto como “low risk” no resuelve el análisis del deployer. La misma herramienta puede servir para resumir reclamaciones en un caso y para decidir el acceso al crédito en otro.
El segundo es clasificar por modelo. Un modelo de lenguaje, un modelo estadístico y un sistema basado en reglas pueden activar obligaciones diferentes según su uso. La sofisticación técnica no determina por sí sola el alto riesgo.
El tercero es contar la intervención humana como exención automática. El artículo 6.3 no es una licencia para colocar una firma humana al final de un proceso automatizado. Hay que demostrar qué tarea realiza el humano y qué capacidad efectiva conserva.
El cuarto es separar cumplimiento y seguridad. Si el proveedor puede modificar el modelo sin aviso, si las APIs carecen de controles, si los registros no son íntegros o si los datos de entrenamiento pueden ser manipulados, el problema es simultáneamente de AI Act, DORA, GDPR y gestión de riesgo TIC. Las fronteras organizativas no reducen el riesgo técnico.
El quinto es olvidar las funciones secundarias. Un modelo creado para crédito puede terminar clasificando clientes para fraude, marketing, recuperaciones o límites de exposición. Cada reutilización exige comprobar si cambia la finalidad, la base jurídica, la evaluación de impacto o la clasificación.
Para FinanRed, el resultado no es “prohibir la IA” ni aprobarla con una declaración de intenciones. Es aceptar que la puntuación de solvencia es un sistema de alto riesgo y gobernarlo como tal. La entidad debe congelar cualquier despliegue productivo que no tenga clasificación documentada, responsable designado, evidencia de conformidad, controles de supervisión y un mecanismo de revisión de decisiones.
El sistema de detección de fraude puede seguir una ruta distinta, pero necesita su propia ficha de finalidad, datos, riesgos y controles. La herramienta de priorización puede tener menor carga regulatoria, siempre que la práctica demuestre que no decide indirectamente quién recibe el servicio y cuándo.
Aquí está el criterio útil para cualquier CISO o responsable de cumplimiento: si el output del sistema puede cambiar de forma material el acceso de una persona a crédito, empleo, educación, vivienda o un servicio esencial, la clasificación debe empezar por el impacto de la decisión y solo después entrar en la arquitectura del modelo.
El AI Act no exige que una entidad adivine el futuro del algoritmo. Exige que sepa qué ha puesto en funcionamiento, para qué sirve, qué puede salir mal y quién puede detenerlo. En 2026, esa trazabilidad no es una ventaja competitiva. Es el precio de entrada.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal y te avisamos de cada cambio en AI Act: clasificación de riesgo de tus sistemas de IA y obligaciones por nivel.
¿Necesitas priorizar acciones ya? Empieza un GAP Assessment AI Act.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…