Imagen generada por IALa pregunta decisiva no es si un sistema de inteligencia artificial parece sofisticado. Tampoco si el proveedor lo vende como una herramienta de productividad, automatización o apoyo a la decisión. La pregunta que activa el Reglamento europeo de IA es mucho más incómoda: ¿qué hace exactamente el sistema, sobre quién, en qué proceso y con qué consecuencias?
Ahí es donde muchas organizaciones se equivocan. Clasifican la herramienta por su tecnología, por el nombre comercial o por la respuesta del proveedor en un cuestionario. El AI Act, en cambio, clasifica determinados sistemas por su función y por el contexto de uso. Un mismo modelo puede ser de riesgo limitado en una aplicación interna y convertirse en un sistema de alto riesgo cuando se utiliza para filtrar candidatos, evaluar la solvencia de una persona o decidir quién accede a un servicio esencial.
El resultado práctico es considerable. La clasificación como sistema de alto riesgo dispara obligaciones sobre gestión de riesgos, datos, documentación técnica, registros de actividad, transparencia, supervisión humana, precisión, robustez y ciberseguridad. También puede exigir una evaluación de conformidad antes de la puesta en el mercado o de la puesta en servicio. Para un CISO, eso significa que el inventario de IA deja de ser una lista de herramientas y pasa a tener que describir decisiones, datos, interfaces, responsables y evidencias.
El artículo 6 del Reglamento (UE) 2024/1689 —el AI Act— contiene la puerta de entrada a esta categoría. Los anexos hacen el resto del trabajo. La dificultad no está en leerlos; está en traducir sus categorías jurídicas a procesos reales: recursos humanos, scoring, vigilancia, control de accesos, gestión de redes eléctricas, seguros, crédito, fronteras o justicia.
El artículo 6 establece dos vías principales para que un sistema de IA sea considerado de alto riesgo.
La primera afecta a los sistemas que son componentes de seguridad de un producto, o que son el propio producto, cuando ese producto está cubierto por la legislación armonizada enumerada en el anexo I del AI Act y debe someterse a una evaluación de conformidad por un tercero. La lista incluye, entre otros ámbitos, maquinaria, juguetes, equipos médicos, vehículos, ascensores y determinados equipos de protección individual.
La segunda vía es la más relevante para la mayoría de los departamentos de compliance: los sistemas enumerados en el anexo III. Ahí aparecen ocho grandes áreas de uso. No todas se refieren a decisiones totalmente automatizadas. La intervención humana no elimina por sí sola la clasificación. Si la salida del sistema influye materialmente en una decisión sobre una persona, el hecho de que un empleado pulse el botón final no convierte automáticamente la herramienta en software ordinario.
El anexo III cubre, entre otros, los siguientes casos:
Esta lista contiene una trampa habitual: no basta con preguntar si la empresa pertenece a uno de esos sectores. Una aseguradora no convierte toda su IA en alto riesgo por el mero hecho de ser aseguradora. La clasificación depende de si el sistema ejecuta una de las funciones descritas. Del mismo modo, una empresa tecnológica puede ofrecer un sistema de alto riesgo aunque no sea una entidad financiera, un hospital o una administración pública.
Una evaluación sólida empieza por el artículo 6, pero no termina ahí. El expediente debe conectar al menos cuatro piezas: el propósito previsto del sistema, el usuario previsto, el impacto sobre las personas y la categoría exacta del anexo I o del anexo III que se considera aplicable.
El AI Act define el propósito previsto atendiendo también a la información proporcionada por el proveedor en instrucciones de uso, comunicaciones comerciales y documentación técnica. Esto tiene una consecuencia que suele pasar desapercibida: el marketing puede convertirse en evidencia regulatoria. Si una página comercial promete “identificar a los mejores candidatos”, “detectar trabajadores de bajo rendimiento” o “predecir el riesgo de impago”, será difícil defender después que el sistema solo genera recomendaciones neutrales sin impacto en la decisión.
El expediente de clasificación debería describir, como mínimo:
La última cuestión es esencial. La clasificación no es necesariamente permanente. Cambiar el destino de un sistema, conectarlo a nuevas fuentes de datos o utilizarlo para una decisión más sensible puede convertir una herramienta de riesgo limitado en un sistema de alto riesgo. Un chatbot interno de recursos humanos que responde preguntas sobre vacaciones no plantea el mismo análisis que el mismo asistente cuando empieza a recomendar despidos o a puntuar candidaturas.
El artículo 6.3 permite que determinados sistemas incluidos en el anexo III no se consideren de alto riesgo cuando no presentan un riesgo significativo de daño para la salud, la seguridad o los derechos fundamentales, porque realizan una función estrecha o procedimental.
El Reglamento identifica varios ejemplos de funciones que pueden beneficiarse de esta exclusión: una tarea procedimental limitada, una mejora del resultado de una actividad humana previamente realizada, una tarea preparatoria para una evaluación relevante o la detección de patrones y desviaciones sin sustituir la evaluación humana previa.
Pero la exclusión tiene límites. No opera cuando el sistema realiza perfiles de personas. Tampoco es razonable invocarla si la herramienta puede influir materialmente en el resultado de una decisión y el empleado solo actúa como una firma decorativa. La supervisión humana debe ser efectiva, no un ritual diseñado para que el organigrama parezca humano.
Un ejemplo ayuda a separar los casos. Un sistema que ordena currículos por coincidencia con palabras clave puede ser una herramienta procedimental si no evalúa ni puntúa a candidatos y no determina quién avanza. Si, en cambio, calcula una probabilidad de éxito, descarta perfiles o recomienda una lista corta que el reclutador acepta sistemáticamente, la defensa de la excepción se debilita.
Otro caso: una herramienta bancaria que comprueba si una solicitud de crédito contiene todos los documentos exigidos puede desempeñar una función preparatoria y limitada. Un motor que asigna una puntuación de solvencia individual o recomienda aprobar o rechazar el crédito encaja mucho más claramente en la categoría del anexo III sobre acceso a servicios esenciales.
El artículo 6.4 exige que el proveedor documente la evaluación cuando concluye que un sistema del anexo III no es de alto riesgo. Para las organizaciones que desarrollan sus propios sistemas, esa documentación no debe reducirse a una frase en el registro de IA. Tiene que explicar por qué la función es estrecha, dónde permanece la decisión humana, por qué no hay perfilado y qué controles impedirían que el uso real se desvíase del propósito evaluado.
Una confusión frecuente consiste en tratar todas las obligaciones como si fueran del proveedor. No lo son. El AI Act reparte responsabilidades entre proveedores, responsables del despliegue, importadores, distribuidores, representantes autorizados y fabricantes de productos. Para el CISO y compliance, la distinción importa porque una entidad puede ser simplemente usuaria en un escenario y convertirse en proveedor en otro.
Es proveedor quien desarrolla un sistema de IA y lo pone en el mercado o lo pone en servicio bajo su propio nombre o marca. Una entidad también puede asumir esa posición si realiza modificaciones sustanciales en un sistema de alto riesgo o si convierte un sistema que no era de alto riesgo en uno de esa categoría. El artículo 25 contiene reglas relevantes sobre la cadena de valor y la modificación sustancial.
El responsable del despliegue, por su parte, utiliza el sistema bajo su autoridad, salvo cuando se emplea en una actividad personal no profesional. Sus obligaciones aparecen principalmente en el artículo 26. Incluyen utilizar el sistema conforme a las instrucciones de uso, asignar supervisión humana a personas competentes, controlar la calidad de los datos de entrada cuando estén bajo su control, conservar los registros generados automáticamente durante un periodo adecuado y suspender el uso si existen motivos para considerar que el sistema presenta un riesgo conforme al Reglamento.
El artículo 26 también exige informar a las personas empleadas que estarán sujetas al uso de un sistema de alto riesgo en el lugar de trabajo antes de utilizarlo. En determinados casos, entran además en juego las obligaciones de información del artículo 50 para sistemas sujetos a requisitos de transparencia y las normas laborales y de protección de datos aplicables.
Si la empresa desarrolla una herramienta para uso propio, no puede esconderse detrás de la etiqueta “proyecto interno”. El artículo 6 clasifica el sistema por su función y el artículo 16 impone obligaciones al proveedor, entre ellas garantizar la conformidad, preparar documentación técnica, establecer un sistema de gestión de calidad, conservar registros y aplicar medidas correctoras. Un banco que construye internamente un motor de scoring para sus clientes puede ser usuario del sistema, pero también proveedor si lo desarrolla y lo pone en servicio bajo su propia responsabilidad.
La clasificación es solo el diagnóstico. La carga operativa aparece en los artículos 8 a 15 y en las obligaciones específicas de los artículos 16 y siguientes.
El proveedor debe establecer, implantar, documentar y mantener un sistema de gestión de riesgos durante todo el ciclo de vida del sistema. No se trata de elaborar una evaluación única antes del lanzamiento. El proceso debe identificar y analizar riesgos conocidos y previsibles, estimar riesgos cuando el sistema se utiliza conforme a su propósito previsto y en condiciones razonablemente previsibles de uso indebido, y adoptar medidas para reducirlos.
Para un CISO, esto significa conectar el análisis de IA con los procesos existentes de gestión de riesgos tecnológicos, privacidad, seguridad de la información y continuidad. El riesgo de que un modelo discrimine, de que una entrada manipulada altere la clasificación o de que una interfaz exponga datos sensibles no debería vivir en cuatro registros separados que nadie cruza.
Cuando el sistema utiliza técnicas que implican entrenamiento con modelos, los conjuntos de datos deben estar sujetos a prácticas de gobernanza adecuadas. El artículo 10 se refiere a decisiones sobre diseño, recopilación, origen, preparación, anotación, limpieza, enriquecimiento y evaluación de datos. También exige examinar posibles sesgos, lagunas y errores relevantes para las personas o grupos afectados.
La obligación no equivale a prometer datos perfectos. Exige poder explicar qué se hizo con ellos y por qué el resultado es adecuado para el propósito previsto. En una herramienta de selección de personal, conservar solo el modelo final no demuestra conformidad. Harían falta, según el caso, la definición de la población, criterios de etiquetado, análisis de representatividad, pruebas de rendimiento por grupos y decisiones sobre variables excluidas o transformadas.
La documentación técnica debe demostrar cómo cumple el sistema los requisitos del AI Act. El anexo IV detalla información sobre el diseño, el desarrollo, la metodología, la arquitectura, los datos, las métricas, la validación, los controles y el sistema de gestión de riesgos.
Una presentación comercial o un informe de validación aislado no sustituye esta documentación. El expediente debe permitir que una autoridad competente, un organismo notificado o un auditor entienda qué hace el sistema, con qué límites y bajo qué condiciones puede fallar.
Los sistemas de alto riesgo deben permitir el registro automático de eventos durante su funcionamiento. El objetivo es facilitar la trazabilidad. En la práctica, hay que definir qué se registra, con qué granularidad, durante cuánto tiempo, quién puede acceder a los registros y cómo se protegen frente a alteraciones.
La trazabilidad debe permitir reconstruir una decisión sin convertir el sistema de logging en una nueva fuente de exposición de datos personales. Aquí se cruzan el artículo 12 del AI Act con el principio de minimización del artículo 5.1.c del RGPD, las obligaciones de seguridad del artículo 32 del RGPD y las políticas de retención. Guardarlo todo “por si acaso” no es una estrategia de compliance; es una deuda de privacidad con una factura futura.
El artículo 13 exige instrucciones de uso suficientemente claras para que los responsables del despliegue puedan interpretar la salida y utilizar el sistema correctamente. El artículo 14 exige diseñar medidas de supervisión humana adecuadas al riesgo, al nivel de autonomía y al contexto de uso. El artículo 15 cubre precisión, robustez y ciberseguridad.
La supervisión humana debe permitir detectar anomalías, interpretar resultados, decidir no utilizarlos, ignorarlos o revertirlos. Una política que ordena “revisar la recomendación” sin otorgar tiempo, autoridad, formación ni acceso a la información necesaria no cumple el objetivo operativo de la norma.
La ciberseguridad debe contemplar, entre otros escenarios, ataques de manipulación de datos de entrenamiento, evasión, envenenamiento, extracción de información, abuso de interfaces y alteración de registros. El artículo 15 no convierte al AI Act en una norma técnica detallada, pero sí obliga a que el sistema alcance un nivel adecuado de ciberseguridad frente a las circunstancias y riesgos previsibles.
Antes de poner en el mercado o en servicio un sistema de alto riesgo, el proveedor debe completar la evaluación de conformidad aplicable. El artículo 43 distingue entre sistemas que pueden evaluarse mediante controles internos y aquellos que requieren la intervención de un organismo notificado, especialmente cuando son componentes de seguridad de productos cubiertos por el anexo I.
Para muchos sistemas del anexo III, el proveedor puede apoyarse en un control interno de conformidad si cumple las condiciones previstas por el Reglamento. Eso no significa que el proceso sea informal. Debe existir un sistema de gestión de calidad conforme al artículo 17, documentación técnica, declaración UE de conformidad, marcado CE cuando proceda, registro en la base de datos de la UE y procedimientos de seguimiento posteriores a la comercialización.
El artículo 47 permite, en determinadas condiciones, que un proveedor utilice documentación y procedimientos simplificados cuando el sistema se basa en herramientas o componentes cubiertos por normas armonizadas o especificaciones comunes aplicables. La simplificación documental no elimina la obligación de demostrar conformidad.
La evaluación debe actualizarse cuando el sistema cambia de manera relevante. Un nuevo conjunto de datos, una modificación del modelo, una nueva integración con un sistema de decisión o un cambio en el público afectado pueden alterar los riesgos. El control de cambios debe estar conectado con la evaluación de impacto y con la gestión de versiones del software.
Un sistema de alto riesgo rara vez plantea un único problema regulatorio.
Si procesa datos personales, el RGPD exige una base jurídica, limitación de finalidad, minimización, exactitud, seguridad y transparencia. El artículo 22 del RGPD puede ser relevante cuando existe una decisión basada únicamente en tratamiento automatizado que produce efectos jurídicos o afecta significativamente a la persona. La intervención humana meramente formal no resuelve el análisis del artículo 22. El artículo 35 puede exigir una evaluación de impacto relativa a la protección de datos cuando el tratamiento entraña un alto riesgo, por ejemplo, por evaluación sistemática y exhaustiva de aspectos personales basada en tratamiento automatizado o por tratamiento a gran escala de categorías especiales de datos.
En entidades financieras, el AI Act se suma a DORA, aplicable desde el 17 de enero de 2025. DORA exige, entre otros elementos, un marco de gestión del riesgo TIC en el artículo 6, notificación de incidentes importantes relacionados con las TIC en los artículos 17 a 23, pruebas de resiliencia en los artículos 24 a 27 y gestión del riesgo de terceros TIC en los artículos 28 a 44. Un sistema de scoring o detección de fraude de alto riesgo no puede evaluarse al margen de los contratos con el proveedor, los niveles de servicio, la resiliencia, la gestión de incidentes y los planes de continuidad.
NIS2, mediante el artículo 21 de la Directiva (UE) 2022/2555, exige medidas de gestión de riesgos de ciberseguridad para entidades esenciales e importantes. Entre ellas figuran la gestión de incidentes, la continuidad, la seguridad de la cadena de suministro, la evaluación de la eficacia de las medidas y el uso de criptografía. Si una organización utiliza IA para operar una función crítica, el análisis de alto riesgo del AI Act debe conversar con la evaluación de riesgos de NIS2, no duplicarla con otro documento de nombre distinto.
La conclusión operativa es sencilla: el registro de sistemas de IA debería tener enlaces a los inventarios de tratamiento del RGPD, los activos y servicios críticos de DORA o NIS2, los contratos de terceros, los propietarios de procesos y los controles de seguridad. Un inventario aislado es fácil de presentar y difícil de utilizar.
Un proveedor que responde “nuestro producto no es de alto riesgo” no ha terminado la conversación. La entidad compradora debe pedir la lógica de esa conclusión.
El expediente de adquisición debería obtener, como mínimo, la descripción del propósito previsto, las categorías de usuarios, las limitaciones conocidas, la arquitectura del sistema, la naturaleza de los datos, los resultados de pruebas de precisión y robustez, la información sobre sesgos relevantes, los mecanismos de supervisión, los registros disponibles, el procedimiento de actualización y la asignación contractual de responsabilidades.
También conviene preguntar qué ocurre si la empresa configura el sistema para un nuevo uso. ¿El proveedor lo autoriza? ¿Se convierte la entidad en proveedor? ¿Quién realiza la evaluación de conformidad? ¿Qué información se conserva para demostrar que la configuración utilizada es la que se evaluó? ¿Se notifica cualquier cambio de modelo? ¿Puede el cliente impedir que sus datos se utilicen para reentrenamiento?
Las cláusulas contractuales deben cubrir al menos la cooperación en incidentes, el acceso a evidencias, los plazos de notificación, la conservación de registros, las pruebas de seguridad, la gestión de subcontratistas, la localización y transferencia de datos, la eliminación al finalizar el servicio y el derecho a suspender el sistema cuando el riesgo no sea aceptable.
En una entidad regulada, la salida de un proveedor no puede depender de una captura de pantalla del panel de administración. Si el sistema participa en una decisión de crédito, selección de personal, prestación sanitaria o gestión de una infraestructura crítica, el contrato debe permitir reconstruir qué versión generó qué resultado y bajo qué configuración.
La metodología más defendible no empieza preguntando al proveedor si el sistema es “high risk”. Empieza por el proceso de negocio.
El resultado debería ser una decisión reproducible. Dos revisores competentes, con la misma información, deberían poder entender por qué se clasificó el sistema de una determinada manera. Si la conclusión depende de la intuición del responsable del proyecto, todavía no hay control; hay una opinión con membrete.
El primer error es clasificar el producto y no el uso. Un motor de recomendación puede ser bajo riesgo en comercio electrónico y alto riesgo si prioriza solicitudes de acceso a vivienda o servicios esenciales.
El segundo es asumir que la revisión humana elimina la clasificación. El AI Act no exige que todas las decisiones sean automáticas para que un sistema entre en el anexo III. La cuestión es la influencia efectiva de la salida y el tipo de función que realiza.
El tercero es confundir el hecho de que un modelo sea general con la ausencia de obligaciones. Un modelo de propósito general está sujeto a su propio régimen, incluido el capítulo V del AI Act, mientras que una aplicación construida sobre ese modelo puede quedar además sujeta a las reglas de sistemas de alto riesgo si su función y contexto encajan en el artículo 6.
El cuarto es copiar la respuesta del proveedor sin comprobar la configuración propia. La responsabilidad del despliegue no desaparece porque el sistema se consuma como servicio. La empresa sigue teniendo que utilizarlo conforme a las instrucciones, asignar supervisión y controlar el uso real.
El quinto es conservar únicamente el resultado final. Sin versión del modelo, datos de entrada relevantes, parámetros, usuario, fecha, intervención humana y motivo de la decisión, la organización tendrá dificultades para investigar una reclamación o demostrar que el control funcionaba.
En 2026, la conversación sobre IA responsable ya no puede quedarse en principios generales. La clasificación de alto riesgo es una decisión de gobierno que conecta producto, tecnología, seguridad, privacidad, recursos humanos, compras y negocio.
La mejor defensa no consiste en declarar que ningún sistema es de alto riesgo. Consiste en demostrar que se revisaron los casos de uso, que se aplicó el artículo 6 con criterio, que las excepciones están documentadas y que los sistemas que sí entran en la categoría tienen controles y evidencias proporcionales.
Para el CISO, el punto de partida es el inventario técnico y la trazabilidad. Para compliance, es la interpretación del anexo III y la asignación de responsabilidades. Para el negocio, es entender que cambiar una recomendación por una decisión, o añadir una nueva población afectada, puede cambiar por completo el régimen regulatorio.
La pregunta final para cada organización es incómoda, pero concreta: si una autoridad pidiera hoy explicar por qué un sistema no es de alto riesgo, podríais demostrarlo con el caso de uso real, la configuración real y la evidencia real? Si la respuesta es no, la clasificación todavía no está hecha.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal y te avisamos de cada cambio en AI Act: clasificación de riesgo de tus sistemas de IA y obligaciones por nivel.
¿Necesitas priorizar acciones ya? Empieza un GAP Assessment AI Act.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…