Imagen generada por IAUna empresa puede tener una política de uso responsable de la inteligencia artificial, un comité de ética y hasta una suscripción a una plataforma de cursos. Y, aun así, incumplir el artículo 4 del Reglamento de Inteligencia Artificial.
La razón es incómodamente sencilla: la alfabetización en IA no consiste en que los empleados sepan escribir mejores instrucciones para un chatbot. El Reglamento (UE) 2024/1689 exige que proveedores y responsables del despliegue adopten medidas para garantizar un nivel suficiente de competencia, conocimiento y comprensión de la inteligencia artificial entre las personas que operan con estos sistemas. La obligación se aplica desde el 2 de febrero de 2025. En noviembre de 2026 ya no es una tarea pendiente ni una recomendación de buenas prácticas: forma parte del perímetro de cumplimiento.
El artículo 4 es deliberadamente flexible. No fija un número de horas, no prescribe una certificación y no convierte a cada usuario en ingeniero de aprendizaje automático. Esa flexibilidad permite adaptar la formación al riesgo, pero también elimina la excusa favorita de las organizaciones: haber comprado un curso genérico y confundirlo con un control.
Este análisis utiliza una entidad financiera mediana ficticia —Iberia Crédito Digital— para mostrar qué decisiones debe tomar un CISO o un responsable de cumplimiento, qué evidencias debería conservar y dónde aparecen las fricciones con GDPR, DORA y las obligaciones específicas del AI Act. El caso es ilustrativo; no describe a una compañía real.
El artículo 4 del AI Act obliga a proveedores y responsables del despliegue de sistemas de IA a adoptar medidas para garantizar, en la medida de lo posible, un nivel suficiente de alfabetización en IA de su personal y de otras personas que utilicen u operen los sistemas en su nombre. La referencia incluye conocimientos, habilidades y comprensión técnica, experiencia, educación y formación, y debe tener en cuenta el contexto de uso y a las personas o grupos afectados.
Hay tres consecuencias prácticas en esa redacción.
La primera es que el destinatario no es solo el departamento tecnológico. Un analista de riesgos que interpreta una recomendación generada por un modelo, un empleado de atención al cliente que utiliza una herramienta generativa para responder a reclamaciones y un responsable de compras que evalúa un proveedor de IA pueden necesitar competencias distintas. Todos pueden influir en el resultado del sistema, aunque ninguno haya escrito una línea de código.
La segunda es que la formación debe ser proporcional al papel desempeñado. El conocimiento necesario para utilizar un asistente de redacción no es el mismo que el requerido para supervisar un modelo que puntúa solicitudes de crédito. Aplicar el mismo módulo a ambos perfiles es cómodo, barato y regulatoriamente difícil de defender.
La tercera es que el artículo 4 no se limita a los sistemas clasificados como de alto riesgo. La obligación de alfabetización es transversal. Un modelo de propósito general integrado en una herramienta interna, un sistema de recomendación comercial o un asistente que resume documentos pueden activar obligaciones de gobernanza aunque no entren en la categoría de alto riesgo del artículo 6.
La Comisión Europea ha presentado el AI Act como un marco basado en niveles de riesgo, pero el artículo 4 funciona como una capa horizontal. La organización no puede esperar a terminar la clasificación de todos sus casos de uso para empezar a formar. Si lo hace, estará tratando una obligación ya aplicable como si fuera un proyecto futuro.
El Reglamento 2024/1689 entró en vigor el 1 de agosto de 2024, pero sus obligaciones tienen un calendario escalonado. El artículo 4 es aplicable desde el 2 de febrero de 2025, junto con las prohibiciones del artículo 5 y determinadas reglas institucionales. Otras obligaciones llegaron después o tienen fechas propias: las relativas a los modelos de propósito general se aplicaron desde el 2 de agosto de 2025, mientras que buena parte de las reglas para sistemas de alto riesgo y transparencia se despliega conforme al calendario del artículo 113 y sus disposiciones transitorias.
La distinción importa porque todavía se escucha una versión desfasada del argumento: la organización está esperando a que se aplique el resto del Reglamento para diseñar su programa de alfabetización. No hay base para esa espera. El deber formativo ya está operativo.
También conviene separar aplicación jurídica de capacidad inspectora. Que una autoridad nacional todavía no haya publicado una guía exhaustiva o no haya iniciado una campaña visible de supervisión no convierte el artículo 4 en una obligación voluntaria. En una investigación sobre un sistema de alto riesgo, un incidente de privacidad o una reclamación laboral, la ausencia de formación puede aparecer como una debilidad de gobernanza aunque la visita no se anuncie como una inspección de alfabetización.
El régimen sancionador del artículo 99 prevé multas administrativas para distintos incumplimientos, con umbrales que dependen de la naturaleza de la infracción. Para las empresas, el Reglamento contempla, entre otros límites, hasta 15 millones de euros o el 3 % del volumen de negocios mundial total del ejercicio anterior, aplicándose el importe más elevado en los supuestos correspondientes. La calificación concreta de una infracción del artículo 4, la autoridad competente y el cálculo final dependerán de la aplicación nacional y de las circunstancias del caso. La conclusión prudente es suficiente: no conviene presupuestar la alfabetización como una partida de recursos humanos sin conexión con el sistema de control interno.
Iberia Crédito Digital tiene 640 empleados, opera en España y Portugal y ofrece préstamos al consumo y servicios de pago. No desarrolla modelos fundacionales. Compra servicios cloud, utiliza una solución de detección de fraude de un proveedor externo y ha desplegado un asistente generativo para resumir expedientes y preparar borradores de comunicaciones.
La dirección cree que el alcance de la obligación es limitado porque la empresa no fabrica IA. Es el primer error. Como responsable del despliegue de sistemas de IA, la entidad debe analizar cómo utiliza esos sistemas, quién los supervisa y qué decisiones pueden verse afectadas. Además, si configura, modifica o integra determinados sistemas, su papel puede aproximarse al de proveedor en el sentido del artículo 3 y de las reglas aplicables a la cadena de valor. La etiqueta comercial del contrato no resuelve la calificación jurídica.
El CISO pide al departamento de compras el inventario de herramientas. Recibe una hoja con 17 aplicaciones. El registro de activos tecnológicos contiene 42 servicios SaaS. El equipo de privacidad mantiene otro inventario, con 11 tratamientos que incluyen algún componente automatizado. Ninguno coincide.
La discrepancia no es un detalle administrativo. Un sistema puede estar registrado como software de prevención del fraude sin que nadie haya documentado que genera una puntuación que influye en la revisión manual. Un chatbot puede estar catalogado como herramienta de productividad aunque los empleados introduzcan nombres, ingresos y detalles de reclamaciones. Y un proveedor puede haber incorporado una función generativa en una actualización sin que el cliente la haya aprobado expresamente.
Iberia Crédito Digital adopta una definición operativa: se incluirá en el inventario cualquier aplicación que genere predicciones, contenidos, recomendaciones o decisiones mediante técnicas de IA; cualquier herramienta que procese entradas para producir resultados que afecten a personas; y cualquier servicio externo cuya documentación comercial utilice expresamente términos como modelo, machine learning, generative AI o automated decisioning.
No es una definición legal universal y la entidad no la presenta como tal. Es un filtro de control para evitar que el inventario dependa de cómo el proveedor redacta su folleto de ventas.
El registro añade, como mínimo, el propietario de negocio, el proveedor, la finalidad, las categorías de datos, la población afectada, el nivel de autonomía, la posibilidad de revisión humana, el impacto potencial y la clasificación preliminar bajo el AI Act. El registro también captura si el sistema es propio, adquirido, configurado o integrado.
Este punto conecta directamente con DORA. El artículo 6 del Reglamento (UE) 2022/2554 exige un marco de gestión del riesgo relacionado con las TIC, y el artículo 28 establece requisitos para la gestión del riesgo de terceros proveedores de servicios TIC. Una herramienta de IA no queda fuera del control de terceros porque el contrato la describa como una plataforma de productividad. Si soporta una función crítica o importante, la evaluación debe hablar de disponibilidad, integridad, confidencialidad, dependencia, subcontratación y salida; no solo de si el proveedor ofrece un curso de prompting.
La entidad identifica cinco grupos:
La segmentación revela una debilidad habitual: la empresa había dado formación a quienes utilizan la herramienta, pero no a quienes revisan los resultados ni a quienes compran la siguiente. El artículo 4 habla de las personas que utilizan u operan los sistemas en nombre de la organización. No es razonable interpretar esa expresión como una licencia para dejar fuera a los supervisores.
El asistente generativo para resumir documentos se analiza frente a los artículos 5, 6 y 50. No parece, por su finalidad actual, un sistema de alto riesgo del artículo 6, pero puede crear riesgos de confidencialidad, errores factuales y comunicaciones engañosas. Si genera o manipula contenido destinado a interactuar directamente con personas, la entidad debe examinar las obligaciones de transparencia del artículo 50, cuyo calendario de aplicación sitúa las reglas relevantes en 2026.
El motor de detección de fraude se revisa con más cautela. Si solo prioriza transacciones para una comprobación posterior, su riesgo y su papel pueden diferir de los de un sistema que bloquea automáticamente una operación o determina el acceso a un servicio esencial. Si interviene en la evaluación de solvencia o en la concesión de crédito a personas físicas, el análisis debe considerar la categoría de alto riesgo del artículo 6 y el anexo III, además de las obligaciones específicas para responsables del despliegue del artículo 26.
La entidad documenta la clasificación como una decisión revisable, no como una casilla permanente. Cambiar la finalidad, conectar una nueva fuente de datos o activar una función de decisión automática puede alterar el análisis. El curso de formación incluye precisamente este punto: un sistema no se vuelve seguro porque el proveedor lo haya descrito como asistente, ni se vuelve de bajo riesgo porque un humano pulse el botón final.
La formación de Iberia Crédito Digital se construye alrededor de decisiones que los empleados deben saber tomar. No empieza con una definición académica de redes neuronales, aunque ofrece el nivel técnico necesario para cada función. Empieza con preguntas operativas.
¿Puedo introducir este dato en la herramienta? ¿Qué hago si el resultado contradice el expediente? ¿Cuándo debo informar de un error? ¿Qué significa realmente que haya revisión humana? ¿Quién puede aprobar un cambio de modelo? ¿Puedo copiar una respuesta generada por IA en una comunicación al cliente? ¿Cómo documento que no me limité a aceptar la recomendación?
Para los usuarios generales, la entidad fija reglas de uso concretas: no introducir categorías especiales de datos ni información de clientes en herramientas públicas no aprobadas; revisar cada salida antes de compartirla; etiquetar los borradores generados cuando el proceso interno lo exija; no utilizar el sistema para inferir salud, solvencia, emociones o rasgos personales; y conservar el enlace o identificador de la herramienta cuando la salida sea relevante para un expediente.
Para los equipos de crédito y fraude, el programa incluye un ejercicio con falsos positivos y falsos negativos. Un modelo que detecta menos fraude no es necesariamente mejor si ha empezado a excluir determinados perfiles. Un modelo con una precisión global elevada puede comportarse de forma muy distinta por segmento. La alfabetización aquí no exige que el analista reconstruya la función matemática, pero sí que sepa leer las métricas aprobadas, reconocer una muestra insuficiente y cuestionar una recomendación que no encaja con los datos.
Para los responsables de modelo, el contenido incorpora validación independiente, control de versiones, documentación de cambios, pruebas de deriva, monitorización de rendimiento y criterios de suspensión. DORA añade un lenguaje útil: los incidentes TIC y las interrupciones no deben analizarse solo después de una caída visible. Una degradación silenciosa de un servicio de IA que retrasa pagos, bloquea operaciones legítimas o produce comunicaciones defectuosas puede convertirse en un incidente operativo con efectos regulatorios y reputacionales.
Para compras, el curso utiliza contratos reales anonimizados. El empleado debe localizar quién es el proveedor, qué subcontratistas utiliza, dónde se procesan los datos, qué derechos de auditoría existen, cómo se notifican cambios, qué ocurre al terminar el contrato y si el proveedor puede utilizar las entradas del cliente para entrenar sus modelos. El artículo 28 de DORA y el artículo 25 del AI Act —sobre obligaciones de los proveedores de sistemas de alto riesgo en materia de cadena de valor— no se aplican como una lista abstracta: modifican las preguntas que deben hacerse antes de firmar.
Un curso de IA no corrige una base jurídica defectuosa ni convierte en lícito un tratamiento excesivo. La formación debe impedir precisamente esa confusión.
Cuando el sistema procesa datos personales, el equipo debe conocer las obligaciones de GDPR que afectan al caso. El artículo 5 exige principios como minimización, exactitud, limitación de finalidad y responsabilidad proactiva. El artículo 22 establece garantías para decisiones basadas únicamente en tratamiento automatizado que produzcan efectos jurídicos o afecten significativamente a la persona. El artículo 35 puede exigir una evaluación de impacto relativa a la protección de datos cuando el tratamiento entrañe un alto riesgo, incluido el uso sistemático y extenso de perfiles o determinadas decisiones automatizadas.
La formación de la entidad utiliza un ejemplo concreto: un modelo de priorización de solicitudes no rechaza formalmente a nadie, pero coloca determinadas peticiones al final de la cola y hace que se supere un plazo contractual. ¿Es una mera ayuda interna o tiene un efecto significativo? La respuesta no se obtiene de la etiqueta del producto. Hay que analizar el resultado, el proceso y el impacto.
También se explica que el artículo 13 de GDPR exige información sobre la existencia de decisiones automatizadas y, en los casos aplicables, información significativa sobre la lógica involucrada y las consecuencias previstas. El AI Act no sustituye esas obligaciones. Tampoco sustituye los requisitos de seguridad del artículo 32 de GDPR. La alfabetización del personal debe evitar que un empleado responda a una solicitud de acceso con una explicación generada por IA que revele datos de terceros o invente la lógica del sistema.
En Iberia Crédito Digital, privacidad y cumplimiento acuerdan que cualquier caso de uso que incluya datos personales sensibles, perfilado con impacto relevante o decisiones automatizadas debe contar con revisión documentada antes del piloto. El formulario de aprobación pregunta por la base jurídica, la necesidad y proporcionalidad, la evaluación de impacto, los proveedores y la intervención humana. No se trata de hacer un DPIA para cada correo redactado por un asistente, sino de impedir que un experimento operativo se convierta silenciosamente en un proceso de decisión.
Para una entidad financiera europea, la formación en IA no puede vivir en un micrositio separado del sistema de resiliencia operativa. DORA se aplica desde el 17 de enero de 2025 y exige que las entidades financieras mantengan estructuras de gobernanza y control adecuadas. El artículo 5 atribuye al órgano de dirección la responsabilidad última de gestionar los riesgos TIC y el artículo 6 exige un marco de gestión del riesgo TIC documentado, revisado y actualizado.
Si el personal no sabe distinguir una salida plausible de una salida fiable, el riesgo no es solo pedagógico. Puede afectar a la integridad de datos, a la continuidad de procesos, a la gestión de incidentes y a la toma de decisiones. Por eso el programa de Iberia Crédito Digital se incorpora al mapa de controles DORA: cada caso de uso crítico tiene un propietario, un procedimiento de escalado, una dependencia tecnológica identificada y un registro de formación de las funciones relevantes.
El artículo 13 de DORA exige políticas y protocolos para asegurar la resiliencia, y sus obligaciones sobre pruebas de resiliencia digital incluyen, para las entidades dentro del alcance, pruebas sobre sistemas y herramientas TIC. La formación no sustituye una prueba técnica, pero debe preparar a las personas para actuar cuando una prueba revele que el modelo responde mal, que el proveedor no ofrece datos suficientes o que el procedimiento manual alternativo nunca se ha ensayado.
La relación con terceros es todavía más clara. El artículo 28 de DORA obliga a gestionar el riesgo de terceros proveedores TIC y el artículo 30 fija elementos contractuales clave. Si un proveedor de IA modifica el modelo, cambia el subcontratista, limita el acceso a registros o deja de soportar una versión, la organización necesita personal capaz de reconocer la relevancia del cambio. Un contrato impecable no compensa una plantilla que no sabe cuándo activar la revisión del proveedor.
El artículo 4 no prescribe un certificado oficial. Por tanto, una auditoría o una autoridad probablemente mirará la coherencia entre el riesgo, los perfiles, el contenido y la evidencia. Iberia Crédito Digital crea un expediente de alfabetización ligado al inventario de casos de uso.
El expediente contiene:
La asistencia no basta. Un empleado puede completar un vídeo mientras responde correos y seguir sin saber qué hacer con una salida falsa. Por eso el programa utiliza pruebas basadas en escenarios. Un usuario debe decidir si puede pegar un expediente en una herramienta; un analista debe identificar una recomendación incompatible con los datos; un supervisor debe elegir entre aprobar, escalar o suspender un modelo después de observar una caída de rendimiento.
La entidad conserva también la fecha de actualización del contenido. Una formación impartida antes de que se habilite una función de generación de imágenes, se modifique una política de retención o cambie el proveedor no cubre automáticamente el nuevo riesgo. El artículo 4 habla de medidas adecuadas al contexto; el contexto cambia.
La revisión se activa, como mínimo, cuando se introduce un nuevo sistema, cambia su finalidad, se modifica el conjunto de datos, se produce un incidente, aparece una nueva obligación aplicable o una auditoría detecta que los usuarios están tomando decisiones distintas de las previstas. No hace falta prometer una recertificación mensual que nadie cumplirá. Sí hace falta definir qué cambios obligan a revisar competencias.
El primer fallo es comprar formación genérica y presentarla como programa de cumplimiento. Un curso de dos horas sobre qué es la IA puede servir como introducción, pero no demuestra que un supervisor sepa controlar un sistema de crédito ni que un empleado conozca la política de datos.
El segundo es formar a la plantilla y olvidar a los contratistas. El artículo 4 se refiere también a personas que utilizan u operan los sistemas en nombre de la organización. Si un centro externo gestiona reclamaciones con un asistente generativo, la entidad necesita verificar que esas personas reciben instrucciones y que el contrato permite comprobarlo.
El tercero es confundir intervención humana con presencia humana. Que un empleado pulse aprobar no significa que haya supervisión efectiva. El artículo 14 del AI Act, aplicable a sistemas de alto riesgo, exige que la supervisión humana permita comprender limitaciones, detectar anomalías, interpretar resultados y decidir no utilizar o descartar la salida cuando proceda. La formación debe enseñar esas facultades; no basta con asignar un nombre a la casilla de revisión.
El cuarto es no formar a la dirección. El artículo 4 no excluye a los ejecutivos porque no utilicen directamente la herramienta. Si el órgano de dirección aprueba un caso de uso, acepta un riesgo residual o recibe indicadores sobre un sistema crítico, necesita comprender qué significa la automatización y qué límites tiene la información que recibe.
El quinto es tratar los modelos de propósito general como si fueran un problema exclusivo del proveedor. Un proveedor de un modelo de propósito general tiene obligaciones específicas en los artículos 51 a 55, incluida la documentación y determinadas políticas sobre derechos de autor. Pero una entidad que integra ese modelo en un producto o proceso sigue teniendo que controlar su propio uso, sus datos, su supervisión y sus comunicaciones. La responsabilidad no desaparece al aparecer la palabra API.
El valor real de la alfabetización en IA se ve cuando algo sale mal. Un cliente reclama que una solicitud fue retrasada. Un empleado ha copiado datos en una herramienta no autorizada. El proveedor anuncia un cambio de modelo. Una auditoría detecta que los revisores aceptan casi todas las recomendaciones. En esos momentos, la pregunta no será si la empresa compró un curso, sino si las personas que intervenían sabían qué debían hacer y si la organización puede demostrarlo.
Iberia Crédito Digital define cuatro indicadores de eficacia. El primero mide la cobertura: qué porcentaje de personas asignadas a cada rol ha completado la formación exigida. El segundo mide la competencia: resultados de las pruebas prácticas y porcentaje de respuestas correctas en escenarios críticos. El tercero mide el comportamiento: uso de herramientas aprobadas, escalados, excepciones y errores detectados. El cuarto mide la adaptación: tiempo transcurrido entre un cambio relevante y la actualización de instrucciones o materiales.
Estos indicadores no deben convertirse en un cuadro de mando decorativo. Si el 98 % de la plantilla ha completado el curso pero el 40 % de los analistas sigue copiando salidas sin verificar, la conclusión no es que la alfabetización sea un éxito. Es que el diseño del control no funciona.
La auditoría interna prueba una muestra de expedientes y entrevistas. Comprueba que el propietario del sistema está identificado, que las personas con acceso tienen formación adecuada, que existe un procedimiento de escalado y que la formación coincide con la versión desplegada. También revisa si el registro de IA, el inventario DORA y el registro de tratamientos GDPR se contradicen. Las discrepancias son una señal más útil que otro certificado colgado en la intranet.
El artículo 4 del AI Act no exige que toda la organización se convierta en un laboratorio de inteligencia artificial. Exige algo más incómodo y más útil: que las personas que desarrollan, compran, supervisan o utilizan estos sistemas tengan la capacidad necesaria para hacerlo de forma responsable en su contexto.
Para un CISO, la prioridad no debería ser contar cursos, sino conectar el inventario de IA con los activos, terceros, incidentes y controles de seguridad. Para cumplimiento, el trabajo consiste en enlazar cada caso de uso con su clasificación bajo el AI Act, sus obligaciones de GDPR y, cuando proceda, el marco de DORA. Para recursos humanos, la tarea es mantener competencias actualizadas y verificables. Para la dirección, consiste en aceptar que el riesgo no se delega porque el modelo viva en la nube.
La pregunta decisiva es concreta: si mañana una autoridad, un auditor o un cliente pregunta quién estaba autorizado para usar un sistema, qué sabía esa persona, qué límites tenía y qué hizo cuando la salida parecía errónea, ¿puede la entidad responder con registros y no con intenciones?
Si la respuesta es no, el problema no es que falte un curso. Falta un control.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal y te avisamos de cada cambio en AI Act: clasificación de riesgo de tus sistemas de IA y obligaciones por nivel.
¿Necesitas priorizar acciones ya? Empieza un GAP Assessment AI Act.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…