Imagen generada por IALa alfabetización en inteligencia artificial no es una recomendación de buenas prácticas ni una promesa para cuando llegue la próxima auditoría. El artículo 4 del AI Act es aplicable desde el 2 de febrero de 2025 y obliga a proveedores y desplegadores de sistemas de IA a garantizar un nivel suficiente de competencia entre las personas que los utilizan o supervisan.
La fecha importa porque 2026 ya no es el año de diseñar una presentación sobre IA responsable. Es el año en que un supervisor, un auditor interno o un comité de riesgos puede pedir algo mucho menos abstracto: quién ha recibido formación, sobre qué sistema, con qué contenido, antes de qué actividad y con qué evidencia de que la formación era adecuada para su función.
Aquí aparece el primer error de muchas organizaciones. Confunden alfabetización con familiaridad. Que un empleado haya usado ChatGPT, Copilot o una herramienta de scoring no demuestra que sepa identificar una alucinación, proteger información confidencial, reconocer un uso prohibido o detener una decisión automatizada defectuosa. Saber conducir una aplicación no equivale a saber gobernarla.
El artículo 4 del Reglamento (UE) 2024/1689 exige que los proveedores y desplegadores de sistemas de IA adopten medidas para garantizar, en la medida de lo posible, un nivel suficiente de alfabetización en IA de su personal y de otras personas encargadas de operar y utilizar los sistemas en su nombre. El nivel debe tener en cuenta los conocimientos técnicos, la experiencia, la educación y la formación de las personas, así como el contexto en el que se utilizarán los sistemas y las personas o grupos afectados.
La redacción contiene dos matices que suelen desaparecer en los cursos corporativos. El primero es que la obligación no se limita a los sistemas de IA de alto riesgo. El artículo 4 tiene alcance transversal: puede afectar a una entidad que utiliza una herramienta de selección de personal, a un banco que despliega un modelo de detección de fraude, a un hospital que emplea un sistema de apoyo al diagnóstico y a una empresa que incorpora IA generativa a su servicio de atención al cliente.
El segundo es que la formación debe ser contextual. La persona que configura parámetros de un modelo, la que valida sus resultados y la que atiende a clientes no necesitan el mismo nivel de competencia. Un curso idéntico para toda la plantilla puede ser cómodo para recursos humanos y casi inútil para control interno.
La Comisión Europea describe la alfabetización en IA como el conjunto de habilidades, conocimientos y comprensión que permite desplegar sistemas de IA con información suficiente y conciencia de las oportunidades, riesgos y posibles daños. No es una certificación europea única ni existe, por ahora, un examen oficial que convierta automáticamente una plantilla en “alfabetizada”. Precisamente por eso la carga de diseño y prueba recae en la organización.
La obligación alcanza a dos categorías principales. El proveedor es quien desarrolla un sistema de IA o lo manda diseñar y lo comercializa o pone en servicio bajo su nombre o marca. El desplegador es la persona física o jurídica que utiliza un sistema de IA bajo su autoridad, salvo cuando el uso sea una actividad personal no profesional.
Una empresa puede ser ambas cosas a la vez. Un banco que compra un motor de detección de fraude a un tercero actúa como desplegador. Si desarrolla internamente un modelo y lo ofrece a sus filiales bajo una marca propia, también puede estar actuando como proveedor respecto de ese sistema. La clasificación no depende de cómo se llame el departamento que lo gestiona, sino de quién desarrolla, pone en servicio o utiliza el sistema.
El perímetro de personas tampoco coincide con la plantilla del departamento de tecnología. Puede incluir a:
Dejar fuera a los proveedores externos es una omisión frecuente. El artículo 4 habla de personas que trabajan con sistemas en nombre del proveedor o desplegador. Eso obliga a revisar contratos, declaraciones de trabajo y procedimientos de onboarding. Una cláusula que exige “cumplir la normativa aplicable” no demuestra que un operador de un servicio externalizado haya recibido formación sobre el sistema concreto.
También se suele olvidar al personal que usa funciones de IA integradas en productos existentes. La etiqueta comercial puede no decir “sistema de IA”, pero una herramienta que resume llamadas, clasifica reclamaciones, recomienda operaciones o genera respuestas puede entrar en el perímetro del Reglamento si cumple la definición del artículo 3, punto 1.
Los programas débiles empiezan con una definición de aprendizaje automático, siguen con una explicación de los modelos de lenguaje y terminan con un test de diez preguntas. Después declaran cubierto el artículo 4. El problema es que el riesgo regulatorio aparece normalmente después del clic, cuando alguien decide utilizar la salida del sistema para afectar a una persona, transferir datos o modificar un proceso crítico.
Una formación útil debe responder a cuatro preguntas operativas:
En una entidad financiera, el usuario de un modelo de fraude necesita saber que una alerta es una señal para investigar, no una prueba automática de conducta ilícita. El empleado que utiliza una herramienta generativa para redactar comunicaciones debe conocer las reglas de confidencialidad y verificar las citas y cifras. El responsable de contratación que recibe una recomendación algorítmica debe entender que la intervención humana no se satisface con pulsar “aprobar”.
Para sistemas de alto riesgo, el artículo 6 y el anexo III son el punto de partida de la clasificación, mientras que los requisitos del capítulo III, sección 2, incluyen gestión de riesgos en el artículo 9, gobernanza de datos en el artículo 10, documentación técnica en el artículo 11, conservación de registros en el artículo 12 y supervisión humana en el artículo 14. La alfabetización no sustituye esos controles, pero permite que las personas sepan aplicarlos. Un curso que menciona “sesgo” sin explicar cómo escalar una desviación en los datos no cubre el problema; solo lo bautiza.
El AI Act utiliza un enfoque basado en el riesgo. El artículo 5 prohíbe determinadas prácticas, como ciertas técnicas de manipulación subliminal, explotación de vulnerabilidades y algunos usos de categorización biométrica o puntuación social. Los sistemas de alto riesgo tienen obligaciones más extensas. Los sistemas de propósito general cuentan con reglas específicas en los artículos 51 a 56 y, para los proveedores, obligaciones detalladas en el artículo 53. Los sistemas de riesgo limitado pueden quedar sujetos a obligaciones de transparencia, como las del artículo 50.
Un programa de alfabetización que presenta una lista genérica de “riesgos de la IA” no enseña a distinguir estos escenarios. Esa distinción es crucial. Una persona que opera un chatbot orientado al público necesita saber cuándo debe informar de que está interactuando con una máquina, cuestión vinculada al artículo 50. Quien administra un sistema utilizado para evaluar candidatos necesita conocer los controles y responsabilidades adicionales asociados a un posible sistema de alto riesgo del anexo III. Quien desarrolla un modelo de propósito general debe entender que sus obligaciones como proveedor no son las mismas que las de una empresa que simplemente integra una API en una aplicación.
La clasificación debe formar parte de la experiencia de aprendizaje, no quedar encerrada en un registro jurídico que nadie consulta. Si el empleado no sabe qué categoría tiene el sistema que utiliza, tampoco sabrá qué controles son obligatorios ni a quién avisar cuando cambia el caso de uso.
Esto no significa convertir a cada usuario en abogado. Significa establecer un umbral mínimo de decisión: reconocer el tipo de sistema, identificar el uso autorizado, detectar una desviación y activar el canal correcto. El exceso de teoría es tan poco útil como la ausencia de teoría. La primera produce diplomas; la segunda produce incidentes.
La evidencia típica de una auditoría suele ser una exportación del sistema de aprendizaje con tres columnas: nombre, fecha y porcentaje de finalización. Sirve para demostrar que alguien abrió un curso. No demuestra que entendiera el contenido ni que la formación fuese adecuada para su trabajo.
El artículo 4 no prescribe un formato de certificado, una frecuencia concreta ni un número mínimo de horas. Esa flexibilidad no elimina la necesidad de justificar el enfoque. La organización debería poder explicar por qué asignó determinado contenido a cada grupo, qué riesgos cubría, cómo comprobó la comprensión y cuándo revisará el programa.
Una arquitectura de evidencias razonable puede incluir:
La prueba práctica es especialmente valiosa. Puede consistir en pedir a un usuario que identifique datos que no deben introducirse en una herramienta generativa, que analice una salida con una alucinación deliberada o que decida cuándo detener una recomendación automatizada. No hace falta construir un examen universitario. Hace falta probar la decisión que la persona tendrá que tomar el lunes a las nueve de la mañana.
El artículo 14 exige que determinados sistemas de alto riesgo se diseñen y desarrollen de manera que puedan ser supervisados eficazmente por personas durante su uso. También describe capacidades que deben tener quienes ejercen esa supervisión, incluida la comprensión de las capacidades y limitaciones del sistema, la posibilidad de interpretar correctamente sus resultados y la facultad de decidir no utilizarlo, ignorar su salida o revertirla.
Esto tiene una consecuencia directa para el artículo 4: no basta con enseñar a un operador a revisar una pantalla. Debe tener autoridad, tiempo, información y competencia para intervenir. Una supervisión que llega después de que se haya ejecutado la decisión no es necesariamente una supervisión eficaz. Tampoco lo es una revisión humana sometida a objetivos de productividad que hacen prácticamente imposible cuestionar el resultado del modelo.
En auditoría conviene buscar la conexión entre tres documentos: la descripción del caso de uso, el procedimiento de supervisión y la formación del operador. Si el procedimiento obliga a revisar cinco señales, pero el curso solo explica dos; si el operador no puede acceder a la información necesaria; o si no existe una ruta para suspender el sistema, la organización tiene un problema de control, no de pedagogía.
En los sistemas de alto riesgo utilizados por desplegadores, el artículo 26 añade obligaciones operativas, entre ellas utilizar el sistema conforme a las instrucciones de uso, asignar supervisión humana a personas con la competencia, autoridad y formación necesarias, y conservar los registros generados automáticamente cuando estén bajo su control. La formación debe reflejar esas tareas concretas. Un certificado general de “IA responsable” no sustituye la capacitación sobre el manual de uso, el procedimiento de escalado y los límites del modelo desplegado.
Una formación correcta en febrero puede quedar obsoleta en octubre. Cambia el proveedor, se incorpora una nueva función, se conecta una fuente de datos adicional o se modifica el propósito del modelo. A veces la organización no cambia el sistema, pero cambia el contexto: una herramienta pensada para resumir reuniones empieza a utilizarse para evaluar el rendimiento de empleados. El riesgo aparece sin que nadie haya actualizado el nombre del producto.
La obligación del artículo 4 exige un enfoque vivo porque el nivel suficiente de alfabetización depende del contexto de uso. No existe una periodicidad universal que resuelva el asunto. Lo defendible es vincular la formación a eventos de cambio identificables:
El registro de modelos y aplicaciones debería alimentar automáticamente el sistema de formación. Si el repositorio de IA dice que 200 personas tienen acceso a un sistema y la plataforma de aprendizaje solo muestra 120 usuarios formados, la discrepancia debe generar una alerta. La gobernanza falla cuando los inventarios viven en hojas de cálculo separadas y nadie es responsable de reconciliarlos.
El artículo 4 no asigna por sí solo un organigrama. Pero sí obliga a que alguien pueda demostrar que las medidas existen. El responsable de cumplimiento puede interpretar el alcance y traducirlo a controles. El CISO debe cubrir amenazas como filtración de datos, prompt injection, abuso de credenciales y manipulación de entradas. El responsable de privacidad debe conectar la formación con los principios del artículo 5 del RGPD, la base jurídica, la minimización y la seguridad del tratamiento. Recursos humanos puede gestionar la asignación y los registros. El propietario del sistema debe definir los usos permitidos y las limitaciones.
El riesgo de fragmentación es real. Una formación de privacidad puede advertir contra introducir datos personales en una herramienta pública, pero no explicar cómo validar una salida generada. Un curso de ciberseguridad puede cubrir credenciales y phishing, pero omitir la contaminación de una base de conocimiento. Un programa de compliance puede citar el artículo 5 del AI Act sin enseñar al operador a reconocer una práctica prohibida.
La solución no consiste necesariamente en crear un gran curso corporativo. Consiste en asignar responsabilidades y unir controles. El registro de activos de IA debería tener un propietario; el propietario debería definir los usuarios autorizados; el acceso debería depender de la formación relevante; y los incidentes deberían retroalimentar el contenido. Ese circuito es más sólido que una campaña anual con un vídeo obligatorio para toda la empresa.
La privacidad merece una atención especial. El AI Act no desplaza el RGPD. Una persona formada para usar IA debe saber que anonimizar no significa simplemente borrar el nombre de una persona, que los datos introducidos en una herramienta pueden transferirse o utilizarse conforme a las condiciones del proveedor y que una salida aparentemente inocua puede contener información personal. El artículo 35 del RGPD puede exigir una evaluación de impacto cuando el tratamiento entrañe un alto riesgo, y el artículo 22 aborda decisiones basadas únicamente en tratamientos automatizados con efectos jurídicos o significativamente similares. La formación no sustituye una DPIA, pero un usuario que desconoce estas fronteras puede sabotearla en la práctica.
Hay señales de alerta relativamente fáciles de detectar. La primera es que la organización afirma que todos están formados, pero no puede vincular una persona con un sistema o una función. La segunda es un curso idéntico para desarrolladores, usuarios de negocio y comité de dirección. La tercera es que el programa solo trata de IA generativa porque es la herramienta visible, mientras ignora modelos tradicionales de scoring, clasificación o detección.
Otras señales son más reveladoras:
Un supervisor no necesita encontrar un curso vacío para cuestionar el cumplimiento. Puede bastar con que el personal no sepa explicar qué hacer ante un resultado incorrecto. La brecha entre política y comportamiento es donde suelen vivir los problemas de control.
El primer paso no es comprar una plataforma de e-learning. Es construir un mapa de uso. La entidad debe identificar qué sistemas utiliza, quién los opera, con qué finalidad, qué decisiones apoyan y qué categorías del AI Act pueden resultar relevantes. El artículo 3 ofrece las definiciones necesarias; el artículo 6 y el anexo III ayudan a analizar los sistemas de alto riesgo; el artículo 50 orienta los casos de transparencia; y los artículos 51 a 56 cubren el régimen de los modelos de propósito general.
Después hay que separar tres capas de competencia. La capa básica corresponde a cualquier persona que utilice herramientas de IA: límites, datos, revisión y escalado. La capa funcional corresponde a quienes incorporan salidas a procesos de negocio: criterios de validación, sesgos, trazabilidad y decisiones no automatizadas. La capa técnica y de control corresponde a desarrolladores, propietarios, seguridad, auditoría y compliance: pruebas, supervisión, gestión de cambios, incidentes y documentación.
Cada capa necesita una evidencia diferente. Una prueba básica puede comprobar si alguien reconoce una salida inventada. Una evaluación funcional puede exigir justificar por qué una recomendación no debe convertirse automáticamente en una decisión. Para un rol técnico, puede ser necesario revisar documentación, registros de pruebas o un ejercicio de respuesta ante un incidente de modelo.
La formación debe estar integrada en los controles de acceso. Una persona que no ha completado el módulo necesario no debería recibir acceso permanente al sistema, salvo una excepción documentada con fecha de caducidad y supervisión. En sistemas críticos, la segregación de funciones puede impedir que quien desarrolla apruebe en solitario el uso productivo. La alfabetización se convierte así en un control operativo, no en una actividad de comunicación interna.
Por último, hay que probar el programa con escenarios reales. Simular una introducción accidental de datos confidenciales en un modelo externo, una recomendación sesgada o una salida con información falsa permite comprobar algo que el certificado no muestra: si la persona sabe parar, escalar y dejar rastro.
El artículo 99 del AI Act establece el régimen general de sanciones y exige que los Estados miembros establezcan normas sobre penalizaciones aplicables a las infracciones. El Reglamento fija límites máximos especialmente elevados para determinadas infracciones, pero no convierte todas las obligaciones en una multa automática del mismo importe. La consecuencia concreta dependerá de la infracción, de la autoridad competente y de las normas nacionales aplicables.
La obligación de alfabetización no debe evaluarse aislada del resto del sistema de gobernanza. Un defecto de formación puede contribuir a una vulneración de otras obligaciones: el uso de una práctica prohibida del artículo 5, el incumplimiento de obligaciones de un sistema de alto riesgo o un tratamiento de datos contrario al RGPD. La exposición puede multiplicarse cuando la entidad no puede demostrar que asignó competencias adecuadas a las personas que operaban el sistema.
Además, el artículo 4 introduce una cuestión de gobierno corporativo incómoda: la dirección no puede aprobar una política que presupone que los usuarios entienden la IA y luego desentenderse de cómo se demuestra esa premisa. El consejo no necesita impartir formación técnica, pero sí debe recibir información sobre el inventario de sistemas, los riesgos relevantes, los incidentes, las excepciones y el estado de las competencias críticas.
La alfabetización en IA no se demuestra cuando todo funciona. Se demuestra cuando el sistema produce una respuesta convincente y falsa, asigna una probabilidad absurda o recomienda una acción que contradice la información disponible. Ese momento obliga a una persona a decidir si confía, verifica, rechaza o escala.
Un programa maduro define de antemano esas decisiones. Establece qué errores son tolerables, cuáles requieren revisión, quién puede suspender el uso y cuánto tiempo hay para comunicar un incidente. En los sistemas de alto riesgo, debe enlazar con la supervisión del artículo 14 y con las obligaciones operativas aplicables al desplegador bajo el artículo 26. En los sistemas que tratan datos personales, debe coordinarse con las obligaciones de seguridad y notificación del RGPD, incluidos los artículos 32 y 33 cuando proceda.
La pregunta que debería hacerse cada CISO y cada responsable de compliance es sencilla: si mañana un auditor pide que una persona explique por qué confió en la salida de un sistema, ¿podemos demostrar que tenía la formación, la autoridad y la información necesarias para tomar esa decisión?
Si la respuesta depende de una hoja de asistencia y de un curso genérico de 20 minutos, el artículo 4 no está realmente integrado. Hay un registro de aprendizaje, que es otra cosa.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal y te avisamos de cada cambio en AI Act: clasificación de riesgo de tus sistemas de IA y obligaciones por nivel.
¿Necesitas priorizar acciones ya? Empieza un GAP Assessment AI Act.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…