Bruselas aclara lo que no se puede hacer con IA: las guías sobre prácticas prohibidas del AI Act elevan el riesgo legal

La Comisión Europea ha publicado por fin sus guías sobre las prácticas de inteligencia artificial prohibidas por el AI Act. Y esta vez no hablamos de principios etéreos ni de ese folclore regulatorio que tanto gusta en Bruselas. Hablamos de la parte del reglamento que directamente veta conductas. Sin matices comerciales. Sin “depende del caso” como refugio cómodo. Si tu organización desarrolla, integra, comercializa o simplemente usa sistemas de IA en la UE, estas guías importan porque aterrizan el artículo 5 del AI Act, que contiene las prohibiciones nucleares.

El momento tampoco es menor. El AI Act entró en vigor el 1 de agosto de 2024, pero sus obligaciones no empezaron a aplicarse todas a la vez. Las prohibiciones del artículo 5 son de las primeras en activarse: a los seis meses de la entrada en vigor, es decir, desde el 2 de febrero de 2025. Ese detalle temporal cambia la conversación. Ya no estamos en la fase de “seguiremos de cerca la evolución normativa”. Ya estamos en la fase de “si haces esto, te expones a sanciones”. Y las sanciones no son decorativas: el AI Act prevé, para determinadas infracciones, multas administrativas de hasta 35 millones de euros o el 7% del volumen de negocio anual mundial, la cifra que sea mayor. Cuando el regulador coloca ese porcentaje sobre la mesa, no está pidiendo amablemente una revisión interna.

Las guías de la Comisión no sustituyen al texto legal ni crean nuevas prohibiciones, pero hacen algo casi igual de relevante: explican cómo interpreta Bruselas conceptos deliberadamente amplios, y eso orientará tanto a autoridades nacionales como a equipos jurídicos, de cumplimiento, producto y seguridad. También reduce una coartada que ha funcionado demasiado bien en los últimos meses: fingir que el alcance de las prácticas prohibidas era tan ambiguo que convenía esperar. Esperar ya no parece una estrategia brillante.

La cuestión de fondo es sencilla: el AI Act no solo regula sistemas “de alto riesgo” o modelos de propósito general. También marca una línea roja sobre usos de IA que la UE considera incompatibles con derechos fundamentales, autonomía personal o seguridad democrática. Las guías publicadas por la Comisión intentan responder la pregunta que muchas empresas llevaban meses esquivando: dónde acaba la analítica agresiva y empieza lo prohibido.

Qué ha publicado exactamente la Comisión y por qué no conviene tratarlo como un simple documento explicativo

La publicación procede de la Comisión Europea, a través de su área de estrategia digital, y se centra en las prácticas de IA prohibidas definidas en el AI Act. El anclaje jurídico es el artículo 5 del Reglamento (UE) 2024/1689, conocido como AI Act. No estamos ante una Q&A informal ni ante una nota de prensa vacía. Es una guía interpretativa sobre la categoría más explosiva del reglamento: los usos que no se pueden desplegar, aunque el proveedor los documente bien, aunque el modelo funcione técnicamente, aunque haya demanda comercial.

Esto tiene varias consecuencias prácticas. La primera: los equipos de compliance ya no pueden limitarse a clasificar sistemas entre “alto riesgo”, “bajo riesgo” y “sin riesgo aparente”. Ahora necesitan una criba previa más incómoda: descartar si una funcionalidad cae directamente dentro de una práctica prohibida. La segunda: el debate deja de ser exclusivamente tecnológico. Muchas de las categorías del artículo 5 se deciden por el contexto, el propósito, el tipo de persona afectada o el efecto previsible sobre su conducta. Es decir, la IA se evalúa también por cómo se usa y contra quién se usa. La tercera: la Comisión está enviando una señal política nítida a los Estados miembros y al mercado antes de que el ecosistema intente normalizar prácticas dudosas bajo nombres más simpáticos.

Ese último punto importa más de lo que parece. En regulación tecnológica, el primer año suele llenarse de gimnasia semántica. No es “reconocimiento de emociones”, sino “análisis afectivo”. No es “social scoring”, sino “segmentación conductual avanzada”. No es manipulación, sino “optimización de experiencia”. Bruselas conoce ese juego y las guías intentan cerrarle espacio. No siempre lo logrará, claro. La creatividad comercial es infinita, sobre todo cuando la facturación depende de rebautizar el problema.

El artículo 5 del AI Act: las prohibiciones que dejan de ser teoría

El núcleo del asunto está en el artículo 5 del AI Act. Ahí se enumeran varias prácticas prohibidas. Conviene repasarlas con precisión, porque una lectura superficial puede llevar a errores peligrosos. El texto legal no prohíbe “la IA mala” en abstracto. Prohíbe categorías concretas de uso.

Entre ellas figuran los sistemas que empleen técnicas subliminales, manipuladoras o engañosas con el objetivo o el efecto de distorsionar materialmente el comportamiento de una persona o grupo, de forma que se cause o sea razonablemente probable que se cause un perjuicio significativo. También entran los sistemas que exploten vulnerabilidades ligadas a la edad, la discapacidad o una situación socioeconómica específica, cuando esa explotación altere materialmente la conducta y genere o pueda generar un daño significativo.

El artículo 5 también prohíbe determinadas formas de puntuación social, esto es, la evaluación o clasificación de personas basada en su comportamiento social o características personales o de personalidad, cuando ese scoring provoque un trato perjudicial o desfavorable en contextos no relacionados con los datos originalmente recogidos, o cuando el trato sea injustificado o desproporcionado respecto al comportamiento social observado. El mensaje aquí es claro: no basta con decir que el algoritmo “solo ordena señales”. Si ese ordenamiento termina convirtiéndose en una penalización transversal de la persona, la UE ve un problema estructural.

Otro bloque especialmente sensible afecta a la predicción del riesgo de cometer delitos basada exclusivamente en perfilado o en la evaluación de rasgos o características de personalidad, salvo supuestos muy concretos vinculados a apoyo humano y a hechos objetivos verificables. Es una respuesta directa al viejo sueño tecnocrático de adivinar quién delinquirá mañana porque un modelo detecta patrones hoy. La ciencia detrás de esas promesas ha sido, en el mejor de los casos, discutible. En el peor, discriminatoria con barniz matemático.

El artículo 5 también alcanza a ciertas prácticas biométricas. Entre ellas, la creación o ampliación de bases de datos de reconocimiento facial mediante extracción no selectiva de imágenes faciales de internet o de circuitos cerrados de televisión. Ese punto no es anecdótico. Golpea uno de los modelos de negocio más cuestionados del sector: raspar masivamente imágenes para entrenar o alimentar motores de identificación sin base legítima y luego presentar el resultado como innovación inevitable.

También quedan prohibidos ciertos usos de sistemas de inferencia de emociones en el lugar de trabajo y en instituciones educativas, salvo excepciones limitadas por razones médicas o de seguridad. Este es uno de los apartados con mayor fricción empresarial, porque buena parte del mercado de HR tech y edtech llevaba tiempo vendiendo herramientas capaces de “leer” compromiso, estrés, honestidad o motivación. El problema es doble: la fiabilidad científica de muchas de estas herramientas es endeble, y el desequilibrio de poder en una empresa o en un aula vuelve especialmente delicado cualquier despliegue.

Hay más. El reglamento restringe determinadas formas de categorización biométrica que deduzcan atributos sensibles, como raza, opiniones políticas, afiliación sindical, religión, vida sexual u orientación sexual, salvo contadas excepciones. Y también prohíbe, con un régimen muy específico, el uso de sistemas de identificación biométrica remota en tiempo real en espacios de acceso público para fines de aplicación de la ley, salvo excepciones tasadas. Esta última materia mezcla AI Act, derechos fundamentales, seguridad pública y, como siempre, una pelea política que no ha terminado.

Lo verdaderamente delicado: la Comisión intenta definir conceptos que las empresas han estirado hasta romperlos

La utilidad real de las guías está en cómo aterrizan palabras como “manipulación”, “engaño”, “vulnerabilidad”, “distorsión material del comportamiento” o “daño significativo”. Son conceptos jurídicos abiertos. Y, precisamente por eso, las empresas más agresivas han tratado de ensanchar su zona gris.

Tomemos la manipulación. No todo diseño persuasivo es automáticamente ilegal. La publicidad, la arquitectura de elección y la personalización llevan décadas intentando influir en decisiones. El problema, según el enfoque del AI Act, aparece cuando la IA cruza una línea y socava de forma apreciable la capacidad de una persona para tomar una decisión informada. El regulador no está persiguiendo cualquier recomendador o cualquier interfaz optimizada; está apuntando a técnicas que explotan sesgos o debilidades de manera tal que la autonomía queda materialmente comprometida y de ahí resulta un perjuicio significativo.

Aquí hay un matiz importante para producto y marketing. El criterio no se agota en la intención del proveedor. El artículo 5 habla del objetivo o del efecto. Eso significa que un fabricante no puede refugiarse siempre en que su finalidad declarada era inocua. Si el diseño del sistema y su despliegue previsible provocan una alteración material del comportamiento con daño relevante, el análisis regulatorio se complica bastante. Dicho en castellano llano: no basta con tener una slide de “ethical AI”.

La explotación de vulnerabilidades es otro punto donde las guías son clave. Edad, discapacidad y situación socioeconómica específica no son simples etiquetas demográficas. Son factores que pueden reducir la capacidad de resistencia frente a influencias automatizadas o aumentar la exposición al daño. Un sistema de IA que adapte mensajes comerciales, recomendaciones de crédito, ofertas de juego o presiones de compra a personas especialmente vulnerables puede terminar dentro del radar del artículo 5 si la explotación de esa vulnerabilidad altera de forma sustancial su conducta y deriva en un perjuicio significativo.

Eso obliga a revisar casos de uso que hasta hace nada se presentaban como hiperpersonalización inteligente. En particular, fintech, insurtech, adtech, plataformas de consumo y proveedores de tecnología de recursos humanos deberían releer estas guías con algo más que curiosidad académica. Muchas de las prácticas de segmentación extrema se apoyan precisamente en inferencias sobre fragilidad económica, estrés financiero, impulsividad o capacidad de comprensión. Y no, cambiar el nombre del atributo en la base de datos no cambia el riesgo jurídico.

Reconocimiento de emociones: uno de los mercados más expuestos y uno de los más sobrevendidos

Si hubiera que señalar un área donde las guías van a tener un efecto inmediato, esa sería la de emotion recognition en empleo y educación. La razón es sencilla: es una tecnología muy comercializada, jurídicamente frágil y científicamente discutida. Mala combinación.

El AI Act prohíbe el uso de sistemas de IA para inferir emociones de personas físicas en el lugar de trabajo y en instituciones educativas, salvo cuando el uso responda a fines médicos o de seguridad. El artículo 5 es claro en ese punto. Las guías de la Comisión ayudan a interpretar qué entra realmente en esa categoría y evitan que el mercado diluya el concepto bajo expresiones como “engagement analytics”, “attention scoring” o “wellbeing detection”.

Para empleadores y centros educativos el riesgo es directo. Si una compañía usa herramientas que analizan expresiones faciales, voz, pausas, microgestos o patrones conductuales para concluir que un empleado está desmotivado, bajo presión, distraído o potencialmente conflictivo, el problema no es solo reputacional. Puede ser una práctica prohibida. Si una universidad o academia remota pretende medir la atención del alumno o detectar emociones durante una clase online, también entra en terreno muy resbaladizo.

Y aquí conviene pinchar un globo que llevaba demasiado tiempo flotando. El reconocimiento de emociones se ha beneficiado de una cierta impunidad comercial basada en promesas imposibles de verificar de forma robusta. Convertir estados internos complejos en métricas operativas a partir de señales externas es, como poco, científicamente controvertido. El AI Act no entra a resolver ese debate epistemológico, pero sí actúa sobre sus consecuencias normativas: en contextos de poder asimétrico como el trabajo y la educación, la UE decide que ese tipo de inferencias no es aceptable salvo supuestos muy tasados.

Scraping masivo de caras: la UE apunta a una práctica concreta, no a una abstracción filosófica

Una de las prohibiciones más concretas del artículo 5 se refiere a la creación o expansión de bases de datos de reconocimiento facial mediante extracción no dirigida de imágenes faciales de internet o de CCTV. Esto no va solo de privacidad; va de infraestructura de vigilancia. Y la precisión del texto importa porque evita un viejo truco regulatorio: discutir principios generales mientras el negocio problemático sigue escalando en silencio.

La Comisión, al publicar estas guías, refuerza la idea de que ese scraping indiscriminado es incompatible con el AI Act. Para empresas que entrenan modelos biométricos, desarrollan motores de búsqueda facial o abastecen a terceros con datasets de rostros, el impacto es inmediato. Ya no basta con preguntar si existe una base de licitud bajo GDPR. El AI Act añade una prohibición material sobre el método de construcción de ciertas bases de datos.

Esto también debería interesar a responsables de compras tecnológicas. El riesgo no está solo en desarrollar la herramienta. Está en adquirirla, integrarla o usar servicios basados en datasets cuyo origen puede resultar jurídicamente tóxico. La diligencia debida sobre proveedores de IA biométrica ya no puede quedarse en un cuestionario genérico de seguridad y privacidad. Si no sabes cómo se entrenó o alimentó el sistema, estás comprando riesgo a ciegas.

Puntuación social y policía predictiva: la Comisión intenta cerrar dos puertas antes de que vuelvan a abrirse con otro nombre

La experiencia regulatoria reciente demuestra que algunas ideas no desaparecen cuando se cuestionan; simplemente cambian de branding. La puntuación social y ciertas formas de policía predictiva entran de lleno en esa categoría.

La prohibición del social scoring en el artículo 5 no se limita a copiar el modelo chino caricaturizado en debates públicos. Sería demasiado fácil si fuese solo eso. Lo que el texto europeo trata de evitar es la combinación de datos conductuales o personales para producir clasificaciones que después se traduzcan en trato desfavorable injustificado, desproporcionado o desconectado del contexto original de recogida. No hace falta un “score ciudadano” oficial para generar ese efecto. Puede aparecer en procesos de acceso a servicios, precios, selección, priorización de clientes o controles reforzados.

Para entidades financieras, esto merece lectura cuidadosa. El sector está acostumbrado a puntuar: riesgo de crédito, fraude, AML, comportamiento transaccional, propensión al impago. Nada de eso está automáticamente prohibido. Pero la lógica del AI Act obliga a distinguir entre evaluación legítima para una finalidad concreta y clasificación transversal de personas basada en señales que luego se reutilizan de forma perjudicial o desproporcionada. La frontera no siempre será obvia. Ahí es donde la gobernanza importa más que el algoritmo.

La llamada “predictive policing” plantea otro problema. El AI Act prohíbe sistemas destinados a evaluar o predecir el riesgo de que una persona física cometa un delito basándose únicamente en perfilado o en la evaluación de rasgos y características de personalidad. La clave es “únicamente” y también la referencia a rasgos personales. La UE no está prohibiendo toda analítica de apoyo policial o judicial. Está vetando un tipo de inferencia especialmente invasiva y propensa al sesgo, donde la máquina convierte atributos o patrones estadísticos en una presunta propensión criminal individual.

Las guías de la Comisión serán relevantes aquí porque pueden ayudar a separar herramientas de apoyo legítimas —por ejemplo, sobre hechos concretos y verificables— de sistemas que, en realidad, maquillan profiling con una retórica de prevención. Para proveedores tecnológicos que trabajan con sector público, el mensaje es incómodo pero claro: si tu producto promete identificar quién es más probable que delinca por sus rasgos o por patrones de comportamiento agregados, tu problema no es de marketing. Es de legalidad de base.

La conexión con GDPR, derechos fundamentales y gobernanza interna: el AI Act no llega solo

Un error bastante común consiste en tratar el AI Act como un reglamento autónomo que sustituye el resto del marco europeo. No funciona así. Las prácticas prohibidas del artículo 5 se leen junto a GDPR, la Carta de Derechos Fundamentales de la UE, la legislación antidiscriminación y, en algunos casos, normativa sectorial.

Por ejemplo, si una organización usa IA para inferir atributos sensibles, el problema no empieza ni acaba en el AI Act. GDPR ya considera categorías especiales de datos en su artículo 9, con un régimen reforzado para tratamiento de datos que revelen origen racial o étnico, opiniones políticas, convicciones religiosas, afiliación sindical, datos biométricos dirigidos a identificar de manera unívoca, datos de salud o relativos a vida sexual u orientación sexual. El AI Act añade una capa ex ante más dura en ciertas prácticas: algunas simplemente no deberían ocurrir. No se arreglan con un consentimiento dudoso, una cláusula contractual creativa o una DPIA llena de eufemismos.

También hay conexión con la evaluación de impacto relativa a la protección de datos del artículo 35 GDPR. Muchas organizaciones habían confiado en la DPIA como instrumento casi universal para domesticar cualquier despliegue delicado. Las guías sobre prácticas prohibidas recuerdan un límite obvio pero a menudo olvidado: una buena evaluación de impacto no legaliza lo que el legislador ha prohibido. Sirve para valorar y mitigar riesgos donde el tratamiento puede ser lícito; no para blanquear una línea roja.

En el plano de derechos fundamentales, el artículo 5 refleja preocupaciones sobre dignidad, autonomía, no discriminación, protección de datos y libertad de pensamiento o conducta. La Comisión, al interpretar estas prohibiciones, no está haciendo solo política digital. Está intentando evitar que ciertos modelos de negocio queden asentados antes de que la capacidad de reacción institucional llegue tarde. Europa ha aprendido, a veces con desesperante lentitud, que dejar crecer una práctica problemática y regularla después sale carísimo.

Qué deberían hacer ahora proveedores, deployers y compradores de IA

La reacción inteligente no es organizar un seminario interno y dar por cumplido el expediente. Tampoco esperar a que la autoridad nacional de turno publique otra guía “más operativa”. Las organizaciones que tocan IA de verdad tienen trabajo inmediato.

Primero, revisar inventarios de sistemas y casos de uso con una lógica distinta. No basta con catalogar herramientas “de IA” en sentido amplio. Hace falta bajar al nivel funcional: qué hace el sistema, sobre quién actúa, qué señales utiliza, qué inferencias genera y qué decisiones o influencias desencadena. Muchas prácticas prohibidas no se detectan mirando el nombre del producto, sino observando su efecto operativo.

Segundo, mapear cadenas de suministro. Una empresa puede no desarrollar reconocimiento facial, inferencia emocional o scoring conductual, pero sí comprar módulos, SDKs o APIs que incorporan esas funciones. Y luego integrarlos en procesos de selección, atención al cliente, prevención de fraude o analítica de usuarios. Si la prohibición afecta al uso, el argumento de “solo somos integradores” ofrece un consuelo bastante limitado.

Tercero, revisar documentación contractual y de procurement. En proveedores de IA de terceros ya no basta con pedir seguridad, disponibilidad y cumplimiento GDPR. Hay que exigir transparencia sobre datasets, finalidades previstas, variables utilizadas, exclusiones de uso, limitaciones técnicas y garantías sobre no inclusión de funcionalidades o entrenamientos incompatibles con el artículo 5. Si tu departamento de compras sigue usando la plantilla de software genérico de 2021, va tarde.

Cuarto, involucrar a legal, compliance, producto, RRHH, seguridad y negocio a la vez. Las prácticas prohibidas no son un asunto exclusivo del delegado de protección de datos ni del abogado de innovación. Un sistema de IA puede ser técnicamente brillante y jurídicamente inviable, o comercialmente muy atractivo y estratégicamente tóxico. La gobernanza útil es interdisciplinar o no es gobernanza.

Quinto, establecer una regla de escalado interno para casos fronterizos. Porque los habrá. La Comisión aclara mucho, pero no resolverá cada escenario. Cuando una funcionalidad use biometría, analice estados afectivos, module conducta de colectivos vulnerables o reasigne personas a categorías con efectos materiales, la revisión no puede quedar a nivel de product owner con prisa de lanzamiento.

Implicaciones para entidades financieras españolas: menos ciencia ficción, más revisión de casos de uso reales

Para banca, seguros, medios de pago, crédito al consumo y fintech en España, las guías tienen un efecto más concreto de lo que parece a primera vista. El sector financiero europeo no suele trabajar con sistemas de policía predictiva ni con bases de datos faciales scrapeadas de internet como actividad ordinaria. Pero sí opera con puntuación, segmentación, personalización y detección automatizada de comportamientos. Y ahí es donde el artículo 5 puede rozar procesos reales.

Un banco que use IA para adaptar ofertas a clientes en situación de estrés financiero, vulnerabilidad económica o bajo nivel de alfabetización puede entrar en terreno delicado si esa personalización explota precisamente esa vulnerabilidad para inducir conductas perjudiciales. Un asegurador que infiera rasgos sensibles o estados emocionales de clientes para ajustar trato comercial también debe mirar dos veces. Una fintech que mezcle señales conductuales o extrafinancieras para penalizar a usuarios fuera del contexto original de recogida puede acercarse a lógicas de social scoring que la UE observa con bastante poca simpatía.

Además, el encaje con DORA no es directo pero sí relevante en gobernanza. DORA exige marcos sólidos de gestión de riesgos TIC, gobernanza clara, supervisión de terceros y pruebas de resiliencia para entidades financieras. No regula contenido ético de modelos de IA, pero sí obliga a saber qué tecnología crítica usas, quién la provee y cómo controlas incidentes y dependencia. Si una entidad financiera compra IA de terceros sin entender si incorpora funciones potencialmente prohibidas, su problema no será solo de AI Act; también evidenciará una debilidad de control sobre terceros que DORA mira con lupa, en particular en su régimen de gestión del riesgo de terceros TIC del capítulo V y el artículo 28 en adelante.

Para España hay otro ángulo institucional. La Agencia Española de Supervisión de la Inteligencia Artificial, AESIA, está llamada a desempeñar un papel relevante en el ecosistema nacional, aunque el reparto exacto de competencias con otras autoridades y el despliegue completo del marco siguen evolucionando. Eso significa que las entidades no deberían esperar una única voz salvadora que les diga caso por caso qué hacer. La primera línea de defensa seguirá siendo interna.

Lo que estas guías no resuelven del todo

Sería exagerado vender este documento como cierre definitivo de todas las dudas. No lo es. Hay zonas donde la interpretación seguirá exigiendo criterio jurídico y técnico.

Una de ellas es la noción de “distorsión material del comportamiento”. La Comisión puede ofrecer ejemplos y parámetros, pero la aplicación concreta dependerá del contexto, del grado de influencia del sistema, de la vulnerabilidad de la persona afectada y de la naturaleza del daño. Otra zona gris es la relación entre inferencia emocional prohibida e inferencia de estados funcionales para seguridad o salud. El propio AI Act prevé excepciones limitadas, lo que obliga a justificar muy bien finalidad, necesidad y proporcionalidad.

También seguirá habiendo debate sobre cuándo una categorización o scoring cruza la línea desde una evaluación funcional legítima hacia una clasificación social prohibida. Aquí la documentación interna será decisiva. Para qué recoges un dato, cómo lo transformas, dónde lo reutilizas, qué efecto tiene sobre la persona y si ese efecto es proporcionado respecto a la finalidad original: esas preguntas pueden ser la diferencia entre una práctica defendible y otra explosiva.

En biometría, además, el punto más conflictivo seguirá siendo la interacción entre seguridad pública, excepciones legales y desarrollos técnicos que avanzan más deprisa que los matices normativos. Nadie debería esperar serenidad absoluta en ese campo. Habrá litigios, interpretaciones nacionales y, probablemente, bastantes intentos de estirar el perímetro de las excepciones.

La lectura política: Bruselas quiere fijar límites antes de que el mercado consolide hechos consumados

Más allá del detalle jurídico, estas guías tienen una dimensión política evidente. La Comisión está intentando que el AI Act no quede reducido a una discusión sobre obligaciones documentales para sistemas de alto riesgo mientras las prácticas más invasivas siguen avanzando por otra puerta. Publicar orientación sobre el artículo 5 sirve para enviar una señal de prioridades: hay usos de IA que la UE no quiere “gestionar”; quiere excluir.

Eso desmiente un tópico bastante repetido: que Europa regula mucho pero evita tocar lo verdaderamente conflictivo. Aquí sí lo toca. Otra cosa es que la aplicación sea impecable, uniforme y rápida. Eso está por ver. La historia regulatoria europea aconseja prudencia. Entre publicar una guía y sancionar con consistencia hay un trecho considerable. Aun así, el efecto disciplinario comienza antes de la primera multa. Empieza cuando consejo de administración, compliance y compras entienden que ciertas líneas de producto pueden ser inviables de raíz.

También conviene leer este movimiento en clave internacional. Mientras otras jurisdicciones siguen recurriendo a marcos voluntarios, principios éticos o enforcement sectorial fragmentado, la UE intenta fijar prohibiciones ex ante en ámbitos donde considera que el daño potencial no compensa el experimento. Se puede discutir si todas las categorías están perfectamente delimitadas. Lo que cuesta más discutir es la lógica subyacente: si una práctica combina opacidad, asimetría de poder, alto potencial de discriminación o manipulación y valor social dudoso, regularla solo después del escándalo no parece una estrategia brillante.

La pregunta incómoda para las empresas: no si usas IA, sino cómo monetizas la inferencia sobre personas

Durante demasiado tiempo, muchas conversaciones corporativas sobre IA han sido ridículamente abstractas. “Tenemos un marco de IA responsable”. “Seguimos la evolución regulatoria”. “Nuestra prioridad es la innovación confiable”. Magnífico. ¿Y qué haces exactamente con la gente?

Las guías sobre prácticas prohibidas obligan a volver a esa pregunta básica. No importa tanto que un sistema use un gran modelo, visión por computador o analítica conductual. Importa si la organización monetiza inferencias sobre vulnerabilidad, emociones, atributos sensibles o propensión conductual de una forma que termine reduciendo autonomía, ampliando vigilancia o provocando trato injustificado. Ahí está el quid.

Las empresas que saldrán mejor paradas no serán necesariamente las que más inviertan en branding ético, sino las que acepten una disciplina poco glamurosa: inventario fino de casos de uso, revisión jurídica previa de funcionalidades delicadas, control real sobre proveedores y capacidad de parar un despliegue aunque el business case sea seductor. Sí, suena menos épico que “liderar la revolución de la IA”. También suena más compatible con evitar una investigación regulatoria seria.

Qué conviene vigilar a partir de ahora

Lo siguiente no será un gran momento teatral, sino una secuencia menos vistosa y más decisiva. Habrá que seguir cómo estas guías se traducen en actuaciones de autoridades nacionales, en criterios del futuro AI Office europeo y en la práctica contractual de grandes compradores. También será relevante observar qué proveedores empiezan a retirar o reformular funciones de emotion recognition, profiling conductual o biometría sensible en sus catálogos para el mercado europeo. Cuando un vendor cambia discretamente una ficha de producto, a veces ahí está la noticia de verdad.

Otro punto de vigilancia será el cruce con empleo y educación. Son dos ámbitos donde el uso de IA se ha disparado sin que la robustez jurídica y científica creciera al mismo ritmo. Si las guías se toman en serio, veremos revisiones de herramientas de selección, monitorización de desempeño, proctoring y analítica de atención. Y no sería precisamente un drama. A veces la innovación necesita menos entusiasmo y más freno de mano.

En paralelo, el mercado financiero y de consumo tendrá que repensar ciertas formas de hiperpersonalización agresiva. No toda personalización es sospechosa. Pero cuando la segmentación depende de explotar fragilidad económica, cognitiva o emocional, la línea entre inteligencia comercial y práctica prohibida se hace peligrosamente fina.

La conclusión práctica: el artículo 5 ya no es un apéndice moral, es un filtro de legalidad inmediata

La publicación de estas guías cambia el tono del debate. El artículo 5 del AI Act deja de ser, para muchas empresas, esa lista incómoda que parecía lejana porque se discutía en abstracto. Ahora es un filtro operativo. Antes de evaluar si un sistema de IA es de alto riesgo, transparente o técnicamente robusto, hay una pregunta anterior: ¿debería existir o desplegarse en absoluto en esta forma?

La Comisión no ha resuelto todas las dudas, pero ha despejado suficientes como para que seguir alegando confusión empiece a sonar poco creíble. Las prohibiciones aplicables desde el 2 de febrero de 2025 obligan a revisar usos reales, no manifiestos de principios. Y obligan a hacerlo ya, sobre todo en biometría, empleo, educación, analítica conductual y servicios dirigidos a colectivos vulnerables.

Si tu organización trabaja con IA y aún no ha pasado sus casos de uso por el tamiz del artículo 5, no tiene un problema de futurismo regulatorio. Tiene un problema de gobernanza presente. Y en regulación europea, cuando el problema llega a ese punto, lo siguiente suele ser bastante menos divertido que la presentación comercial que lo vendió.