Imagen generada por IAEl director financiero recibe una videollamada del consejero delegado. La cara encaja, la voz también y la petición parece razonable: transferir fondos a una cuenta de un proveedor antes de que termine el día. Dos minutos después, el dinero está fuera. La videollamada era falsa, pero el proceso interno que la validó era auténtico.
Ese es el cambio relevante. La inteligencia artificial no ha inventado la suplantación de ejecutivos ni el fraude de ingeniería social; ha reducido su coste, ha mejorado su credibilidad y permite repetirlo a una escala que los controles humanos no pueden absorber. En banca y seguros, el problema ya no consiste únicamente en detectar una imagen manipulada. Consiste en demostrar que una identidad, una instrucción y una decisión fueron verificadas por canales independientes, con trazabilidad suficiente para reconstruir el incidente.
Para un CISO, la pregunta útil no es si la organización tiene un detector de deepfakes. Es si puede detener un pago cuando la voz parece legítima, el correo procede de una cuenta comprometida y el segundo aprobador solo ha visto la misma evidencia falsificada que el primero.
La respuesta exige combinar controles técnicos, gobierno del fraude y obligaciones regulatorias. DORA aporta la arquitectura de resiliencia y notificación; el Reglamento de Inteligencia Artificial introduce obligaciones específicas de transparencia para determinados contenidos generados o manipulados; el GDPR limita el uso de biometría y exige seguridad adecuada; y los controles antifraude del negocio deben convertir todo ello en decisiones operativas, no en una colección de políticas impecables que nadie consulta durante una llamada urgente.
Un deepfake de voz o vídeo suele describirse como un problema de autenticidad de contenido. En una entidad financiera es, sobre todo, un problema de confianza operativa. El atacante intenta que una persona acepte una acción de alto impacto basándose en una señal que hasta ayer se consideraba suficientemente fiable: la voz de un superior, la imagen de un cliente en una videollamada o un documento de identidad aparentemente coherente.
La campaña puede combinar varias técnicas:
La consecuencia práctica es incómoda: un control centrado en una única señal —la voz, el rostro, el correo o el documento— se vuelve frágil. La autenticación multifactor tampoco resuelve por sí sola el problema si todos los factores se obtienen mediante la misma interacción social o si el atacante convence al usuario para aprobar una solicitud legítima en apariencia.
En pagos corporativos, por ejemplo, el control decisivo no debería ser “¿reconoce el director la voz?”. Debería ser “¿la orden está dentro de los límites aprobados, coincide con el patrón del beneficiario, fue confirmada mediante un canal distinto y exige una segunda aprobación cuando cambia la cuenta de destino?”. La detección audiovisual ayuda, pero la segregación de funciones y la confirmación fuera de banda suelen ser más resistentes que intentar adivinar si cada píxel ha sido fabricado por una máquina.
DORA es aplicable desde el 17 de enero de 2025. No contiene un capítulo titulado “deepfakes”, pero eso no significa que el fenómeno quede fuera. El Reglamento (UE) 2022/2554 obliga a gestionar el riesgo de las TIC en términos suficientemente amplios para cubrir el compromiso de canales, sistemas de autenticación, herramientas de atención al cliente y procesos de pago.
El punto de partida está en el artículo 5: el órgano de dirección conserva la responsabilidad última sobre el marco de gestión del riesgo de las TIC. Si una entidad trata el fraude sintético como un asunto exclusivo de seguridad o de operaciones, sin incorporar al responsable de negocio, fraude, cumplimiento y continuidad, está repartiendo la responsabilidad sin eliminarla.
El artículo 6 exige un marco de gestión del riesgo de las TIC documentado. En la práctica, ese marco debe identificar los escenarios en los que una señal generada o manipulada por IA puede llevar a una acción no autorizada. No basta con registrar “phishing” como riesgo genérico. El inventario debería distinguir, al menos, entre una llamada falsa para cambiar un beneficiario, una videollamada falsa para aprobar una transferencia y una identidad sintética utilizada durante la contratación.
Los artículos 9 y 10 son especialmente relevantes. El primero aborda la protección y prevención; el segundo, la detección. La detección de deepfakes puede incluir análisis de metadatos, detección de anomalías en el canal, verificación de procedencia, análisis de voz o vídeo y señales de comportamiento. Pero DORA no prescribe que haya que comprar una tecnología concreta. Exige que los controles sean adecuados al riesgo y que la entidad pueda demostrar que funcionan.
Los artículos 11 y 12 trasladan el problema a la respuesta y la recuperación. Si un empleado recibe una orden fraudulenta por vídeo, la entidad necesita una capacidad operativa para congelar la transacción, escalarla, preservar las evidencias y recuperar fondos cuando sea posible. El artículo 13 exige aprender de los incidentes relacionados con las TIC. Un caso de suplantación que termina en una transferencia bloqueada no debería cerrarse con “no hubo pérdida”. También revela qué control falló, cuánto tardó la escalada y si la segunda aprobación aportó una defensa real o solo una falsa sensación de seguridad.
El artículo 14 añade la comunicación. La entidad debe poder informar internamente y coordinarse con terceros relevantes durante una crisis. Esto importa cuando el fraude afecta simultáneamente a un banco, un proveedor de pagos, una plataforma de atención y un proveedor de servicios de identidad. El incidente puede empezar como una llamada convincente y acabar como un problema de disponibilidad, integridad de datos, fraude y relación con clientes.
La clasificación de incidentes y la notificación deben analizarse bajo los artículos 17 a 23 y los criterios técnicos aplicables. No todo intento de deepfake será un incidente grave de TIC notificable. Pero una campaña que provoque indisponibilidad, pérdida de integridad, impacto financiero material o afectación a clientes puede activar el proceso. El hecho de que la causa inicial fuera manipulación humana no la convierte en un asunto ajeno a DORA.
Hay una lección de gobierno aquí: la métrica no puede ser únicamente el número de deepfakes detectados. Debe incluir el tiempo desde la primera señal hasta el bloqueo, el porcentaje de órdenes de alto riesgo confirmadas por un canal independiente, la tasa de falsos positivos, el volumen de operaciones escaladas y la capacidad de recuperar fondos. Un detector que marca miles de llamadas sospechosas pero no detiene ninguna orden material no es resiliencia; es decoración estadística.
El Reglamento (UE) 2024/1689 introduce una obligación que afecta directamente a los contenidos sintéticos. El artículo 50.4 exige que los proveedores de sistemas de IA que generen contenido de audio, imagen, vídeo o texto sintético marquen las salidas en un formato legible por máquina y detectable como generadas o manipuladas artificialmente. El mismo apartado exige que quienes desplieguen sistemas que generen o manipulen imágenes, audio o vídeo constitutivos de deepfakes revelen que el contenido ha sido generado o manipulado artificialmente.
La aplicación general del AI Act comienza el 2 de agosto de 2026, aunque el Reglamento distribuye algunas obligaciones en fechas distintas. Para una entidad financiera que usa una herramienta de generación de vídeo en formación, atención al cliente o comunicaciones internas, la cuestión no es solo si el proveedor afirma cumplir. Hay que comprobar qué mecanismo de marcado utiliza, si sobrevive a la descarga y recodificación, y qué ocurre cuando el contenido pasa por un sistema de edición, un canal de mensajería o una plataforma de videoconferencia.
El artículo 50 no convierte una etiqueta en un certificado de autenticidad. Un contenido puede estar correctamente marcado y seguir siendo utilizado para engañar. Tampoco obliga a los atacantes que operan fuera de los controles de la entidad a etiquetar sus falsificaciones de forma honesta. Su valor está en crear una señal adicional para plataformas, usuarios y sistemas de detección, no en sustituir la autenticación de la transacción.
El AI Act también obliga a separar usos que suelen mezclarse en los inventarios. Un sistema empleado para evaluar la solvencia de personas físicas entra en la categoría de alto riesgo del anexo III, punto 5(b), cuando se utiliza para evaluar su solvencia o establecer su puntuación crediticia, salvo la detección de fraude financiero. El anexo III, punto 5(c), cubre determinados sistemas utilizados para la evaluación de riesgos y la fijación de precios en seguros de vida y salud. Un motor dedicado a detectar fraude no se convierte automáticamente en un sistema de alto riesgo por estar dentro de un banco o una aseguradora.
La clasificación jurídica depende del propósito, la función y el uso real. Esa precisión importa porque las obligaciones de alto riesgo —incluidos los requisitos de gestión de riesgos del artículo 9, gobernanza de datos del artículo 10, registros del artículo 12, transparencia del artículo 13, supervisión humana del artículo 14 y precisión, solidez y ciberseguridad del artículo 15— no se activan por poner la palabra “IA” en una ficha de producto.
El artículo 4, aplicable desde el 2 de febrero de 2025, exige que proveedores y responsables del despliegue adopten medidas para garantizar un nivel suficiente de alfabetización en IA de su personal y de quienes operen los sistemas en su nombre. En fraude, esto significa formar a los empleados para reconocer que una voz conocida ya no es una prueba de identidad. Una sesión de concienciación genérica sobre phishing no cubre la aprobación de pagos mediante vídeo sintético.
Si la entidad utiliza IA para tomar decisiones individuales, también debe revisar el artículo 22 del GDPR sobre decisiones basadas únicamente en tratamiento automatizado, incluida la elaboración de perfiles, cuando produzcan efectos jurídicos o afecten significativamente a la persona. Un modelo antifraude puede recomendar bloquear una cuenta sin ser el único decisor; pero la intervención humana debe ser real, competente y capaz de revisar la conclusión, no un clic ritual sobre la recomendación del sistema.
La respuesta tecnológica más intuitiva al deepfake es comparar la cara o la voz del interlocutor con una plantilla biométrica. Ahí aparece el primer problema jurídico. El artículo 4.14 del GDPR define los datos biométricos como datos personales obtenidos mediante un tratamiento técnico específico relativos a las características físicas, fisiológicas o conductuales que permiten confirmar la identificación única de una persona. El artículo 9.1 incluye los datos biométricos destinados a identificar de manera unívoca a una persona física entre las categorías especiales de datos.
Antes de desplegar reconocimiento facial o de voz para autenticar clientes, la entidad necesita determinar si el tratamiento entra en el artículo 9 y qué excepción del artículo 9.2 puede invocar. También debe documentar la base jurídica del artículo 6, la necesidad y proporcionalidad, la información ofrecida al interesado y, normalmente, una evaluación de impacto conforme al artículo 35 cuando el tratamiento implique tecnologías nuevas y un alto riesgo para los derechos y libertades.
La alternativa no biométrica puede ser más robusta y menos intrusiva: claves criptográficas, autenticación resistente al phishing, confirmación de transacciones con datos dinámicos, límites de importe, devolución de llamada a un número verificado y doble control organizativo. La pregunta no es qué solución parece más futurista, sino cuál reduce el fraude sin convertir a cada cliente en una muestra permanente de voz y rostro.
El artículo 32 del GDPR exige medidas técnicas y organizativas apropiadas al riesgo. Para un sistema de verificación audiovisual, la evidencia debe cubrir el acceso a las plantillas, el cifrado, la retención, la separación de entornos, la gestión de falsos positivos y la capacidad de borrar o revocar referencias biométricas cuando proceda. Si un proveedor conserva grabaciones para “mejorar el modelo” sin una delimitación clara de finalidad, el problema deja de ser solo antifraude.
Cuando un ataque provoque una violación de seguridad de datos personales, el artículo 33 exige notificarla a la autoridad de control sin dilación indebida y, cuando sea posible, dentro de las 72 horas desde que la organización tenga constancia, salvo que sea improbable que constituya un riesgo para los derechos y libertades. El artículo 34 puede exigir comunicación a los afectados cuando exista un alto riesgo. DORA y GDPR pueden activarse por el mismo hecho, con análisis y canales distintos. Una entidad no puede esperar a resolver la atribución técnica antes de iniciar el reloj de respuesta.
La arquitectura defensiva debe asumir que cualquier canal de comunicación puede ser manipulado. Eso no significa bloquear todas las videollamadas ni desconfiar de cada cliente. Significa asignar fricción al riesgo correcto.
El primer control es un mapa de operaciones de alto impacto: cambios de beneficiario, transferencias urgentes, ampliación de límites, emisión de credenciales, recuperación de cuenta, modificación de datos de contacto y acceso a información financiera sensible. Cada operación debe tener una política de autenticación y aprobación. Una llamada de voz puede servir para informar de una incidencia; no debería bastar para cambiar una cuenta de destino.
La matriz debe incluir importe, novedad del beneficiario, jurisdicción, urgencia, comportamiento histórico, canal utilizado y existencia de una excepción. La urgencia es una señal de riesgo, no una razón para saltarse el control. En un fraude de suplantación, frases como “no llames a nadie más” o “el mercado cierra en diez minutos” intentan convertir la presión temporal en un mecanismo de autorización.
La confirmación fuera de banda solo aporta seguridad si el segundo canal no está bajo el control del atacante. Llamar al número proporcionado durante la videollamada no es independencia; es continuidad del engaño. La entidad debe utilizar un dato previamente verificado, una aplicación autenticada o un contacto registrado con controles de cambio.
Para operaciones sensibles, la confirmación debe mostrar al aprobador los datos que realmente va a autorizar: beneficiario, cuenta, importe, divisa y fecha. Un aviso que solo dice “aprueba esta operación” facilita el consentimiento ciego. La criptografía de la autenticación protege la sesión, pero no evita que una persona autorice conscientemente una transferencia fraudulenta si los datos que ve han sido ocultados.
Los detectores de contenido sintético pueden analizar artefactos audiovisuales, latencia, patrones de parpadeo, inconsistencias de iluminación, ruido de fondo, compresión, metadatos o características de la voz. Ninguna señal aislada es definitiva. Los modelos generativos cambian, las plataformas recomprimen el contenido y una conexión deficiente puede parecer un ataque.
La salida del detector debe alimentar un motor de riesgo que combine señales técnicas, contextuales y transaccionales. Una videollamada sospechosa durante una solicitud normal puede requerir una verificación adicional. La misma señal durante un cambio de beneficiario por un importe excepcional debe activar una retención y una revisión humana. Esa política debe estar documentada y probada con escenarios positivos y negativos.
El procedimiento debe responder a preguntas concretas: quién puede congelar el pago, durante cuánto tiempo, qué equipo contacta con el supuesto ordenante, qué evidencias se conservan, cómo se avisa al banco receptor y cuándo se escala a fraude, seguridad, legal y dirección. El playbook también debe indicar qué ocurre si el atacante ha comprometido el correo corporativo del supuesto aprobador.
La retención temporal es un control de negocio, no un fracaso del sistema. En operaciones de riesgo, unos minutos de fricción pueden ser la diferencia entre una transferencia recuperable y una pérdida definitiva. La entidad debe medir cuántas operaciones se ponen en espera, cuántas se liberan tras la comprobación y cuánto dinero se evita perder. Sin esos datos, la dirección solo verá el coste de la fricción y no el valor de la prevención.
Una política antifraude no demuestra que el control exista. Para que el programa sea defendible ante auditoría interna, supervisor o autoridad de protección de datos, cada control necesita una evidencia fechada, reproducible y vinculada a un riesgo.
| Control | Responsable principal | Evidencia mínima | Señal de debilidad |
|---|---|---|---|
| Inventario de usos de IA | CISO, compliance y negocio | Registro del sistema, finalidad, proveedor, datos tratados, clasificación bajo AI Act y propietario | La herramienta aparece solo como “software antifraude” sin finalidad concreta |
| Verificación de órdenes sensibles | Operaciones y fraude | Regla de riesgo, canal independiente, registro de aprobación y datos mostrados al aprobador | La confirmación se realiza por el mismo correo o teléfono usado para ordenar el pago |
| Detección de contenido sintético | SOC y equipo antifraude | Versión del modelo, umbrales, pruebas, falsos positivos, falsos negativos y decisiones derivadas | El proveedor entrega una puntuación sin explicar su uso operativo |
| Gestión de incidentes TIC | CISO y respuesta a incidentes | Playbook, clasificación, cronología, comunicaciones, decisión de notificación y lecciones aprendidas | El caso se cierra como “fraude” sin evaluar DORA artículos 17-23 |
| Privacidad biométrica | Delegado de protección de datos | Base jurídica, análisis del artículo 9, evaluación de impacto del artículo 35, retención y controles de acceso | El proveedor conserva voz o rostro para entrenar modelos sin finalidad documentada |
| Alfabetización en IA | Recursos humanos y compliance | Programa, colectivos cubiertos, ejercicios sobre deepfakes y resultados de evaluación | Formación genérica sobre phishing sin simulaciones de voz o vídeo |
| Dependencias de terceros | Compras, riesgo tecnológico y legal | Contrato, ubicación de datos, subcontratistas, SLA, auditoría, salida y pruebas | La entidad no puede recuperar registros ni verificar el marcado de contenidos |
La evidencia más valiosa no es una captura de pantalla del panel del proveedor. Es la reconstrucción completa de una decisión: qué señal apareció, qué regla se activó, quién intervino, qué datos vio, por qué se liberó o retuvo la operación y cuánto tardó cada paso. Esa cadena permite comprobar si el control funciona en condiciones reales y no solo durante una demostración comercial.
Las herramientas de detección, verificación de identidad, análisis de voz y generación de contenido suelen depender de servicios externos. DORA, en sus artículos 28 a 30, exige gestionar el riesgo de terceros proveedores de servicios TIC y establece obligaciones sobre contratos, derechos de acceso y auditoría, subcontratación, salida y concentración. El artículo 28.4 obliga a prestar especial atención a los contratos relativos a funciones que apoyan funciones críticas o importantes.
El contrato debe responder, como mínimo, a estas preguntas: ¿qué datos se envían al proveedor?, ¿se utilizan para entrenar modelos?, ¿qué subencargados intervienen?, ¿qué registros se conservan?, ¿cuánto tarda el proveedor en avisar de un incidente?, ¿puede la entidad probar el sistema sin afectar a clientes?, ¿qué sucede si el modelo cambia de versión?, ¿cómo se exportan los datos al terminar la relación?
La gestión del cambio es crítica. Un proveedor puede actualizar un modelo de detección y modificar su tasa de falsos positivos sin que cambie el nombre del producto. Cada cambio relevante debe activar una evaluación, pruebas de regresión y, cuando proceda, aprobación del propietario del control. La inteligencia artificial no merece una excepción a la gestión de versiones solo porque su comportamiento sea probabilístico.
También conviene evaluar la concentración. Si varias entidades europeas dependen del mismo servicio de verificación de voz o de la misma infraestructura de generación, una interrupción o una degradación del proveedor puede producir un problema simultáneo en todo el sector. La supervisión de proveedores críticos de TIC prevista por DORA no elimina la responsabilidad de la entidad financiera sobre su propia arquitectura de contingencia.
Las pruebas deben ir más allá de mostrar un vídeo fabricado al equipo de seguridad. Un programa serio combina ejercicios técnicos y operativos:
Las métricas deben separar detección y prevención. Una tasa alta de detección puede coexistir con pérdidas si las alertas se revisan demasiado tarde. El cuadro de mando debería incluir precisión, cobertura, tiempo de respuesta, operaciones retenidas, tasa de liberación tras revisión, importe expuesto, incidentes repetidos y porcentaje de controles bypassados por excepciones.
La prueba más incómoda es el escenario legítimo pero anómalo: un director real viaja, utiliza una conexión nueva y ordena una operación excepcional. Si el sistema bloquea todo, protege el fraude a costa del negocio. Si libera todo, protege la experiencia a costa de la entidad. El diseño debe permitir una verificación adicional rápida, no obligar a elegir entre automatización ciega y bloqueo indiscriminado.
Las entidades quieren experiencias digitales sin fricción y controles capaces de distinguir una operación legítima de una falsificación fabricada a escala. Ambas metas chocan cuando la confianza se basa en señales fáciles de copiar. No existe un detector que convierta una videollamada en una prueba irrefutable de identidad.
La solución no consiste en añadir una capa tras otra de tecnología sin cambiar el proceso. Consiste en reservar la máxima fricción para las acciones irreversibles y mantener una cadena de aprobación independiente. Para una transferencia de alto riesgo, una llamada perfectamente convincente debe pesar menos que una confirmación criptográfica ligada a los datos exactos de la operación. Para una consulta informativa, no hace falta el mismo nivel de control.
El criterio regulatorio converge en esa dirección, aunque cada norma utilice su propio idioma. DORA pide resiliencia, detección, respuesta, aprendizaje y control de terceros. El AI Act exige transparencia en determinados contenidos sintéticos y alfabetización en IA. El GDPR exige limitar la biometría, proteger los datos y controlar las decisiones automatizadas. Ninguno promete eliminar el fraude. Todos empujan a la entidad a demostrar que conoce su riesgo y que sus controles producen una respuesta verificable.
El expediente que conviene preparar ahora no es una presentación sobre el potencial de la IA. Es un conjunto de pruebas: inventario de usos, clasificación jurídica, mapa de operaciones sensibles, reglas de confirmación, resultados de pruebas, contratos de proveedores, métricas de eficacia, decisiones de privacidad y cronologías de incidentes. Cuando llegue la llamada falsa, nadie necesitará otra estrategia. Necesitará que ese diseño funcione antes de que alguien pulse “aprobar”.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal de regulación, vulnerabilidades explotadas y acciones para tu equipo.
¿Quieres un plan a medida? Modela tu organización con Agentic Digital Twin.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…