Imagen generada por IALa estafa ya no necesita un correo con faltas de ortografía, un dominio imposible o un príncipe nigeriano con problemas de liquidez. Puede llegar con la cara de tu director financiero, la voz de tu hija o una cuenta de empresa que lleva años publicando contenido normal.
El 42% de los consumidores españoles cree que la inteligencia artificial está haciendo que las estafas sean más convincentes y difíciles de detectar. Otro 37% teme que los delincuentes utilicen su rostro o su voz para suplantarle en internet. Son cifras recogidas por Cybersecurity News ES en la noticia que sirve de punto de partida para este análisis. No describen una amenaza hipotética: describen el momento en el que la intuición humana empieza a perder la carrera contra la síntesis artificial.
La consecuencia práctica es incómoda. Ya no basta con preguntar si una imagen “parece rara” o si una voz “suena como siempre”. La detección visual y auditiva puede aportar señales, pero no debería ser la prueba decisiva para autorizar una transferencia, restablecer una contraseña o entregar información sensible. La defensa eficaz consiste en verificar el contexto, el canal, la identidad y la autorización por separado.
Estas son cinco pruebas concretas para hacerlo. No prometen detectar todos los deepfakes. Ninguna herramienta seria puede prometerlo. Sirven para impedir que una señal sintética se convierta, sin controles intermedios, en una acción real.
Una voz clonada puede sonar impecable. Una videollamada falsa puede mostrar un rostro con iluminación razonable. Lo que con frecuencia delata el ataque no está en los píxeles ni en las ondas de audio, sino en la petición que acompaña al contenido: “hazlo ahora”, “no llames a nadie”, “el banco está esperando” o “no lo escales porque es una operación confidencial”.
La urgencia reduce deliberadamente el tiempo que tiene la víctima para comprobar la identidad. También explota una debilidad organizativa conocida: cuando una instrucción parece proceder de una persona con autoridad, muchos empleados confunden obediencia con autenticidad. Un mensaje del director general no sustituye a un procedimiento de pagos; una videollamada no elimina la segregación de funciones.
La prueba es sencilla: ¿qué ocurre si retrasas la acción diez minutos y utilizas un canal independiente? Si la respuesta del supuesto interlocutor es que no puedes verificar, no puedes colgar o no puedes involucrar a otra persona, el riesgo aumenta de forma inmediata.
Para operaciones financieras, define una regla que no dependa de la calidad de la voz o la imagen: cualquier cambio de cuenta bancaria, transferencia extraordinaria, alta de beneficiario o pago urgente debe confirmarse mediante un canal previamente registrado. No vale el número incluido en el correo que solicita el pago. Debe utilizarse un teléfono del directorio corporativo, una llamada al número habitual o una aprobación en el sistema financiero.
En una conversación personal, cuelga y devuelve la llamada al número que ya tenías guardado. Si el supuesto familiar dice que ha perdido el teléfono, formula una pregunta acordada previamente. No hace falta montar una película de espionaje: puede ser una palabra de seguridad, un dato compartido que no esté publicado en redes o una pregunta cuya respuesta no pueda obtenerse mirando el perfil de la víctima.
La prueba no busca demostrar que el interlocutor es una persona. Busca demostrar que la petición es legítima. Es una diferencia decisiva. La biometría audiovisual responde, como mucho, a “¿se parece a alguien?”. El control financiero debe responder a “¿está autorizado este pago concreto?”.
El control debe quedar escrito en la política de pagos y en los procedimientos de recuperación de cuentas. Conviene especificar:
En entidades financieras, este enfoque encaja con la exigencia de gobernanza y control interno de DORA, Reglamento (UE) 2022/2554. Su artículo 5 atribuye al órgano de dirección la responsabilidad última del riesgo de TIC, mientras que el artículo 6 exige un marco de gestión del riesgo de TIC. DORA no menciona “deepfakes” como una casilla independiente que pueda marcarse y olvidar. Exige algo más incómodo: que el riesgo operativo real se traduzca en controles operativos reales.
Para una empresa no financiera incluida en NIS2, el artículo 21 de la Directiva (UE) 2022/2555 exige medidas técnicas, operativas y organizativas para gestionar los riesgos de ciberseguridad. La autenticación de una instrucción de pago y la prevención del fraude de identidad encajan de lleno en esa obligación, aunque el incidente no empiece con un malware espectacular.
Un atacante que controla un correo electrónico puede controlar también el hilo de conversación. Si ha secuestrado una cuenta de Microsoft 365, Google Workspace o una red social, responder al mensaje dentro del mismo hilo no aporta independencia: el atacante puede leer la respuesta, borrarla, modificar la conversación o continuar escribiendo desde la cuenta comprometida.
La misma regla se aplica a una videollamada. Si el enlace lo ha enviado la persona que supuestamente pide una transferencia, la reunión no prueba gran cosa. El atacante puede haber creado la invitación, ocupar la cuenta legítima o utilizar una grabación manipulada. El vídeo añade apariencia de presencia; no añade necesariamente autenticidad.
La segunda prueba es el cambio de canal. La instrucción llega por correo: verifica por teléfono. Llega por teléfono: confirma mediante el sistema corporativo. Llega por una aplicación de mensajería: abre una conversación nueva desde un contacto verificado. La independencia no debe ser perfecta para ser útil, pero sí suficiente para que el mismo atacante no controle ambos extremos.
Las llamadas pueden utilizar suplantación del identificador de llamada. El nombre que aparece en pantalla no demuestra que la llamada proceda de esa persona o entidad. Tampoco lo demuestra un dominio parecido: “empresa-ejemplo.com” y “empresa—ejemplo.com” pueden parecer idénticos en una pantalla pequeña y no conducen al mismo sitio.
La verificación debe empezar desde una fuente anterior al incidente. Un número impreso en la tarjeta corporativa, el directorio interno, el portal oficial de la entidad o la aplicación habitual ofrece más garantías que un número recibido durante la emergencia. En el ámbito bancario, nunca debe utilizarse el teléfono incluido en un SMS que ordena “confirmar” una operación.
El cambio de canal también protege contra el secuestro de redes sociales. Si una cuenta de proveedor empieza a solicitar documentos o pagos mediante mensajes directos, la conversación debe trasladarse a un contacto comercial ya conocido. Una cuenta con miles de seguidores puede estar comprometida; la audiencia no es un certificado de identidad.
Muchas empresas tienen una regla de “doble aprobación” que se cumple con dos clics realizados desde el mismo dispositivo, en la misma bandeja y sin cuestionar la solicitud. Eso es una simulación de control. La separación útil exige que la segunda persona reciba la información por una vía suficientemente independiente y conozca qué debe comprobar.
Por ejemplo, el segundo aprobador debería verificar el beneficiario con los datos maestros, revisar si el cambio de cuenta fue solicitado por un canal autorizado y comprobar que la operación encaja con el contrato o factura. Su trabajo no es confirmar que el correo existe; es confirmar que el negocio existe.
La mayoría de las personas busca artefactos: labios que no sincronizan, parpadeos extraños, bordes deformados, sombras incoherentes, manos imposibles o un audio metálico. Esas señales pueden aparecer, pero las herramientas generativas mejoran deprisa y las plataformas recomprimen el contenido. Un vídeo legítimo de baja calidad puede parecer falso; uno manipulado con suficiente presupuesto puede no ofrecer una pista evidente.
La tercera prueba consiste en pedir una acción espontánea y contextual, pero sin convertirla en un examen de seguridad basado únicamente en el vídeo. En una llamada inesperada, solicita que la persona repita la petición en un canal seguro, que explique el motivo de la operación con datos que no estén en el mensaje original o que complete un paso dentro de una aplicación autenticada. Si se trata de un familiar, cuelga y devuelve la llamada. Si se trata de un empleado, pide que inicie la solicitud en el flujo corporativo.
La clave está en que la respuesta no pueda generarse simplemente a partir de una grabación o de información pública. Una orden de “levanta la mano” puede frustrar algunos montajes simples, pero no constituye autenticación robusta. Un sistema de identidad no debería descansar en una prueba que un generador de vídeo pueda aprender a imitar.
En imágenes y vídeo, busca inconsistencias entre la cara y el entorno: iluminación que cambia sin razón, reflejos que no coinciden, bordes del pelo o las gafas que vibran, texto ilegible en objetos cercanos, movimientos bruscos entre fotogramas y una boca que parece sincronizada pero no respeta del todo la respiración o la prosodia. En audio, presta atención a pausas demasiado regulares, respiraciones ausentes o repetitivas, cambios de timbre entre frases, ruido de fondo que no evoluciona y una entonación emocional que no corresponde con el contenido.
Son indicios, no veredictos. La ausencia de estas señales no autoriza la operación. La presencia de una sola tampoco demuestra que exista una falsificación. La compresión de una aplicación de mensajería, un micrófono defectuoso o una mala conexión pueden producir anomalías parecidas.
Las herramientas de detección automática deben tratarse como sistemas de apoyo. Presentan falsos positivos y falsos negativos, se degradan cuando cambia el formato del archivo y pueden ser engañadas por contenidos editados varias veces. El resultado de un detector no debería ser la única base para bloquear a un cliente, acusar a un empleado o denunciar una cuenta.
Si una llamada o vídeo solicita modificar datos de identidad, restablecer credenciales, transferir dinero o revelar información no pública, el agente debe abandonar el criterio de “parece la persona” y aplicar el procedimiento de autenticación previsto. Esto puede incluir preguntas de conocimiento, un código de un solo uso enviado por el canal registrado, una firma electrónica o una interacción dentro de la aplicación oficial.
La solución no consiste en pedir al cliente que envíe una foto del DNI por cualquier chat. Esa reacción puede abrir un segundo problema de privacidad. El artículo 32 del RGPD exige medidas técnicas y organizativas adecuadas al riesgo, y el artículo 25 obliga a aplicar protección de datos desde el diseño y por defecto. Recoger más documentos de identidad sin controlar dónde se almacenan, quién accede a ellos y cuánto tiempo se conservan no es seguridad: es ampliar el inventario de material que puede ser robado.
Una cuenta comprometida no siempre publica un mensaje absurdo. A veces el atacante mantiene durante días la apariencia habitual y espera a una oportunidad concreta: una factura pendiente, una campaña de financiación, una negociación confidencial o una conversación con un cliente. El contenido puede ser correcto porque el objetivo no es llamar la atención, sino utilizar la confianza acumulada.
La cuarta prueba no mira solo el mensaje. Mira el comportamiento de la cuenta antes, durante y después de la petición.
En una cuenta corporativa, algunas señales relevantes son:
Ninguna señal prueba por sí sola el compromiso. Un empleado puede viajar; un proveedor puede cambiar de infraestructura; una campaña puede alterar el horario de publicación. Lo relevante es la combinación y la proximidad temporal con una petición sensible.
En las suites corporativas, los equipos de seguridad deberían revisar los registros de autenticación, las reglas de bandeja, las aplicaciones con permisos delegados, las sesiones activas y los cambios en métodos de recuperación. El objetivo no es acumular logs durante siete años para no mirar ninguno. Es establecer alertas sobre eventos que cambian el poder de la cuenta: alta de un método MFA, consentimiento a una aplicación nueva, creación de una regla de reenvío externo o inicio de sesión imposible desde dos ubicaciones incompatibles.
Para redes sociales, hay que activar notificaciones de cambio de correo, teléfono y contraseña, revisar sesiones abiertas y restringir el acceso administrativo a cuentas de empresa. Las cuentas con varios administradores necesitan un inventario de quién puede publicar, cambiar la recuperación o conectar aplicaciones de terceros. Un administrador olvidado en una agencia que ya no trabaja para la empresa no es un detalle administrativo; es una vía de entrada.
El MFA reduce el riesgo, pero no convierte una cuenta en inexpugnable. El phishing puede robar sesiones, inducir al usuario a aprobar una solicitud fraudulenta o capturar credenciales mediante páginas falsas. Para administradores y perfiles de alto impacto, las llaves de seguridad compatibles con FIDO2 ofrecen una resistencia al phishing superior a los códigos reutilizados o enviados por SMS. La elección concreta debe tener en cuenta compatibilidad, recuperación y riesgo de bloqueo, pero “tenemos MFA” no debería cerrar la conversación.
Las cuentas secuestradas suelen aprovechar relaciones preexistentes. El proveedor conoce el nombre del proyecto, el cliente y el importe aproximado. El atacante no necesita inventar una historia; le basta con esperar a que la conversación llegue al punto en el que un cambio de cuenta o una descarga parezca plausible.
Por eso la comprobación debe centrarse en cambios, no solo en anomalías. Una factura habitual con un IBAN nuevo requiere verificación. Una solicitud de acceso a una carpeta habitual desde un enlace nuevo requiere verificación. Una voz conocida pidiendo una acción fuera de su patrón normal requiere verificación.
La quinta prueba es la más técnica y la que más se malinterpreta. El hecho de que una imagen, un vídeo o un audio lleve una etiqueta de autenticidad, una marca de agua o metadatos no garantiza que el contenido sea verdadero. Del mismo modo, que no tenga esos elementos no demuestra que sea falso.
Los metadatos pueden desaparecer al subir un archivo a una plataforma. Pueden editarse. Una firma de procedencia puede demostrar que un archivo fue creado o modificado por una herramienta concreta, pero no necesariamente que el contenido subyacente describe un hecho real. La procedencia responde a “¿de dónde procede este archivo y qué transformaciones declara?”. La autenticidad de la afirmación exige comprobar también quién habla, cuándo, con qué autoridad y contra qué fuentes independientes.
Cuando recibas contenido sensible, conserva el original sin reenviarlo o recomprimirlo, anota la fecha y hora, guarda la URL, identifica la cuenta emisora y captura el contexto. Si la decisión puede afectar a clientes, pagos, empleo o reputación, registra quién verificó la información y mediante qué canal. Esta disciplina sirve tanto para investigar un fraude como para demostrar que la organización actuó con diligencia.
Subir una grabación de voz de un cliente o una videollamada interna a un detector gratuito puede crear un riesgo de privacidad y confidencialidad. Antes de utilizar un servicio, hay que comprobar qué datos conserva, si los utiliza para entrenar modelos, dónde los procesa, quién es el encargado del tratamiento y qué controles ofrece. El artículo 28 del RGPD obliga a regular la relación con los encargados del tratamiento; no basta con que una página web prometa “análisis seguro”.
Las entidades financieras tienen además que valorar la externalización como parte de su riesgo tecnológico. DORA dedica su capítulo V a la gestión del riesgo asociado a terceros proveedores de servicios de TIC; el artículo 28 exige que las entidades gestionen ese riesgo y mantengan la responsabilidad sobre sus obligaciones. La pregunta no es únicamente si el detector funciona. Es qué datos recibe, qué ocurre si falla, cómo se recuperan los resultados y cómo se abandona el servicio sin perder evidencias relevantes.
El mercado ofrece detectores que asignan una probabilidad de manipulación. Pueden ser útiles en un flujo de investigación, pero tienen límites estructurales. Los modelos generativos cambian, los formatos se recomprimen, los atacantes pueden editar solo una parte de la conversación y las muestras disponibles para entrenar el detector no representan todos los acentos, cámaras, micrófonos y condiciones de red.
Hay un problema adicional: incluso un detector excelente no responde a la pregunta empresarial importante. Puede indicar que una voz parece sintética, pero no decir si una transferencia está autorizada. Puede estimar que un vídeo no ha sido manipulado, pero no demostrar que la persona tenía capacidad para ordenar un pago. Convertir una herramienta probabilística en un semáforo legal o financiero es una forma elegante de automatizar el error.
El enfoque más sólido combina cuatro capas:
La IA puede participar en las cuatro capas, pero no debe convertirse en el único árbitro. Una herramienta que detecta un vídeo no sustituye a un proceso que impide pagar a una cuenta nueva sin confirmación.
La regulación europea no necesita utilizar la palabra “deepfake” en cada obligación para afectar directamente a este riesgo. DORA, NIS2 y el RGPD convergen en una idea poco cinematográfica pero muy útil: la organización debe poder demostrar que conoce sus riesgos, ha implantado controles proporcionales y puede responder cuando fallan.
En el caso de DORA, aplicable desde el 17 de enero de 2025 y plenamente operativo para las entidades financieras en 2026, el artículo 9 exige protección y prevención frente a riesgos de TIC; el artículo 10 aborda la detección de actividades anómalas; y el artículo 17 regula la gestión de incidentes relacionados con las TIC. Una campaña de suplantación que comprometa una cuenta, provoque un pago fraudulento o afecte a la disponibilidad de un servicio puede activar obligaciones internas de clasificación y, si alcanza los umbrales aplicables, de notificación.
DORA no convierte cada intento de phishing en un incidente mayor. Sí obliga a que la entidad tenga criterios para distinguir un intento bloqueado, un compromiso de cuenta y una interrupción o pérdida con relevancia operativa. Si los equipos de fraude, seguridad, continuidad y cumplimiento utilizan definiciones distintas, el problema no será la ausencia de un detector de deepfakes, sino la ausencia de una cadena de decisión.
La NIS2 exige en su artículo 23 notificar incidentes significativos al CSIRT o a la autoridad competente mediante una alerta temprana en 24 horas desde que la entidad tenga conocimiento del incidente, una notificación del incidente en 72 horas y un informe final, en los casos previstos, en el plazo de un mes desde la notificación del incidente. La aplicabilidad concreta depende de la transposición nacional y del sector, pero los plazos ilustran por qué la identificación y conservación tempranas de evidencias no son tareas para el final del trimestre.
El RGPD añade otra dimensión. Si el secuestro de una cuenta expone datos personales, el artículo 33 establece la obligación de notificar una violación de seguridad a la autoridad de control sin dilación indebida y, cuando sea posible, en un plazo máximo de 72 horas desde que se tenga constancia, salvo que sea improbable que constituya un riesgo para los derechos y libertades. Si el riesgo es alto, el artículo 34 puede exigir comunicación a las personas afectadas. La pregunta no es si hubo una deepfake; es qué datos personales quedaron comprometidos y qué riesgo produjo el incidente.
El Reglamento de Inteligencia Artificial, Reglamento (UE) 2024/1689, introduce obligaciones de transparencia para determinados contenidos generados o manipulados por IA. Su artículo 50.4 contempla que los proveedores y desplegadores de sistemas que generen o manipulen imagen, audio o vídeo constitutivos de deepfakes deben revelar que el contenido ha sido generado o manipulado artificialmente, de forma clara y distinguible, con las excepciones y condiciones previstas en el propio artículo. Esa etiqueta puede ayudar al receptor, pero no resuelve la suplantación de una cuenta ni autentica una instrucción de pago.
El calendario también importa: el artículo 113 del AI Act fija la aplicación general del Reglamento para el 2 de agosto de 2026, con excepciones para determinadas disposiciones. En octubre de 2026, una empresa que utiliza generación audiovisual en comunicaciones comerciales o atención al cliente ya no debería tratar la transparencia como una cuestión lejana. Pero tampoco debe confundir cumplir con etiquetar contenido propio con protegerse frente a contenido fraudulento recibido de terceros.
La reacción no debería consistir únicamente en enviar un correo de concienciación con una captura de un deepfake. Tras un incidente, hay que identificar qué control permitió que la apariencia se convirtiera en autoridad.
Si hubo un pago, revisa el flujo completo: quién creó el beneficiario, quién modificó la cuenta, quién aprobó la transferencia, qué alertas se generaron, qué registros existían y cuánto tardó la entidad en contactar con el banco. Si hubo un secuestro de cuenta, determina cómo entró el atacante, qué sesiones y tokens permanecieron activos, qué reglas de correo creó y qué aplicaciones recibieron permisos. Si hubo una suplantación de voz o vídeo, documenta qué señales se consideraron suficientes y por qué nadie exigió una confirmación independiente.
Después, ajusta los controles a la causa real. Puede ser necesario bloquear el alta de beneficiarios desde el correo, exigir un periodo de espera antes de pagar a una cuenta nueva, limitar cambios de recuperación, introducir llaves FIDO2 para administradores o establecer una frase de escalado cuando una petición invoca urgencia. Una formación genérica sobre “ser cuidadosos” rara vez corrige un proceso que permite transferir cientos de miles de euros tras una llamada de tres minutos.
También conviene probar el procedimiento. Un ejercicio interno puede simular un mensaje del director financiero, una llamada de un proveedor y una cuenta social comprometida. El objetivo no es humillar a quien cae; es medir cuánto tarda la organización en detectar la anomalía, quién decide bloquear, qué evidencias se conservan y si el teléfono de respuesta bancaria está disponible fuera del horario de oficina.
Los deepfakes y las voces clonadas elevan el nivel de engaño, pero explotan una vulnerabilidad anterior: las organizaciones siguen autorizando acciones por confianza personal cuando deberían autorizarlas por controles verificables. La voz hace que la instrucción parezca familiar. La cara hace que parezca presente. La cuenta hace que parezca continua. Ninguna de esas señales demuestra que la operación sea legítima.
La defensa consiste en separar cuatro preguntas que durante años se mezclaron: quién parece hablar, quién controla el canal, qué está pidiendo y quién ha autorizado la acción. Cuando las cuatro respuestas dependen del mismo correo, la misma llamada o el mismo vídeo, no existe verificación independiente. Solo existe una historia convincente.
La próxima vez que llegue una orden urgente desde una voz conocida, no intentes ganar a la IA en su terreno. No necesitas decidir si el vídeo es perfecto o si la respiración suena humana. Corta la cadena, cambia de canal, verifica la operación y deja constancia. La mejor detección de deepfakes sigue siendo un control que no permita que un deepfake mande.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal de regulación, vulnerabilidades explotadas y acciones para tu equipo.
¿Quieres un plan a medida? Modela tu organización con Agentic Digital Twin.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…