Las webs que “desnudan” con IA alcanzan los 40 millones de visitas al mes: el abuso ya es una industria

Una fotografía de perfil, una imagen publicada en una red social o una foto descargada de una web puede convertirse en pocos segundos en un falso desnudo. No hace falta acceder a una cuenta privada, robar un teléfono ni desplegar un malware sofisticado: basta con subir la imagen a uno de los servicios conocidos como nudify.

La magnitud del fenómeno empieza a dejar atrás la categoría de abuso marginal. Según la información publicada por Cybersecurity News ES, estas webs alcanzan conjuntamente los 40 millones de visitas mensuales. La cifra no demuestra por sí sola cuántas imágenes generan, cuántas víctimas existen o cuánto dinero mueve el negocio —las visitas no son usuarios únicos ni equivalen a conversiones—, pero sí revela algo más relevante: existe una audiencia suficientemente grande para sostener una economía de servicios, publicidad, afiliación y suscripciones.

El problema no es solo que una inteligencia artificial produzca una imagen falsa. Es que esa imagen puede circular con apariencia de prueba, asociarse a la identidad real de una persona y desplegarse en un entorno regulatorio que todavía reparte las responsabilidades entre quien crea el contenido, quien lo aloja, quien lo recomienda y quien lo monetiza. La tecnología ha simplificado la fabricación. La respuesta institucional sigue siendo bastante más artesanal.

El salto cualitativo: de la manipulación individual a la distribución industrial

Los primeros casos de desnudos falsos exigían conocimientos técnicos, software específico y tiempo. Las herramientas actuales han convertido el proceso en una operación de consumo: cargar una fotografía, seleccionar una opción y esperar. La barrera técnica ha caído; la barrera ética, como suele ocurrir, no estaba instalada de fábrica.

La diferencia entre una broma privada y un servicio masivo está en la escala. Una aplicación local puede afectar a una víctima. Una red de webs optimizadas para buscadores puede captar millones de visitas, probar distintos modelos de generación, redirigir tráfico entre dominios y mantener el negocio operativo aunque un proveedor de alojamiento cierre una cuenta. La infraestructura puede cambiar más deprisa que la capacidad de una víctima para identificar dónde se ha publicado el contenido.

Además, el daño no depende de que la imagen sea técnicamente convincente. Una falsificación mediocre puede ser suficiente para acosar, chantajear o humillar. En el trabajo, en un centro educativo o en una comunidad pequeña, la pregunta decisiva no suele ser si un perito podría detectar el montaje. Suele ser quién la ha visto, quién la ha reenviado y cuánto tardará en aparecer en otro canal.

Hay otra asimetría incómoda. La persona afectada debe probar la falsedad de una imagen que nunca autorizó, rastrear copias, localizar proveedores situados en distintas jurisdicciones y convencer a cada plataforma de que retire el contenido. El operador solo necesita mantener un dominio, un sistema de pagos y varios canales de captación. La economía del abuso favorece al agresor.

Qué se está generando realmente: no solo una imagen, sino un dato personal reutilizable

Una fotografía identificable es un dato personal cuando permite reconocer directa o indirectamente a una persona. El Reglamento General de Protección de Datos no exige que la imagen sea privada para que exista protección: una fotografía publicada en abierto sigue vinculada a una persona identificable. El hecho de que pueda descargarse no equivale a una licencia para transformarla sexualmente.

El análisis se vuelve más delicado cuando el resultado representa desnudez o una actividad sexual. El artículo 9 del GDPR protege categorías especiales de datos, entre ellas los datos relativos a la vida sexual o la orientación sexual. No toda imagen manipulada encajará automáticamente en esa categoría, y la calificación dependerá del contenido y de lo que revele o sugiera sobre la persona. Pero una plataforma que procesa de forma sistemática fotografías identificables para producir representaciones sexualizadas no debería despachar el asunto como un simple filtro de imágenes.

El proveedor también tiene que preguntarse qué base jurídica invoca para procesar la fotografía original y generar el resultado. El consentimiento del usuario que sube la imagen no es necesariamente el consentimiento de la persona que aparece en ella. Esta obviedad se pierde con frecuencia en los términos de uso: quien pulsa “acepto” puede no tener derecho alguno sobre el rostro o el cuerpo representado.

El artículo 5 del GDPR exige que el tratamiento sea lícito, leal y transparente, limitado a una finalidad concreta y basado en una minimización de datos. También obliga a mantener la confidencialidad y la integridad de la información. El artículo 25 introduce la protección de datos desde el diseño y por defecto. Un servicio que permite introducir la fotografía de cualquier tercero y devuelve un falso desnudo debería poder explicar por qué su arquitectura cumple esos principios. La respuesta “la imagen estaba en internet” no satisface ninguno de ellos.

El artículo 35 puede activar una evaluación de impacto relativa a la protección de datos cuando el tratamiento entraña un alto riesgo para los derechos y libertades de las personas, especialmente si existe tratamiento a gran escala, uso de tecnologías nuevas o datos especialmente sensibles. Una plataforma que analiza rostros, genera contenido sexualizado y conserva imágenes para mejorar sus modelos tiene varios indicadores de riesgo. La evaluación no es un documento decorativo para el archivo del delegado de protección de datos: debe identificar amenazas, medidas, responsables y riesgo residual.

La regulación europea de inteligencia artificial no convierte todos los “nudify” en una categoría automática

La tentación editorial —y comercial— es afirmar que la Ley de Inteligencia Artificial de la Unión Europea ya ha prohibido directamente todas las herramientas que generan desnudos falsos. La realidad jurídica es menos limpia.

El Reglamento (UE) 2024/1689 contiene prohibiciones en su artículo 5, aplicables desde el 2 de febrero de 2025. Entre ellas están determinadas prácticas de manipulación subliminal o engañosa y ciertos usos que explotan vulnerabilidades de personas o grupos cuando pueden causar un daño significativo. Un servicio de desnudos falsos utilizado para acosar puede participar en una conducta dañina, pero no todos los usos ni todos los proveedores encajarán automáticamente en esa prohibición. La aplicación depende del diseño del sistema, de su finalidad, del comportamiento del operador y de las circunstancias concretas.

El artículo 50 introduce obligaciones de transparencia para determinados sistemas que generan o manipulan contenido sintético. Las obligaciones de transparencia del reglamento empiezan a ser aplicables el 2 de agosto de 2026, fecha relevante para proveedores y plataformas que operan en la Unión. En términos prácticos, el contenido generado o manipulado de forma artificial debe poder identificarse como tal en los supuestos previstos por el artículo, y los proveedores deben diseñar mecanismos técnicos para marcar los resultados de forma detectable cuando corresponda.

Eso no resuelve el problema principal. Una etiqueta que diga “generado por IA” puede informar de la técnica utilizada, pero no convierte en lícita la creación de un falso desnudo ni repara la falta de consentimiento. La transparencia es una capa de trazabilidad; no una autorización para fabricar contenido sexual sobre terceros.

La aplicación del AI Act también presenta un problema de perímetro. El reglamento distingue entre proveedor, implementador, importador, distribuidor y otras figuras. Una empresa que ofrece el modelo puede alegar que no controla las aplicaciones finales. La web que empaqueta el modelo puede responder que solo proporciona una interfaz. La red publicitaria puede afirmar que no produce las imágenes. Y la plataforma de alojamiento puede invocar sus procedimientos de notificación. Cuando todos son “solo una pieza”, la víctima recibe una cadena de excusas perfectamente modular.

El DSA desplaza la conversación desde el algoritmo hacia el entorno de distribución

Para las grandes plataformas y motores de búsqueda, el Reglamento de Servicios Digitales ofrece herramientas más operativas que una discusión abstracta sobre si una imagen es sintética. El artículo 16 establece mecanismos para que los usuarios notifiquen contenidos que consideran ilícitos. El artículo 17 exige que las plataformas expliquen la decisión adoptada frente a una notificación, y el artículo 20 prevé vías internas de reclamación frente a determinadas decisiones de moderación.

El artículo 35 obliga a las plataformas en línea de muy gran tamaño y a los motores de búsqueda en línea de muy gran tamaño a adoptar medidas de mitigación frente a riesgos sistémicos. La difusión de imágenes sexuales no consentidas, incluidas falsificaciones hiperrealistas, puede formar parte de una evaluación seria de riesgos cuando la plataforma amplifica, recomienda o monetiza ese material. La pregunta ya no es únicamente si la plataforma elimina una URL concreta. Es si sus sistemas de recomendación, búsqueda y publicidad hacen más visible y rentable el abuso.

El artículo 28 del DSA impone obligaciones específicas respecto de los menores, incluido el diseño de interfaces y sistemas que proporcionen un alto nivel de privacidad, seguridad y protección. Las herramientas “nudify” pueden dirigirse a fotografías de menores aunque el usuario no declare la edad de la persona representada. La verificación basada solo en una casilla de “tengo 18 años” no constituye una estrategia de mitigación convincente cuando el producto acepta la imagen de cualquier tercero.

El DSA no es una ley penal europea sobre deepfakes ni sustituye a las autoridades nacionales. Su valor está en exigir procedimientos, evaluación de riesgos, transparencia y rendición de cuentas a las plataformas que controlan la distribución. Ahí está el quid: una imagen fabricada en una web pequeña puede causar un daño limitado hasta que aparece en el buscador, se replica en una red social o se introduce en un grupo de mensajería. La cadena de amplificación importa tanto como el generador original.

El marco penal español ya ofrece vías, pero no todas encajan igual

España cuenta con una figura penal específica para la difusión no autorizada de imágenes o grabaciones de una persona obtenidas en un domicilio o lugar fuera de la mirada de terceros y que afectan gravemente a su intimidad: el artículo 197.7 del Código Penal. Su aplicación a imágenes completamente sintéticas o manipuladas puede exigir un análisis judicial del caso concreto. No conviene prometer a una víctima que cualquier deepfake sexual encaja automáticamente en ese precepto.

Eso no significa que el autor quede fuera del riesgo penal. Dependiendo de la conducta, pueden entrar en juego delitos contra la integridad moral, amenazas, coacciones, acoso, descubrimiento y revelación de secretos u otras figuras relacionadas con la difusión y el hostigamiento. La falsedad del contenido no elimina el daño causado por su distribución. Tampoco protege al agresor que lo presenta como auténtico.

La Ley Orgánica 1/1982, de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen, ofrece una vía civil relevante. La utilización de la imagen de una persona sin consentimiento, especialmente cuando se transforma en contenido sexual, puede generar reclamaciones de cese, retirada, indemnización y medidas cautelares. El tiempo juega en contra: una solicitud judicial puede llegar después de que el archivo haya sido copiado decenas de veces.

La Agencia Española de Protección de Datos mantiene además mecanismos de ayuda y retirada urgente para determinados contenidos sexuales o violentos difundidos en internet. El Canal Prioritario de la AEPD no sustituye una denuncia penal ni garantiza que todo contenido sintético se retire automáticamente, pero puede ser una vía práctica cuando el objetivo inmediato es limitar la exposición. La víctima debería conservar URLs, capturas con fecha, identificadores de usuario y comunicaciones de la plataforma antes de solicitar la eliminación.

La futura armonización europea también es relevante. La Directiva (UE) 2024/1385 sobre la lucha contra la violencia contra las mujeres y la violencia doméstica incluye la difusión no consentida de material íntimo o manipulado en su ámbito de criminalización, con un plazo general de transposición que llega hasta el 14 de junio de 2027. En 2026, por tanto, conviven normas nacionales aplicables, interpretaciones judiciales todavía en evolución y una directiva que empuja a los Estados miembros hacia un tratamiento penal más homogéneo.

El riesgo para los menores no es una subcategoría: cambia la prioridad de respuesta

Cuando la persona representada es menor, la respuesta no puede esperar a que exista una imagen íntima real. La generación de una representación sexualizada de un menor puede activar normas especialmente severas sobre material de abuso sexual infantil, aunque la calificación jurídica de una imagen completamente artificial dependerá de la legislación aplicable y de sus elementos concretos. En cualquier caso, guardar, reenviar o descargar el archivo para “demostrarlo” puede crear riesgos adicionales.

La respuesta operativa debe ser conservadora: no redistribuir la imagen, conservar la evidencia mínima necesaria y comunicar el caso a la plataforma, a las fuerzas de seguridad y a los servicios especializados. En entornos educativos, la dirección debe activar protocolos de protección del menor y evitar convertir la investigación en una nueva ronda de exposición. Pedir al alumno que enseñe la imagen delante de varias personas es una pésima práctica, aunque nazca de la intención de verificar los hechos.

Las plataformas que admiten imágenes de personas deben tratar la posibilidad de afectación a menores como un riesgo de diseño. No basta con bloquear palabras clave en el texto. Deben combinar controles de edad cuando sean jurídicamente adecuados, análisis de contenido, detección de patrones de abuso, límites a la descarga y canales de escalado con personal capacitado. La moderación automática puede detectar una parte del problema; no puede asumir por sí sola la decisión jurídica ni la gestión de la víctima.

Qué deberían revisar los equipos de producto, seguridad y compliance

El primer error de muchas organizaciones es separar “contenido” de “seguridad”. Una plataforma puede tener un buen programa de gestión de vulnerabilidades y seguir ofreciendo una experiencia perfectamente optimizada para el abuso. La seguridad técnica protege la infraestructura; la gobernanza de producto determina qué usos facilita la empresa.

El inventario debe empezar por los flujos de datos: imagen original, metadatos, rostro detectado, resultado generado, prompts, dirección IP, identificadores de cuenta, registros de pago y copias de seguridad. Cada elemento tiene una finalidad, un plazo de conservación y un riesgo diferente. Si la empresa no puede explicar dónde se almacena una fotografía subida por un usuario, tampoco puede responder con solvencia a una solicitud de acceso, supresión o limitación prevista en los artículos 15, 17 y 18 del GDPR.

Después hay que probar los controles con escenarios adversos, no solo con casos de uso aprobados. Por ejemplo: una cuenta que sube fotografías de varias personas; un usuario que intenta procesar imágenes de menores; una campaña que enlaza desde un foro de acoso; múltiples cuentas que utilizan la misma tarjeta o dirección IP; y una solicitud de retirada enviada por una persona cuya imagen aparece en el resultado pero que nunca abrió una cuenta.

Los controles mínimos deberían cubrir:

• Prevención: bloquear la generación de desnudos o contenido sexualizado a partir de fotografías de personas reales, salvo usos profesionales y jurídicamente justificados sometidos a controles reforzados. El filtro no debe depender solo de palabras clave.
• Detección: analizar patrones de abuso, automatización, repetición de rostros, intentos de procesar imágenes de menores y campañas coordinadas de subida.
• Trazabilidad: conservar registros de decisiones, versiones del modelo, reglas activadas, operador que revisó el caso y momento de la retirada. La trazabilidad debe respetar los plazos de conservación y los principios del GDPR.
• Respuesta: ofrecer un canal accesible a personas no usuarias, permitir la presentación de pruebas sin obligarlas a volver a subir material íntimo y establecer un escalado urgente para menores, amenazas y extorsión.
• Distribución: impedir que los resultados se indexen por defecto, limitar la descarga, retirar duplicados conocidos y notificar a servicios de alojamiento o plataformas receptoras cuando exista una cadena de republicación.

La revisión debe involucrar al delegado de protección de datos, seguridad, producto, legal, trust and safety, atención al cliente y, cuando proceda, al responsable de menores. Si el único propietario del riesgo es el equipo de moderación, la organización ya ha perdido la discusión antes de empezarla.

La contratación de modelos externos no diluye la responsabilidad

Muchas aplicaciones no entrenan sus propios modelos. Consumen una API, integran un modelo de código abierto o contratan una plataforma de generación y construyen encima una interfaz comercial. Esa arquitectura puede reducir costes, pero no elimina las obligaciones de quien decide ofrecer el servicio al usuario final.

El contrato con el proveedor debe identificar qué entradas conserva, si utiliza los datos para entrenamiento, dónde se procesan, qué subencargados intervienen, cómo se borran los archivos y qué evidencias estarán disponibles tras un incidente. El artículo 28 del GDPR exige garantías suficientes del encargado del tratamiento y un contrato que regule instrucciones, confidencialidad, seguridad, subcontratación y asistencia al responsable.

También conviene separar dos preguntas que a menudo se mezclan. La primera es si el modelo puede generar el contenido. La segunda es si el producto permite a una persona obtenerlo con una fotografía de un tercero. Un proveedor puede aplicar filtros a nivel de modelo y aun así dejar vías de elusión mediante prompts, imágenes de referencia o modelos alternativos. Las pruebas de seguridad deben realizarse sobre el producto completo, no sobre una demostración cuidadosamente preparada.

Para entidades financieras, el vínculo con DORA aparece cuando la organización utiliza estos servicios dentro de procesos regulados o cuando un proveedor tecnológico presta funciones relevantes para una entidad financiera. El artículo 28 de DORA exige gestionar el riesgo de terceros TIC, y el artículo 30 regula elementos contractuales esenciales, incluidos derechos de acceso, auditoría, asistencia y terminación. Una herramienta de generación de imágenes puede no ser crítica para el negocio bancario, pero una plataforma de marketing, recursos humanos o atención al cliente que procese fotografías sigue planteando riesgos de privacidad, fraude y reputación.

El artículo 30 de DORA no convierte cada proveedor de software en una entidad financiera supervisada, pero sí obliga a que la entidad evalúe qué está comprando y qué dependencia crea. Un servicio barato que retiene imágenes faciales indefinidamente puede ser una mala compra aunque funcione perfectamente en una prueba de producto.

Qué debe hacer una víctima en las primeras horas

La urgencia no justifica actuar sin método. La primera prioridad es evitar que el contenido se multiplique. No hay que negociar con el agresor, pagar una extorsión ni reenviar la imagen a amigos para pedir ayuda. Si existe una amenaza, una petición de dinero o un riesgo para un menor, debe comunicarse cuanto antes a las autoridades.

La evidencia útil incluye la URL completa, el nombre del perfil, el dominio, la fecha y hora, los mensajes recibidos, los identificadores de la publicación, los datos de pago reclamados por el agresor y capturas del contexto. Conviene guardar la evidencia en un soporte seguro y limitar la circulación de la imagen. Una captura del resultado puede ser necesaria para denunciar, pero compartirla en grupos amplios solo añade víctimas.

La solicitud de retirada debe describir con precisión que se trata de una imagen sexualizada no consentida y, si es falso, que ha sido generado o manipulado artificialmente. Hay que pedir la retirada del contenido, la desindexación cuando proceda, la preservación de registros para una investigación y la identificación de copias o URLs relacionadas. La persona afectada puede ejercer derechos de supresión y oposición frente al tratamiento, aunque la plataforma tendrá que ponderarlos con obligaciones legales de conservación de evidencias.

Si el contenido aparece en un buscador, eliminar el resultado del índice no elimina necesariamente el archivo original. Si se retira de una red social, puede sobrevivir en canales privados, webs espejo o plataformas extranjeras. La respuesta eficaz combina acciones: proveedor de alojamiento, registrador de dominio cuando proceda, buscador, red social, entidad de pago y autoridades.

El verdadero test para las plataformas será la monetización

Los 40 millones de visitas mensuales plantean una pregunta que la moderación suele evitar: ¿quién se beneficia económicamente? El tráfico puede convertirse en publicidad, suscripciones, créditos de generación, pagos recurrentes o venta de datos sobre comportamiento. Si una plataforma detecta reiteradamente que su servicio se utiliza para crear falsos desnudos y mantiene intactos los canales de captación y cobro, la defensa de que “el usuario incumplió los términos” pierde fuerza.

La presión regulatoria debería dirigirse también a la cadena comercial. Redes publicitarias, procesadores de pago, registradores y proveedores de alojamiento no tienen todos la misma responsabilidad jurídica, pero sí disponen de señales operativas: picos de tráfico, dominios que rotan, reclamaciones repetidas, patrones de tarjetas, campañas de afiliación y términos de búsqueda asociados a personas concretas. La combinación de esas señales puede permitir actuar antes de que el contenido se viralice.

La Unión Europea no necesita una nueva palabra de moda para entender el riesgo. Ya existen obligaciones sobre datos personales, evaluación de impacto, diseño seguro, notificación de contenidos ilícitos, mitigación de riesgos sistémicos y protección de menores. Lo que falta en muchos casos es conectar esos regímenes en un proceso operativo único.

La conclusión incómoda: el consentimiento no puede reducirse a una casilla

El crecimiento de estas webs demuestra que el problema no es la existencia de una herramienta capaz de alterar imágenes. El problema es un producto diseñado para sexualizar a terceros sin consentimiento, con controles insuficientes y una economía que premia la circulación.

Para las empresas, la prueba no consiste en publicar una política que prohíba los desnudos falsos. Consiste en demostrar que el sistema los previene, detecta, retira, registra y no vuelve a servir el mismo contenido por otra puerta. Para los reguladores, la cuestión es si las obligaciones actuales pueden aplicarse con suficiente velocidad cuando el daño se produce en minutos. Para las víctimas, la prioridad es disponer de un canal que no les exija convertirse en investigadoras digitales mientras la imagen sigue viajando.

La IA ha hecho barato fabricar una mentira sexualizada. La respuesta responsable no puede seguir siendo cara, lenta y fragmentada. Si una web puede generar un falso desnudo con una fotografía pública, una plataforma también debería poder reconocer que el consentimiento de publicación no era consentimiento para la transformación. Esa distinción, elemental para cualquier persona, debería dejar de ser exótica para los sistemas de compliance.