Una fotografía cualquiera basta para alimentar las aplicaciones que prometen desnudar imágenes. Un retrato de perfil, una instantánea de vacaciones o una foto de campaña electoral se introducen en el programa. En cuestión de segundos, el sistema devuelve una imagen sexual manipulada de la persona retratada.
La fotografía resultante es falsa, pero el daño que provoca es muy real. Una vez publicada, la imagen se copia, se comparte y queda indexada en buscadores antes de que nadie pueda rastrear su origen.
Un análisis recién publicado en el el Observatorio Europeo de Medios Digitales (EDMO) firmado por Benjamin Shultz, investigador principal de la American Sunlight Project (ASP), organización con sede en Washington dedicada a denunciar los peligros en línea, sostiene que muchas de las aplicaciones que generan vídeos con contenido sexual explícito ni siquiera funcionan con imágenes de hombres porque el sesgo de género está integrado en los datos con los que se entrenan las herramientas.
Según este investigador, en los últimos dos años los enlaces que publicitan estas aplicaciones han crecido más de un 2.400% en las principales plataformas sociales. Una práctica antes marginal y técnicamente compleja se ha convertido en un producto de consumo barato y fácil de usar.
Shultz sostiene que cuando las víctimas son mujeres con proyección pública, el objetivo de estas imágenes cambia: buscan desacreditarlas, humillarlas y silenciarlas. Políticas de distintos países han sido blanco de imágenes sexuales falsas programadas para coincidir con elecciones, controversias o momentos de visibilidad.
Hasta hace poco, la evidencia sobre el fenómeno era sobre todo anecdótica. Salía a la luz a través de testimonios individuales, incidentes virales en redes como X o 4Chan, o titulares sueltos de la prensa local.
Esa situación empieza a cambiar. ASP midió por primera vez con qué frecuencia aparecen los miembros del Congreso de Estados Unidos en sitios que alojan deepfakes. A partir de ese trabajo, Shultz ha presentado los resultados preliminares de un estudio transnacional sobre cerca de 2.200 miembros de parlamentos de ocho democracias.
Para establecer un punto de referencia, Shultz utilizó un motor de búsqueda personalizado. Comprobó si los nombres de esos parlamentarios y parlamentarias aparecían en cerca de dos docenas de dominios que alojan deepfakes. Decenas de nombres aparecieron.
El estudio encontró dos patrones principales. El género resultó ser el factor predictivo más relevante de la exposición a esos dominios. Las legisladoras tienen una probabilidad mucho mayor de aparecer en ellos que sus colegas hombres.
El segundo patrón afecta a la legislación. En los países con leyes explícitas contra este tipo de abuso, la probabilidad de que las legisladoras aparecieran en esos dominios fue significativamente menor. Una prohibición legal clara parece tener un efecto disuasorio.
La edad, la antigüedad en el cargo y el origen migratorio, en cambio, apenas influyeron en los resultados de este estudio concreto. Investigaciones anteriores sí habían vinculado esos factores con una mayor vulnerabilidad al abuso en línea. Los resultados completos se publicarán en formato académico a finales de 2026.
La conclusión que extrae Shultz es que quién resulta víctima de un deepfake no es aleatorio. Está estructurado por el género y condicionado por las políticas públicas de cada país.
Cuando el dato oficial no coincide con el real
Ese segundo hallazgo plantea un problema para la regulación europea de plataformas. La Ley de Servicios Digitales (DSA) de la Unión Europea se apoya en la transparencia. Si las plataformas revelan cómo operan y qué contenido distribuyen, investigadores, reguladores y público pueden exigirles responsabilidades.
Pero esa transparencia solo funciona si la información declarada es honesta. Y según la investigación de ASP, no siempre lo es.
Esta organización colaboró el año pasado con el medio especializado Indicator para rastrear miles de anuncios de aplicaciones nudificadoras publicados en Facebook. Los anuncios habían rellenado los campos obligatorios de “beneficiario” y “pagador” —es decir, quién financia el anuncio— con información ficticia o no verificable.
Los campos de divulgación que exige la normativa europea existían, pero estaban simplemente rellenos con texto falso, a gran escala.
La investigación encontró una única excepción. En los anuncios dirigidos a países fuera de la Unión Europea, como Singapur y Taiwán, las anotaciones sí eran legítimas. La mayoría de beneficiarios y pagadores de esos anuncios tenían su sede en el sudeste asiático.
La misma herramienta de transparencia que exige la DSA se ha convertido, dentro de la Unión Europea, en un escondite. Para Shultz, eso indica dos escenarios posibles. O Meta permitió de forma deliberada ese incumplimiento, o las normas publicitarias de Singapur y Taiwán se aplican con más rigor.
La lección que extrae el investigador es que no se puede juzgar el comportamiento de las plataformas a partir de los datos que ellas mismas deciden entregar. Tampoco es posible calcular con precisión la magnitud real del problema mientras plataformas y proveedores de alojamiento web no colaboren.
La ley que actúa después del daño
La legislación no carece de efecto. Los datos internacionales recogidos por Shultz sugieren lo contrario, y varios gobiernos han empezado a actuar.
El proyecto de ley alemán contra la violencia digital prevé crear nuevos delitos penales para los deepfakes sexuales. El texto señala de forma explícita que las mujeres son el colectivo más afectado. El Reino Unido, por su parte, ha avanzado en la criminalización de la creación y difusión de este contenido.
En Estados Unidos, la Ley Take It Down obliga a las plataformas a retirar este tipo de contenido con rapidez. Son pasos reales, pero la mayor parte de ese andamiaje legal actúa después del daño. Castiga a quien crea una imagen concreta y elimina esa imagen concreta una vez publicada.
Mientras tanto, nuevas aplicaciones de desnudos siguen apareciendo en las tiendas de aplicaciones y nuevos anuncios se siguen publicando. Y las imágenes retiradas reaparecen en otros lugares en cuestión de horas. Ni Meta ni la Unión Europea han resuelto el vacío legal en la divulgación de estos anuncios.
Cuatro medidas para cerrar la brecha
Shultz propone cuatro medidas a escala europea que irían más allá del actual régimen de transparencia de la DSA. La primera exige transparencia de fondo, no solo de forma. En lugar de permitir texto libre en los campos de divulgación, las plataformas deberían alojar únicamente anuncios de entidades comerciales reales y verificadas, con sede en los países a los que se dirigen.
La segunda aborda el problema en origen. Tiendas de aplicaciones, proveedores de alojamiento web y redes publicitarias deberían dejar de distribuir y monetizar herramientas cuyo propósito principal es el abuso, entre ellas las aplicaciones de intercambio de rostros.
La sexualización de imágenes a través de la IA de Musk genera indignación en todo el mundo
La tercera redefine el marco del problema. Shultz la describe como una cuestión de integridad informativa e igualdad de género, y reclama financiación sostenida para la investigación, tanto académica como de la sociedad civil.
La cuarta exige unidad europea. Los 27 Estados miembros mantienen 27 regímenes distintos sobre la legalidad de la pornografía deepfake. Los datos del estudio muestran que las prohibiciones explícitas tienen un leve efecto disuasorio.
Como solución, Shultz plantea que las futuras revisiones de la DSA, la Ley de Mercados Digitales (DMA) y el Reglamento de Inteligencia Artificial incorporen una política unificada a escala comunitaria. Que prohíba la pornografía deepfake no consensuada en los 27 países al mismo tiempo.
Una fotografía cualquiera basta para alimentar las aplicaciones que prometen desnudar imágenes. Un retrato de perfil, una instantánea de vacaciones o una foto de campaña electoral se introducen en el programa. En cuestión de segundos, el sistema devuelve una imagen sexual manipulada de la persona retratada.