La sexualización de imágenes a través de la IA de Musk genera indignación en todo el mundo

Imágenes de mujeres reales con escasa ropa, en lencería o directamente desnudas. Pero también de niñas. Eso es lo que, según altos funcionarios y medios de todo el mundo, está permitiendo Grok, la inteligencia artificial alojada en la red social X e impulsada por el oligarca tecnológico Elon Musk, uno de los hombres más ricos del planeta.

La indignación y las demandas de medidas contra esta red social se extienden por distintos países. El ministro de Medios alemán, Wolfram Weimer, instó el martes a la Comisión Europea a adoptar medidas legales para detener lo que calificó como la “industrialización del acoso sexual” llevada a cabo a través de Grok.

En Internet, Musk —que acusa de manera recurrente a los medios tradicionales de mentir— ha restado importancia a las preocupaciones generadas por la oleada de desnudez asociada a Grok, publicando emojis de risa en respuesta a algunas de estas imágenes.

Weimer confía en que la Ley de Servicios Digitales (DSA) de la Unión Europea proporcione a Bruselas todas las herramientas necesarias para actuar contra X. “Cualquiera que cree o distribuya dichas imágenes sin consentimiento está cometiendo una grave violación de los derechos personales y puede ser objeto de procesamiento”, ha advertido el Ministerio Digital de Alemania.

Enfado en Bruselas

La Comisión Europea asegura ser “muy consciente” de que Grok está siendo utilizado para generar “contenido sexual explícito con algunos resultados creados a partir de imágenes infantiles”, según declaró el portavoz comunitario Thomas Regnier. “Esto no es picante. Es ilegal. Es espantoso. Es repugnante. Así lo vemos nosotros, y esto no tiene cabida en Europa”, afirmó el lunes ante la prensa.

El regulador británico Ofcom exigió a X explicaciones sobre cómo Grok pudo producir este tipo de imágenes y preguntó a la compañía si estaba incumpliendo su obligación legal de proteger a los usuarios. También se han movilizado ministros franceses, que han puesto los hechos en conocimiento de la justicia, así como altos funcionarios de India, Malasia y Brasil. En Polonia, un legislador ha invocado este asunto como argumento para impulsar nuevas leyes de seguridad digital en el país.

La secretaria británica de Tecnología, Liz Kendall, calificó el contenido como “absolutamente espantoso e inaceptable en una sociedad decente”. “No podemos ni permitiremos la proliferación de estas imágenes degradantes y denigrantes, que están dirigidas de manera desproporcionada a mujeres y niñas”, afirmó.

Lo ocurrido pone en primer plano una de las pesadillas que se avecinan: el potencial de las aplicaciones de nudificación que utilizan inteligencia artificial para generar imágenes deepfake sexualmente explícitas.

Evolución del modelo

El origen del problema se encuentra en la decisión de X de activar el año pasado Grok Imagine, un generador de imágenes basado en IA que permite a los usuarios crear vídeos e imágenes a partir de instrucciones de texto y que ahora incluye lo que la propia plataforma ha denominado un “modo picante”, capaz de generar contenido para adultos.

Aparentemente, a finales del mes pasado Grok empezó a aceptar un gran número de solicitudes para modificar imágenes publicadas por otros usuarios, permitiendo resultados a partir de instrucciones tan simples como: “Ponle un bikini transparente”.

Según informaciones publicadas por Bloomberg y CNBC, el abuso de la herramienta se intensificó durante la Nochevieja, cuando la distribución de imágenes explícitas se extendió de forma masiva por la plataforma, sin conocimiento ni consentimiento de las personas afectadas.

El uso de fotografías de menores agrava aún más el caso, ya que se trata de contenido expresamente prohibido tanto por la ley como por las propias políticas de uso aceptable de la inteligencia artificial, que vetan “la representación pornográfica de personas” y “la sexualización o explotación de niños”.

Tomar medidas

En una publicación en su cuenta de Seguridad citada por la agencia AP, X aseguró que toma medidas contra el contenido ilegal, incluido el material de abuso sexual infantil, “eliminándolo, suspendiendo permanentemente las cuentas y colaborando con los gobiernos locales y las fuerzas del orden según sea necesario”.

¿IA o arma ideológica? Así logró Musk convertir Grok en el 'chatbot' más tóxico del mercado

Ver más

La plataforma citó también a Musk: “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.

Los especialistas recomiendan extremar las precauciones para reducir el riesgo de que Grok utilice imágenes personales sin consentimiento, como no publicar fotografías en abierto y configurar los perfiles en modo privado. Es una opción que se activa en X a través del menú “Configuración y privacidad”, “Privacidad y seguridad” y “Audiencia y etiquetado”, donde es necesario marcar la casilla “Proteger tus publicaciones”.

Los usuarios pueden limitar el uso de sus datos por parte de la inteligencia artificial deshabilitando las opciones que permiten a Grok entrenarse con información personal o utilizarla para personalizar la experiencia. Para ello, hay que acceder a “Configuración y privacidad”, “Privacidad y seguridad” y “Grok & Colaboradores externos”, dentro del apartado de intercambio de datos y personalización, y desmarcar las opciones disponibles. En el mismo menú también es posible desactivar la función que permite a la herramienta conservar el historial de conversaciones.