Las respuestas de la IA (o el fango con buenos modales)

Lo inquietante de la humedad no es cuando percibes la sombra en la pared, sino cuando constatas que se ha infiltrado hasta los cimientos. En esas estamos, sobrecogidos descubriendo que mientras gobiernos, empresas y redacciones se apresuran a convertir la inteligencia artificial en una herramienta útil, hay otra fuerza trabajando por debajo del entusiasmo, anegando la base de cualquier construcción decente que podamos llevar a cabo. La desinformación avanza como la humedad, no necesita derribar la casa porque es capaz de extenderse silenciosamente hasta donde se proponga. Durante años la vimos avanzar sin freno en las redes sociales, embarrando la conversación con bulos y propaganda, y ahora empieza a filtrarse en un lugar mucho más delicado: la máquina a la que cada vez más gente le pide que le explique el mundo.

Hasta hace bien poco, los grandes modelos de lenguaje (LLM, por sus siglas en inglés) como ChatGPT declinaban educadamente contestar a preguntas directas sobre política y otros temas ‘sensibles’. Una prudencia casi enternecedora que brilla por su ausencia en la actualidad. Ahora lo inquietante no es que respondan a cuestiones políticas, es que lo hacen con seguridad. No hay duda, ni espacio para ella. Contestan sobre inmigración, sanidad, delincuencia o impuestos con el mismo aplomo con el que un tertuliano rebate a su par en prime time. 

Estos modelos de IA no están entrenados en temas de actualidad con información contrastada y ahí es donde la desinformación se ha infiltrado hasta el tuétano. La investigación que recoge esta semana el británico The Guardian lo deja muy claro: la firma Peec AI sometió a un aluvión de preguntas sobre política británica a varios modelos, entre ellos ChatGPT y los resúmenes de IA de Google. Repitió esas preguntas durante semanas y el resultado no deja lugar a dudas: el líder populista Nigel Farage y su partido de extrema derecha Reform UK aparecen con una frecuencia muy superior a la esperable, sobre todo en cuestiones como la inmigración y los impuestos municipales. Si este descubrimiento no me hubiera borrado la sonrisa diría que lo más hilarante es que los modelos citan a Facebook más que a ninguna otra fuente, por delante de la BBC o la web del Parlamento británico. Le preguntamos a una máquina por política y la máquina se va a Facebook a buscar la respuesta entre la propaganda de la extrema derecha. Poco nos pasa.

Mientras discutimos cómo hacer de la IA una herramienta útil, la desinformación avanza como la humedad: sin épica ni ruido hasta colonizar las paredes

Ojalá fuera una rareza británica y no un ejemplo de una mancha que se extiende sin hacer ruido por el subsuelo de nuestro sistema social. Cuando se pregunta a esos grandes modelos lingüísticos por cuestiones políticas y migratorias, parecen inclinarse por información de baja calidad procedente de fuentes abiertas y redes sociales. Es decir, hacia el mismo ecosistema que lleva años recompensando el exceso, la simplificación y hasta la mentira. No es un eco lejano que llega desde la pérfida Albión. 

Esta misma semana conocíamos el resultado de una encuesta de 40dB. que recoge que un 42,4% de la población española cree erróneamente que el proceso de regularización extraordinaria impulsado por el Gobierno otorga de forma directa o automática la nacionalidad española. Podría parecer que no se están contando las cosas como son, algo que seguramente será cierto en según qué periódicos, pero yo me pregunto dónde se está informando esa ruidosa minoría que no lee periódicos. ¿En ChatGPT quizá? Veremos pronto estas aplicaciones en las que los jóvenes preguntan directamente a su IA de confianza convertidas en una cloaca de respuestas automatizadas que suenan limpias y razonables, pero están impregnadas del moho de la desinformación.

Aquí hay una ironía particularmente desagradable. Llevamos meses debatiendo sobre cómo poner la IA al servicio de una mejor educación, mejores diagnósticos y procesos más eficaces, invirtiendo dinero público en proyectos llamados a cambiarnos la vida y animando a los trabajadores a que se formen para dar respuesta a un mercado laboral que absorbe todas las competencias relacionadas con esta nueva tecnología… mientras, por pura capilaridad, la desinformación llega al mismo corazón de la máquina. Sin manifiestos rimbombantes que nos pongan en alerta, simplemente repitiéndose mucho y ante muchos. 

La IA decide quién sale más en los resultados, a quién menciona primero y qué relato parece plausible. Si entrenas una máquina con fango no obtendrás más que fango con buenos modales. Tal vez sea el momento de empezar a decirlo de otra manera (por si llega mejor a los oídos que pueden hacer algo): la desinformación no es un residuo molesto de Internet, es una infraestructura en sí misma y un combustible barato para un sistema que todavía se presenta como neutral. Y ha cambiado el traje de la propaganda por el vestido elegante de la objetividad. 

Cojamos el paño con lejía y preparémonos para limpiar, porque la sombra de la humedad ya es visible en nuestra pared y queda poco para que se filtre hasta los cimientos.