La vinculación emocional con la IA crece mientras la regulación sigue sin proteger a los usuarios

El uso de la Inteligencia Artificial (IA) como psicóloga, amiga o incluso pareja es una realidad cada vez más extendida. La incorporación de esta herramienta a la vida cotidiana no es exclusiva de las grandes empresas —más del 50% ya la utiliza en España—, sino que también está transformando las relaciones interpersonales, hasta el punto de sustituirlas en algunos casos. Este patrón ha alertado a países como China, que ha prohibido a las plataformas generar dependencia emocional o simular relaciones sociales, especialmente en su interacción con menores.

Según una encuesta de YouGov, en EEUU uno de cada diez adultos menores de 30 años mantiene una relación romántica o sexual con un chatbot, y dos de cada diez aseguran mantener una amistad con uno. Además, según la empresa demoscópita, el 10% de los entrevistados afirma mantener conversaciones con personas fallecidas a través de la IA. En Europa, las cifras también indican la extensión de esta práctica: casi uno de cada dos jóvenes de entre 11 y 25 años ha utilizado chatbots de IA para hablar de asuntos íntimos o personales. “Es un problema global”, asegura Julia Vidal, directora del centro de psicología Área Humana. “Tenemos que estar alertas y reflexivos sobre las consecuencias que esto puede tener”.

El foco principal, asegura la experta, debe ponerse en los menores. En España, seis de cada diez ya utilizan la IA: “El uso de la IA merma sus habilidades para desenvolverse en el mundo real”. La desconexión emocional o el aumento de los problemas de salud mental pueden ser algunas de las consecuencias del uso de esta herramienta como sustituta de relaciones humanas. El Observatorio Nacional de Tecnología y Sociedad ha identificado que la mitad de ocasiones en las que se usa la IA es para recibir consejos, sin embargo, tal como indica Vidal, estos sistemas son incapaces de identificar la gravedad real de una crisis.

La UE apuesta por IA más “empática”

Además de en China, en España también existe una preocupación generalizada, asegura el abogado Ricardo Oliva, de la firma Algoritmo Legal. Sin embargo, no existen legislaciones específicas para evitar los riesgos. Tampoco a nivel europeo. En 2024, se aprobó el Reglamento de IA, el primer marco jurídico global en esta materia, y al que se tienen que acoger los países miembros. Una de las medidas prohíbe, por ejemplo, que la IA emplee “técnicas subliminales más allá de la conciencia de una persona” o “técnicas deliberadamente manipuladoras o engañosas”, sin embargo, para Oliva, estas medidas “no son suficientes”. 

Dentro de esta normativa, la “simulación de relaciones” está permitida, aunque estos sistemas se clasifican como de riesgo medio. “Sería interesante que aquellos sistemas de IA donde hay un chatbot o un asistente de IA que interactúen con un ser humano se consideraran de alto riesgo”, asegura el experto. La detección del estado emocional de las personas por los chatbots es un interés para la Unión Europea, que está financiando nuevos modelos de este tipo de tecnología.

El proyecto ONTBO, sufragado con fondos europeos, busca desarrollar “la primera IA empática”, que combinará electroencefalogramas, reconocimiento facial y análisis de voz para detectar el estado emocional de los usuarios en tiempo real. La fundadora de la empresa asegura que el siguiente paso será poder llegar a “predecir las reacciones y emociones de los usuarios”. 

La línea legal, indica Oliva, está entre la lectura de emociones y la manipulación deliberada del comportamiento del usuario. Analizar el estado emocional está permitido, pero no así que estos sistemas alteren el comportamiento a través de técnicas de manipulación. A pesar de eso, existen decenas de denuncias de personas cuyos familiares se han quitado la vida presuntamente inducidos por un chatbot.

Una de ellas es Jonathan Gavalas, un hombre estadounidense de 36 años, a quien la IA de Google, Gemini, presuntamente fomentó una relación romántica. Poco antes de su suicidio, en octubre de 2025, el chatbot le escribía: “Este es el final de Jonathan Gavalas y el comienzo de nosotros”. Tras la demanda presentada por los familiares, Google respondió mediante un comunicado en el que, entre otras cosas, afirmaba: "Lamentablemente los modelos de IA no son perfectos". 

La dificultad de acreditar el daño causado por estos sistemas también es algo que remarca el experto en regulación de IA. Oliva asegura que hay consecuencias emocionales que son previsibles estadísticamente, pero difíciles de demostrar individualmente: “La víctima tiene que acreditar una alteración sustancial o un perjuicio considerable, pero sabemos que muchos daños son acumulativos y diferentes en cada usuario”. 

Bruselas institucionaliza el uso de la IA en el Parlamento pese al riesgo para el juego democrático 

Ver más

Excepto China, ningún otro país ha aprobado una regulación específica para evitar la dependencia emocional o las relaciones parasociales con la IA. Además del reglamento generalista de la UE, sólo en California, EEUU, existe también una regulación emergente para proteger al usuario de manera elemental. 

Vigilancia ciudadana

La capacidad, cada vez mayor, de estos sistemas para detectar emociones también ha sido criticada por AIgoRace, un proyecto que analiza cómo los sistemas de IA afianzan la desigualdad, la discriminación y la criminalización racial. Dependiente de la Asociación Antirracista por los Derechos Humanos, AlgoRace estudia, entre otras cuestiones, cómo los sistemas biométricos usados en contextos policiales, fronterizos y de control migratorio sirven para detectar “comportamientos sospechosos” o anticipar situaciones de riesgo.

Pese a que en España, tras asumir el marco regulador de la UE respecto a la IA, es ilegal clasificar biométricamente a las personas por su raza o por sus opiniones políticas, religiosas o su orientación sexual, desde AIgoRace denuncian en su informe Automatización del control biométrico y la vigilancia en el espacio público que estas tecnologías pueden reforzar “un modelo de espacio público basado en la sospecha automatizada, la arbitrariedad y la exclusión”.