Inteligencia artificial
León XIV exige regular la IA para frenar el poder de los ‘tecnobros’ y defender la democracia
El papa León XIV ha publicado este 15 de mayo su primera encíclica, Magnifica Humanitas —“Humanidad magnífica”, en español—, un extenso documento sobre la era de la inteligencia artificial que constituye un llamamiento urgente a establecer marcos regulatorios estrictos sobre las tecnologías digitales. En el texto, el pontífice advierte de que el poder tecnológico ha adquirido “un rostro inédito, predominantemente privado”, concentrado en manos de actores transnacionales que disponen de recursos superiores a los de muchos gobiernos, lo que dificulta “discernir, gobernar y orientar hacia el bien común” estas tecnologías.
León XIV ha resultado especialmente claro al identificar el cambio de paradigma en el desarrollo tecnológico contemporáneo. Mientras que históricamente eran los Estados quienes impulsaban y orientaban la innovación, su diagnóstico es que actualmente “los principales motores del desarrollo son actores privados, a menudo transnacionales, dotados de recursos y capacidad de acción superiores a los de muchos gobiernos”. Esta concentración de poder constituye, según el papa, uno de los desafíos más graves de nuestro tiempo, ya que quienes poseen el conocimiento y “sobre todo el poder económico para explotarlo” ejercen “un dominio impresionante sobre el conjunto de la humanidad y del mundo entero”.
El pontífice ha recuperado unas palabras del papa Francisco para subrayar que la cuestión no se limita a la regulación técnica, sino que requiere preguntarse “con realismo quién detenta hoy ese poder y hacia qué fines lo orienta”. Esta reflexión constituye el núcleo de la encíclica: la tecnología no es neutral, sino que “toma el rostro de quien la concibe, la financia, la regula y la utiliza”. Por tanto, la primera decisión no es entre aceptar o rechazar la tecnología, sino entre construir una “torre de Babel” basada en el poder concentrado o reconstruir una “Jerusalén” donde el trabajo compartido y el bien común orienten el desarrollo tecnológico.
La encíclica no se limita al diagnóstico, sino que formula un llamamiento directo a la acción regulatoria, en línea con las posiciones que defiende la Unión Europea —y, dentro de ella, en particular el Gobierno de España— y en contra de la posición que abanderan los Estados Unidos de Donald Trump.
León XIV afirma que “es necesario adoptar instrumentos normativos adecuados, capaces de salvaguardar la justicia y de contener los efectos distorsionadores del poder tecnológico”. Esta exigencia de regulación responde a la constatación de que “nunca la humanidad tuvo tanto poder sobre sí misma”, lo que hace especialmente complejo “evaluar su impacto y sus efectos a largo plazo sobre la dignidad de las personas y el bien común”.
La encíclica insiste en que las nuevas tecnologías, particularmente la inteligencia artificial, se entrelazan con el tejido de la vida cotidiana, moldean los procesos de toma de decisiones e inciden profundamente en el imaginario colectivo. Esta omnipresencia de las tecnologías emergentes hace que su regulación sea una cuestión de justicia social y democrática, no meramente técnica o sectorial.
Principios de gobernanza
En el capítulo tercero, dedicado específicamente a la inteligencia artificial, León XIV desarrolla los principios que, según él, deben guiar su gobernanza. Bajo el epígrafe “Responsabilidad, transparencia y gobernanza de la IA”, el documento plantea que estas tecnologías requieren una atención especial precisamente por su capacidad de afectar a derechos fundamentales y estructuras democráticas.
Una de las aportaciones más significativas de la encíclica es su análisis del “paradigma tecnocrático y el poder digital” como amenaza sistémica. León XIV advierte contra lo que denomina el “síndrome de Babel”: “la idolatría del lucro que sacrifica a los débiles, la uniformidad que aplana las diferencias, la pretensión de un lenguaje único —incluso digital— capaz de traducirlo todo, incluso el misterio de la persona, en datos y rendimientos”.
Este paradigma tecnocrático constituye, según el papa, un riesgo de deshumanización que consiste en “construir el futuro excluyendo a dios y reduciendo al otro a un medio”. Se trata de una tentación antigua que hoy adopta un rostro técnico, pero que, en esencia, representa la concentración de poder en manos de quienes controlan las tecnologías más avanzadas.
El capítulo cuarto de la encíclica aborda la relación entre verdad, democracia y el ecosistema comunicativo digital. León XIV dedica secciones específicas a “Verdad y democracia”, “Comunicación e imaginario colectivo” y propone “una ecología de la comunicación” como respuesta a los desafíos actuales.
El pontífice señala que la verdad es un “bien común” esencial para el funcionamiento democrático. En un contexto en el que las plataformas digitales moldean el imaginario colectivo y condicionan el acceso a la información, la concentración de poder en pocas corporaciones tecnológicas representa una amenaza directa para la democracia.
La encíclica también aborda las consecuencias de la transformación digital sobre la dignidad del trabajo y actualiza la tradicional preocupación de la Doctrina Social de la Iglesia por la cuestión laboral, aplicándola a la era de la automatización y la inteligencia artificial.
Adicción y manipulación
Especialmente relevante es el apartado sobre “Custodiar la libertad frente a la dependencia y la mercantilización”, donde el papa denuncia las “dependencias y el control social” que generan las tecnologías digitales, y llama a “romper las cadenas de las nuevas esclavitudes”. Esta crítica se dirige tanto a las formas de explotación laboral en la economía de plataformas como a los mecanismos de adicción y manipulación que emplean ciertos modelos de negocio digitales.
León XIV propone además “una economía que valore la dignidad” como alternativa al modelo dominante. Y rechaza expresamente la ideología de los tecnoligarcas al cuestionar las visiones transhumanistas y posthumanistas que prometen superar los límites humanos mediante la tecnología. “La verdadera realización”, defiende en el documento, “no nace de la eliminación de las fragilidades, sino de un crecimiento armonioso”, donde “el progreso se mide por la dignidad de cada uno y por el bien de los pueblos”.
El papa subraya que enfrentar el poder tecnológico concentrado requiere una “responsabilidad compartida”. Ninguna instancia puede, por sí sola, contrarrestar el dominio de las grandes corporaciones tecnológicas, pero tampoco ninguna es tan débil como para no poder contribuir. León XIV convoca a “científicos e investigadores, empresarios y trabajadores, educadores y legisladores, sociedad civil, movimientos populares y comunidades de fe” a asumir cada uno su parte en la reconstrucción de un orden digital más justo.
Esta lógica de subsidiariedad, que valora “la cooperación entre generaciones, entre pueblos, entre disciplinas y culturas”, constituye para el pontífice “el camino privilegiado para hacer crecer la estabilidad, la prosperidad y la paz”. Las diferencias no deben intimidar, sino que, dice, pueden convertirse en “energías creativas cuando están orientadas por una responsabilidad compartida”.
En el capítulo quinto, León XIV aborda la crisis del multilateralismo en la era digital y denuncia que las dinámicas de concentración de poder tecnológico se inscriben en una lógica más amplia de “normalización de la guerra” y de “fuerza sin límites” que amenaza la paz mundial.
En un apartado sobre “Armas e IA”, el pontífice advierte sobre los riesgos de la militarización de las tecnologías de inteligencia artificial. Propone “relanzar el diálogo” y subraya “la necesidad de la diplomacia y el multilateralismo” como instrumentos para construir gobernanzas globales que limiten el poder tanto de actores estatales como privados en el ámbito tecnológico.
La “obra de nuestro tiempo”
En su conclusión, León XIV hace un llamamiento a “permanecer profundamente humanos” en la era de la inteligencia artificial. Y, sin adoptar una postura tecnofóbica, invita a todos —católicos, cristianos de otras confesiones, creyentes de otras religiones y “personas de buena voluntad”— a “no temer ensuciarse las manos en la obra de nuestro tiempo”, trabajando juntos para que las tecnologías sirvan al bien común y no a la acumulación de poder en pocas manos.
Al acto de presentación de la encíclica solo acudió un representante de las grandes tecnológicas: Christopher Olah, uno de los cofundadores de Anthropic, que no dudó en sumarse al mensaje del papa. En declaraciones a los medios, su tesis central fue que el rumbo de esta tecnología no puede quedar al albur exclusivo de los laboratorios y las grandes plataformas, porque estos operan bajo fuertes presiones comerciales, geopolíticas y personales que a menudo chocan con el interés general.
Por eso reivindicó la necesidad de un escrutinio externo fuerte —iglesias, gobiernos y sociedad civil— que funcione como contrapeso a los incentivos internos de la industria y obligue a alinear el desarrollo de la IA con el bien común.
La IA no llena internet de mentiras, sino de consenso: tres años de datos revelan sus efectos en la web
Ver más
Olah aprovechó la ocasión para afirmar que existe “una posibilidad real” de que la IA desplace trabajo humano “a gran escala” y de que eso abre un imperativo moral “de proporciones históricas”: sostener a quienes pierdan su empleo por esta transición tecnológica. No habla solo de un ajuste laboral, sino de la responsabilidad colectiva de que el impacto económico de la automatización no se traduzca en exclusión y precariedad masiva.
De ahí que subrayase otras dos urgencias: garantizar que los beneficios de la IA se repartan también fuera del reducido grupo de países ricos donde se concentran los avances, y abordar el problema de sistemas cada vez más complejos y opacos cuya conducta ni siquiera sus creadores terminan de comprender.
También las compañías que se presentan como más prudentes, como la misma Anthropic, están atrapadas en esa red de incentivos y limitaciones que “a veces pueden entrar en conflicto con hacer lo correcto”, reconoció. Esa constatación es lo que le lleva a defender que la gobernanza de la IA no puede dejarse en manos de la autorregulación corporativa, por bienintencionados que sean algunos investigadores, y que hacen falta marcos éticos y normativos construidos con participación religiosa, política y social.
