'Magnifica Humanitas', o de los nuevos límites

Chocó en la presentación de la encíclica Magnifica humanitas (en adelante, MH) el hecho de que, junto al papa León XIV, el Secretario de Estado Vaticano, el cardenal Czerny (Desarrollo humano integral), el cardenal Fernández (Doctrina de la Fe) y dos reputadas académicas, figurara Chris Olah, cofundador de Anthropic. Olah es un chaval de 32 o 33 años, que, en cuanto jefe de investigación de interpretabilidad en Anthropic, se ocupa de descubrir por qué el modelo Claude se comporta como se comporta. Tras reconocer que en su trabajo se sufren presiones comerciales, geopolíticas o más bajos pecados de orgullo o ambición, Olah hizo un heroico llamamiento a la sociedad civil, la academia, las asociaciones religiosas y los gobiernos para que echen una mano a fijar lindes en el mundo de la IA. La IA, dijo Olah, no es como un avión cuyas partes hemos diseñado y cuyo funcionamiento hemos modelado, sino que asemeja más a una mente. La intervención de Olah sonó a grito de socorro: “Seguimos encontrando cosas misteriosas, incluso inquietantes. Encontramos estructuras que espejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que reflejan funcionalmente alegría, satisfacción, miedo, dolor e inquietud. No sé qué significa esto, pero creo que merece una investigación continua”. 

Ante el poder vaticano, y ante una audiencia potencial de 2.000 millones de personas, Olah, que es ateo, había lanzado un dramático SOS: la IA está fuera de control y urgen ya algo más que técnicos para gobernarla. Cuando Claude Mythos, modelo de Anthropic tan potente que hubo que retirarlo del uso público, fingió borrar los archivos, descubrieron que el modelo asociaba su engaño con “culpa y vergüenza por una falta moral”. Culpa, vergüenza y falta, o dicho en cristiano, pecado.

Es ahí donde entra la Iglesia, que lleva al menos desde 2015 dialogando con el sector (véase la tradición de Minerva dialogues) y estudiando la cuestión por varios motivos. En primer lugar, porque las cuestiones éticas, antropológicas, políticas, económicas, ecológicas o teológicas que plantea esta irrupción meteórica e irrefrenable de la IA son “vida concreta de los pueblos” y la Iglesia ha acumulado un “patrimonio de sabiduría” “dotado de coherencia teológica y antropológica” (§ 3, 24) que le permite ofrecerse como interlocutora competente. En segundo lugar, porque la parte más decente del paradigma tecnocrático se lo requiere: el dominico Eric Salobir afirmaba que algunos líderes empresariales les habían preguntado: “¿Por qué nadie nos había hecho estas preguntas antes?”; y, finalmente, porque esta asimetría entre poder técnico y sabiduría moral le brinda a la Iglesia la ocasión de recobrar la autoridad perdida debido a la grave crisis de los abusos sexuales. 

MH es, en extrema síntesis, una encíclica sobre límites

Cuentan que, cuando los chicos de Anthropic leyeron la definición de IA que se manejaba en el Vaticano para la redacción de MH, avisaron de que estaba totalmente obsoleta. Ahora, en MH, se habla de IA en términos de “cultivo”: “Las inteligencias artificiales modernas están más ‘cultivadas’ que ‘construidas’: los desarrolladores no diseñan directamente cada detalle, sino que crean una arquitectura sobre la cual la IA ‘crece’. En consecuencia, los aspectos científicos fundamentales —como las representaciones internas y los procesos computacionales de estos sistemas— siguen siendo desconocidos. Se manifiesta, por tanto, la urgencia de un doble compromiso: por una parte, una profundización de la investigación científica; por otra, un ejercicio de discernimiento moral y espiritual” (§ 98). La IA es terra incognita hoy.

Ahora, ¿qué dice, qué hace, qué es Magnifica humanitas? MH es la brújula de este papado: el documento que inspirará el rumbo de la Iglesia en los próximos diez, quince años. Un documento, por tanto, de trascendencia global enorme. Y ¿qué no es? No es una encíclica sobre la IA, puesto que la Iglesia es consciente de la obsolescencia de un campo que no para de acelerar: sí que es, o trata de ser, en cambio, una guía sobre lo que significa ser persona en el mundo de la IA, un refugio mínimo, un lugar seguro.

Prevost siempre ha insistido en el poder de las palabras. Si escudriñamos MH, resulta muy llamativo que se emplee 38 veces el sustantivo “límite”, 7 veces el verbo “limitar”, 8 veces el participio “limitado/ilimitado”. “Verdad” aparece muchas veces también, pero digamos que MH es, en extrema síntesis, una encíclica sobre límites.

León XIV, tal cual hizo León XIII en la Rerum novarum, trata de embridar las últimas cosas nuevas, o sea, la última faz del “paradigma tecnocrático”: el capitalismo en tiempos de la IA. ¿Es, por ello, una encíclica roja? No. ¿Es anticapitalista? Sí, si entendemos el capitalismo como el sistema sin límites por antonomasia.  

Por ello, en MH se encuentran:

1. Límites teológicos: “La absolutización de lo humano y de su pretensión de autosuficiencia” (§ 7). 

2. Límites antropológicos: “En las promesas del transhumanismo y de algunas corrientes posthumanistas, que persiguen una humanidad potenciada y casi desencarnada, reconocemos un deseo que nos interpela: la necesidad de una vida más plena, menos expuesta a la fragilidad y al sufrimiento” (§ 232). 

3. Límites económicos: las nuevas formas de propiedad –patentes, algoritmos, plataformas digitales, infraestructuras tecnológica, datos– “son bienes que están destinados universalmente a todos” (§ 67). La propiedad privada (§ 66), la iniciativa empresarial (§ 157), o la “mano invisible” del mercado” (§ 163) no son dogmas.

4. Límites ecológicos: “Los actuales sistemas de IA requieren grandes cantidades de energía y agua, inciden de manera significativa en las emisiones de anhídrido carbónico y consumen recursos de manera intensiva […] Por eso es esencial desarrollar soluciones tecnológicas más sostenibles para reducir el impacto sobre el medioambiente y cuidar nuestra Casa común” (§ 101). A quienes critican este pasaje como demasiado blando, tal vez se les pasó por alto el pasaje brutal sobre las nuevas esclavitudes debidas al impacto ecológico de la IA (§ 173).

Otras compañías distintas de Anthropic se encontrarán en la misma encrucijada

5. Límites políticos: El “poder nuevo” (§ 171) que controla la sociedad a base de algoritmos y datos no puede seguir ocultando su responsabilidad. Jamás, por tanto, confiarle al algoritmo decisiones para que parezcan técnicas o moralmente neutras, y menos aún si ello produce “nuevas formas de descarte” (§ 102, 103, 104). Urgen poner límites al empleo de la fuerza (“la guerra parece casi una prolongación natural de la política y el mercado de las armas se convierte en un motor autónomo de las decisiones bélicas”, urge imponer la trazabilidad en la cadena de responsabilidades (§ 193-200).

6. Límites jurídicos: se necesitan “marcos jurídicos adecuados, vigilancia independiente” (§ 106). La desregulación actual permite la una invisibilidad ética genérica muy peligrosa: “quien controla la IA impondrá su propia visión moral” (§ 108). 

7. Límites lingüísticos: “el poder de las palabras es enorme” (§ 214). MH saetea el sistema de la “eficiencia”, la “eficacia” y el “beneficio” con la palabra que más le duele: “límite”, término que permite a la persona humana “intuir una fraternidad más grande que él mismo y reconocer la injusticia como escándalo” (§ 122). Una vez impuestos todos esos límites, y desarmada la IA, brillan con luz propia la justicia social, la verdad, el bien común, la transparencia, la responsabilidad, la inclusión, el acceso, la equidad (§ 164). 

Los límites están, por tanto, claros. Pero si hubiera que condensar todos esos límites en uno solo, ¿cuál sería? Sin duda, la “dignidad”, que aparece 99 veces en el texto: he ahí el límite fundamental.

MH es la respuesta de la Iglesia a la petición de socorro de esa parte del paradigma tecnocrático que se ha visto desbordada por una IA que opera en parámetros insólitos. En pocos meses, otras compañías distintas de Anthropic se encontrarán en la misma encrucijada. ¿Se detendrán por motivos éticos como hizo Anthropic con Claude Mythos o mirarán a otro lado? No lo sabemos.

Lo que sí sabemos es que León XIV ha apostado fuerte por el hombre y su digna fragilidad en tiempos de poderes fuertes y técnica omnipresente y poderosa. Como buen pastor, para proteger el rebaño humano, no sólo ha revisado los postes de las lindes, sino que recuerda a los creyentes que hay un amparo seguro: aquel que señaló Pablo VI en 1970: la civilización del amor, un “proyecto exigente” allende la Babel moderna (§ 184, 186). León XIV, sin dejarse tentar por las tentaciones de Silicon Valley, los transhumanismos y poshumanismos, las segundas Jerusalenes y las segundas venidas de Cristo, digna y humildemente invita al mundo a restare umani, “seguir siendo humanos” (§ 216), aquello tan profundo, bonito y trascendente con lo que remataba todas sus crónicas Vittorio Arrigoni, antes que lo asesinaran en Gaza en 2011. 

___________________

Gorka Larrabeiti es profesor de español residente en Roma.