'Magnifica Humanitas' y puntos de coincidencia
La Carta Encíclica Magnifica Humanitas de León XIV, subtitulada “sobre la custodia de la persona humana en el tiempo de la inteligencia artificial”, tiene un indudable interés para los no creyentes y para los creyentes de otras religiones.
Por supuesto también para los católicos en cuanto, como señala la propia Carta, la doctrina en ella contenida forma parte de la Doctrina Social de la Iglesia, aunque siempre he sospechado que para muchos católicos esta parte de la doctrina no existe o al menos no la practican.
Las definiciones, reflexiones y recomendaciones de la Carta abordan situaciones y problemas que nos afectan a todos creyentes y no creyentes. Una vez leída, manifiesto mi coincidencia con lo expuesto por León XIV, no sólo sobre inteligencia artificial sino también con sus reflexiones sobre la verdad, la comunicación, el valor del trabajo, la libertad económica y la libertad humana y sus consideraciones sobre el poder y la guerra.
No entro en cuestiones de tipo religioso, en las que no soy competente, ni tampoco en la exposición sobre los principios de la Doctrina Social de la Iglesia.
Expongo a continuación los apartados de la Carta que considero más interesantes y en los que encuentro más puntos de coincidencia, de forma resumida pero respetando lo esencial del pensamiento papal, transcribiendo las palabras de la Carta en cada punto. Cada lector puede elegir el orden en el que los lee o comenta.
Definición de la inteligencia artificial
No es posible dar una definición única y completa de la IA. Estos sistemas imitan ciertas funciones de la inteligencia humana. Al hacerlo, a menudo la superan en velocidad y amplitud de cálculo, ofreciendo beneficios concretos en numerosos campos. Y sin embargo, esta potencia sigue ligada exclusivamente al tratamiento de datos. Es más bien una adaptación estadística a partir de datos y retroalimentaciones que puede ser muy eficaz, pero no implica un crecimiento interior.
Tres aspectos a considerar en el uso personal de la IA
León XIV advierte que en el uso personal de la IA, tres aspectos han de ser tenidos en consideración: la facilidad para lograr el resultado, la impresión de objetividad y la simulación de la comunicación humana. El primero puede acostumbrarnos a delegar demasiado y a buscar respuestas rápidas debilitando el juicio personal y la creatividad.
El segundo aspecto corre el riesgo de hacernos olvidar que las respuestas reflejan los parámetros culturales de quienes las han proyectado y adiestrado con todas sus virtudes y defectos. El tercer aspecto puede resultar gratificante e incluso útil, pero en usuarios poco conscientes puede inducir a engaño y dar la impresión de estar en una relación con un auténtico sujeto personal.
La IA no es moralmente neutra
Todo artefacto técnico lleva consigo decisiones y prioridades, lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones. Por eso el discernimiento ético no se puede limitar a preguntarnos si usamos un determinado sistema para fines buenos o malos, sino que debe interrogarse también sobre el modo en que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que la guían.
Para que la IA respete la dignidad humana y sirva realmente al bien común es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles decisiones concretas. Esta exigencia es aún más urgente porque existe un desequilibrio entre la velocidad del desarrollo tecnológico y el ritmo al que maduran las conciencias, las normas, y las instituciones capaces de gobernar sus efectos.
Para que la IA respete la dignidad humana y sirva realmente al bien común es esencial que las responsabilidades estén claras
La IA aumenta el poder de quien ya lo tiene
La IA tiende a aumentar sobre todo el poder de quien ya dispone de recursos económicos, competencias y acceso a los datos. En un mundo donde pocos sujetos concentran datos, capital informático y capacidad normativa, hablar de bien común significa desenmascarar esta nueva asimetría epistémica, económica y política, nombrando los nuevos monopolios de la IA.
Desarmar la IA. Poder tecnológico no es derecho a gobernar
Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es solo militar sino económica y cognitiva. Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o militar sobre los demás. Desarmar es romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología sino impedirle el dominio sobre lo humano. La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso no basta regularla sino desarmarla y hacerla acogedora.
Custodiar lo humano en la transformación: verdad, trabajo y libertad
Herramientas que debían favorecer el diálogo y la participación se utilizan a menudo para construir narrativas sesgadas y difuminar los límites entre lo verdadero y lo falso mezclando datos y opiniones. La desinformación no surge con la IA, pero encuentra hoy en ella un potente multiplicador.
En el discurso público, la verdad de los hechos tiene una dimensión racional ya que requiere verificación, cotejo de fuentes y responsabilidad argumentativa, pero es aún más relacional: se construye a través de vínculos de confianza y prácticas compartidas en un diálogo honesto con los demás y con el mundo. Solo la búsqueda compartida de la verdad de los hechos, asumida como bien común, puede sentar las bases de una comunicación justa.
Quienes disponen de recursos técnicos y económicos, y con ellos también de muchos recursos humanos para intervenir, tienen una gran capacidad para provocar cambios culturales y en última instancia para convencer a un amplio número de personas acerca de cuál es la verdad, sobre el ser humano, sobre el mundo, sobre el sentido de la existencia, sobre la familia e incluso sobre Dios. Se trata de puro poder carente de verdad que impone sutilmente o abiertamente lo que los demás consideren como verdadero. Por ello cree que puede construir la realidad y que lo que mejor se adapte a sus pretensiones es válido.
La búsqueda de la verdad es un elemento esencial para la democracia. Cuando la pregunta sobre lo que es verdadero pierde interés y se impone un pragmatismo que se conforma con lo que parece útil o eficaz, la democracia se debilita. El desinterés por la verdad conduce lenta pero inexorablemente hacia el totalitarismo.
Comunicación e imaginario colectivo
Es importante recordar que la comunicación no es solo transmisión de información sino creación de una cultura. Lo que surge en internet pasa a formar parte de la vida de las personas, sobre todo de las más jóvenes. Por eso quienes controlan las plataformas digitales y los medios de comunicación tienen una notable capacidad para influir en el imaginario colectivo y presentar como deseable una determinada visión de la realidad. La cultura que se genera en la red no debe convertirse en un elemento de distracción excesiva, de homogeneización y de dominio, sino en un espacio en el que puede madurar la libertad interior y el pensamiento crítico. La verdad es un bien común y no una propiedad de quienes tienen poder o visibilidad.
La dignidad del trabajo en la transición digital
Hoy en día, la combinación de la automatización, la robótica y la IA están transformando la estructura misma del trabajo. Se dice que esto traerá grandes mejoras para todos. En realidad "los nuevos modos" de trabajar no son necesariamente mejores porque mientras la IA promete impulsar la productividad haciéndose cargo de tareas ordinarias, a menudo los trabajadores se ven obligados a adaptarse a la velocidad y exigencias de las máquinas, en lugar de que estas últimas estén diseñadas para ayudar a quienes trabajan. Así, contrariamente a los beneficios anunciados sobre la IA, los enfoques actuales sobre la tecnología pueden paradójicamente desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas. La necesidad de seguir el ritmo de la tecnología puede erosionar el sentido de la propia capacidad de los trabajadores y ahogar las capacidades innovadoras que están llamados a aportar en su trabajo.
El trabajo sigue siendo una dimensión fundamental de la experiencia humana. Por eso los problemas vinculados con el trabajo no se limitan únicamente a los ingresos necesarios para la supervivencia de la familias.
El problema del desempleo
La preocupación por el desempleo se agudiza en la cuarta revolución industrial porque la innovación suele acogerse únicamente con el fin de reducir costes y aumentar los beneficios. En algunos contextos es realista temer una reducción significativa y rápida de los puestos de trabajo disponibles, con un efecto en cadena que afecta profundamente a las familias, los jóvenes y las comunidades locales. En muchos sectores, esto ya se traduce en nuevas formas de precariedad y desigualdad, con remuneraciones muy elevadas para una minoría altamente especializada y salarios cada vez más bajos para una gran parte de la población activa.
Sin duda es deseable que la tecnología libere al hombre de trabajos especialmente pesados, repetitivos o peligrosos y que ofrezca un apoyo inteligente a la actividad humana. El objetivo de obtener mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente el empleo, porque la persona humana es un fin y no un medio y el orden económico debe permanecer subordinado a su dignidad y el bien común.
Una sociedad que garantizara trabajo solo a una parte de la población, expondría a muchos a una inactividad forzada, de ausencia de responsabilidades y de compromisos y de estímulos cotidianos con consecuencia de empobrecimiento humano y cultural en contraste con un elevado nivel de desarrollo técnico.
Un nuevo esfuerzo conjunto
Las iniciativas surgidas en el contexto de la encíclica Rerum Novarum, en el siglo XIX, asociaciones, sindicatos, cooperativas, obras de asistencia social han contribuido de manera decisiva a mejorar la legislación laboral, a proteger a los más vulnerables y a promover condiciones más humanas. Hoy en día tales instrumentos ya no bastan por sí solos ante las transformaciones provocadas por la IA, la nueva organización de los mercados y la competitividad que rara vez se preocupa por la sostenibilidad social.
Es necesario un nuevo esfuerzo conjunto por parte de los responsables políticos, las organizaciones de los trabajadores, el mundo empresarial y la comunidad científica para elaborar con celeridad normas y medidas de protección adecuadas también a nivel internacional. En esta transición no basta con reaccionar cuando desaparecen puestos de trabajo, sino que es necesario gestionar la transformación de forma proactiva.
La libertad económica no es absoluta
La libertad económica no es absoluta y debe medirse siempre en función del bien común y de la dignidad de cada persona. Con espíritu profético el papa Francisco advirtió acerca de una libertad económica proclamada sólo de palabra, mientras que las condiciones reales impiden que muchos se beneficien realmente de ella.
En lugar de esperar los beneficios que “al final” llegarán también a los pobres, se necesitan decisiones que hagan que el crecimiento sea inclusivo desde el principio. Las experiencias de las últimas décadas demuestran que en las crisis económicas y financieras son siempre los pobres quienes pagan el precio más alto, mientras que las teorías que prometen un bienestar general automático suelen resultar ilusorias.
Más aún, en la época de la IA y de la robótica ya no es posible confiar únicamente en la mano invisible del mercado. La política tiene la tarea de orientar las dinámicas económicas y tecnológicas hacia el bien común, promoviendo el trabajo digno, la inclusión social y una distribución equitativa de los beneficios de la innovación.
Romper las cadenas de las nuevas esclavitudes
En el mundo de la IA nada es inmaterial o mágico. Cada respuesta que parece inmediata y perfecta proviene de una larga cadena de mediaciones, una extensa red de recursos naturales, infraestructuras energéticas y sobre todo personas. Una parte significativa del funcionamiento de la economía digital se sustenta en el trabajo silencioso de millones de seres humanos ,empleados en actividades poco visibles pero esenciales: etiquetado de datos, moderación de contenidos, a menudo pésimos, y entrenamiento de modelos. En muchos casos, se trata de jóvenes, la mayoría mujeres, que trabajan duro a cambio de remuneraciones mínimas. A este arduo trabajo invisible se suma la tarea, aún más brutal, de la extracción de recursos para la producción de dispositivos y microprocesadores en la que se basa la IA. No basta con invocar la eficiencia ni con alabar los beneficios de la innovación, si éstos se basan en una cadena de explotación que se mantiene deliberadamente oculta.
La lucha contra las nuevas formas de esclavitud constituye una prueba decisiva para el discernimiento de la IA y de la transformación digital.
Cultura del poder y guerra
Si observamos las dinámicas mundiales, reconocemos cada vez con mayor claridad la expansión de una cultura del poder hecha de polarizaciones y violencias. Asistimos a una preocupante rehabilitación de la guerra como instrumento de política internacional y a una también preocupante pérdida de la memoria histórica. Un elemento clave del panorama actual es el crecimiento de la industria bélica que se ha convertido en un sector clave de la economía de algunos países. A este panorama se suma el desarrollo incesante de los sistemas de armas y en particular de las armas relacionadas con la IA.
Conclusiones personales
Pienso que millones de personas en todo el mundo, católicos, de otras religiones y no creyentes compartirán las reflexiones del Papa León XIV y sus llamamientos a la acción contra el poder de las tecnológicas, para la restauración de la verdad en la comunicación social, por la dignidad del trabajo y el mantenimiento y enriquecimiento del empleo, en un esfuerzo conjunto por una sociedad más libre y más humana. Sorprende, no obstante, el comportamiento y la actitud de algunas asociaciones católicas y de algunos católicos cuya practica se sitúa en el lado opuesto de la Doctrina Social de la Iglesia. Ello no debe impedir ese esfuerzo conjunto que solicita el Papa, somos millones y no podrán imponernos una nueva dictadura a través de la IA.
____________
Julián Lobete Pastor es socio de infoLibre.
