Silicon Valley, Palantir y la república tecnológica
El manifiesto de 22 puntos publicado por los directivos de Palantir constituye un resumen programático del libro de Alexander C. Karp y Nicholas Zamiska titulado La República Tecnológica, subtitulado Poder Duro, Pensamiento Débil, y el futuro de Occidente. Todos los puntos se encuentran en diversos capítulos del libro.
Karp es director ejecutivo de Palantir; dedica buena parte del libro a describir y ensalzar a su empresa y sus métodos y a explicar lo que fue y es Silicon Valley y lo que a su juicio debería ser. Es sin duda, un libro interesante. Con el ánimo de que cada lector saque sus propias conclusiones sobre las propuestas de Karp, se expone el presente resumen del libro.
Quién impulsó las primeras innovaciones de Silicon Valley
"Las primeras innovaciones de Silicon Valley no fueron impulsadas por cerebros técnicos que buscaban elaborar productos de consumo triviales, sino por científicos e ingenieros que ansiaban ver implementada la tecnología más potente de la época para abordar retos significativos. Su objetivo no era satisfacer las necesidades pasajeras del momento, sino impulsar un proyecto mucho más importante canalizando la resolución y la ambición colectivas de una nación", comenta Karp, quien añade: "Esta temprana dependencia del Silicon Valley del Estado-nación y, de hecho, del Ejército estadounidense, ha sido en general olvidada, borrada de la historia de la región como un hecho incómodo y disonante, que choca con la concepción que Silicon Valley tiene de sí mismo como deudor únicamente de su capacidad para innovar".
El autor recuerda que el presidente Roosevelt escribió que "no hay ninguna razón para que las lecciones que aprendamos de este experimento, colaboración entre gobierno e industria privada durante la guerra, no pueda emplearse provechosamente en tiempos de paz".
Karp es director ejecutivo de Palantir; dedica buena parte del libro a describir y ensalzar a su empresa y sus métodos y a explicar lo que fue y es Silicon Valley y lo que a su juicio debería ser. Es sin duda, un libro interesante
El presidente norteamericano pretendía que la maquinaria del Estado estimulase el avance de la comunidad científica al servicio, entre otras cosas, del progreso de la salud pública y del bienestar nacional. De esa concepción nació la Agencia de Proyectos de Investigación de Defensa (DARPA por sus siglas en inglés) y la colaboración con el Instituto Tecnológico de Massachusetts donde el psicólogo Josep Licklider anticipó el surgimiento de las primeras formas de IA. Las innovaciones del DARPA incluyen los precursores del moderno internet y el sistema de posicionamiento global (GPS).
Las relaciones entre los dirigentes políticos y los científicos en los que confiaban para que les sirvieran de guía eran estrechas y con un alto grado de confianza, en opinión de Karp, pero “cuando las tecnologías emergentes que generan riqueza no promueven el interés público general pueden surgir problemas”.
La encarnación moderna de Silicon Valley se ha alejado de manera significativa de esta tradición de colaboración con el gobierno estadounidense, centrándose en cambio en el mercado de consumo como la publicidad en línea y las plataformas de las redes sociales, que han llegado a dominar y limitar nuestra percepción del potencial de la tecnología, según el directivo de Palantir.
“Las causas fundamentales del cambio incluyen las crecientes divergencias entre los intereses y los instintos políticos de la elite estadounidense y los del resto del país tras la segunda guerra mundial así como el distanciamiento emocional de una generación de ingenieros informáticos respecto a conflictos más amplios: los problemas económicos del país y las amenazas geopolíticas del siglo XX”.
Y concluye: “La retirada del Estado dejó un vacío cada vez más amplio en materia de innovación. Sin embargo, será la unión del Estado y la industria del software lo que hará falta para que los Estados Unidos y sus aliados en Europa y en todo el mundo sigan siendo tan dominantes en este siglo como lo fueron en el pasado. En este libro defendemos que el sector tecnológico tiene la obligación de apoyar al Estado que hizo posible su ascenso”.
La encrucijada que no comprendemos
“Hoy tenemos que decidir si seguimos adelante con una tecnología cuyo poder y potencial aún no comprendemos del todo. Tenemos que decidir si frenamos o incluso detenemos el desarrollo de las formas más avanzadas de inteligencia artificial, que pueden amenazar a la humanidad o incluso superarla algún día, o si permitimos una experimentación si trabas con una tecnología que puede influir en la política internacional de la misma forma que las armas nucleares lo hicieron en el siglo pasado”.
Tras plantear la disyuntiva anterior, Karp recuerda que “no está claro ni siquiera para los científicos y programadores que los construyen, cómo y porqué funcionan los modelos generativos de lenguaje e imágenes; y las versiones más avanzadas de los modelos han empezado a demostrar lo que un grupo de investigadores ha denominado chispas de inteligencia general artificial o formas de razonamiento que parecen aproximarse a la forma de pensar de los seres humanos”.
Pese a los riesgos importantes que indica Karp es partidario de seguir adelante. El software y la inteligencia artificial que estamos desarrollando en Palantir y otras empresas pueden permitir el desarrollo de armas letales. Es esencial que reorientemos nuestra atención hacia la construcción de armamento de IA que determine el poder en este siglo, cuando termine la era atómica y en el próximo; además será esencial construir enseguida sistemas que permitan una colaboración más fluida entre los operadores humanos y sus homólogos algorítmicos, pero también garantizar que la máquina siga estando subordinada a su creador.
La próxima era de conflictos se ganará con software: puro poder
"Una era de disuasión, la era atómica está llegando a su fin y una nueva era de disuasión basada en la IA está a punto de comenzar. Nuestros adversarios (para Karp China) no se detendrán en teatrales debates sobre los méritos de desarrollo de tecnologías con aplicaciones militares y de seguridad nacional críticas: seguirán adelante".
Sobre China, el autor cita las palabras de un profesor de Relaciones Internacionales: “Muchos de los contemporáneos de Xi Jinping que vivieron la Revolución Cultural llegaron a la conclusión de que China necesitaba el constitucionalismo y el estado de derecho, pero Xi dijo que no: lo que necesitáis es el Leviatán". El cultivo del poder duro, incluida la IA para el campo de batalla es una necesidad para sobrevivir, añade Karp, Xi lo entiende de una forma que los occidentales, los autoproclamados vencedores de la historia, a menudo olvidan.
En opinión del directivo de Palantir, “las capacidad de las sociedades libres y democráticas para prevalecer requiere algo más que un llamamiento moral. Requiere puro poder que en este siglo se basará en el software”.
Es de las pocas veces, o la única, que en el libro se habla de la sociedad libre y democrática. Habría que entender, que en la concepción de Palantir, la república tecnológica deberá ser una sociedad libre y democrática, aspecto que no se desarrolla en el texto de Karp, en opinión de quien esto escribe. Juzgue el lector por la exposición de su pensamiento en qué tipo de sociedad está pensando el directivo de Palantir.
Mientras otros países avanzan, muchos ingenieros de Silicon Valley siguen oponiéndose a trabajar en proyectos de software que puedan tener aplicaciones militares ofensivas, incluidos los sistemas de aprendizaje automático que hacen posible la eliminación de enemigos en el campo de batalla, se lamenta Karp.
“Los niños prodigios de Silicon Valley , sus fortunas, sus imperios comerciales y sobre todo su propio sentido de sí mismos, existen gracias a la nación, que en muchos casos hizo posible su ascenso. Se encargan de construir vastos imperios técnicos, pero se niegan a ofrecer apoyo al estado cuya protección, por no hablar de las instituciones educativas y los mercados de capitales, les ha proporcionado las condiciones necesarias para su ascenso. Les convendría comprender esa deuda, aunque siga sin saldarse”.
El desencanto de una generación con el Estado-nación
El autor reconoce el desencanto de una generación estadounidense con el Estado-nación y el interés por la defensa colectiva, pero este hecho ha dado lugar a una reorientación incuestionable pero inmensa de los recursos tanto intelectuales como financieros, para satisfacer las necesidades, a menudo caprichosas, de la cultura de consumo del capitalismo.
Las razones de ese desencanto y del dominio de los caprichos del consumo se deben, en opinión de Karp, a que “una amplia franja de líderes en Estados Unidos y en Occidente han sido castigados sin piedad durante años por mostrar públicamente algo que se aproxime siquiera a una creencia auténtica. El ámbito público se ha vuelto tan implacable que lo único que ha quedado a la república es una larga lista de ineficaces y vacuos recipientes cuya ambición aún se perdonaría si en su interior se ocultase una mínima estructura de creencia genuina”.
Es lo que Karp llama el vaciado de la mente estadounidense y el abandono de la fe.
“Nuestras instituciones educativas y la cultura en sentido más amplio han favorecido la existencia de una nueva clase de líderes que no son meramente neutrales o agnósticos, sino que tienen una capacidad gravemente mermada para formarse sus propias creencias auténticas sobre el mundo. Hoy en día, un subgrupo significativo de Silicon Valley desprecia, sin ambages, a las masas por su apego a las armas y a la religión, pero ese mismo subconjunto se aferra a otra cosa: Una tenue y exigua ideología secular que se disfraza de pensamiento. El problema es que tolerarlo todo suele suponer no creer en nada”.
Funciona o no funciona. La cultura de la ingeniería
"Hay que dejar de lado constantemente las ideas percibidas sobre lo que debería funcionar en favor de lo que funciona. Los fundadores y tecnólogos que han construido el mundo moderno abandonaron de buen grado las grandes teorías y las estructuras de creencias dominantes para construir; de hecho construyen cualquier cosa con tal que funcione. La característica distintiva de la tecnología y del software es que funciona o no funciona. No hay medias tintas, no hay casi, cuando se trata de software: el programador se enfrenta inmediatamente al fracaso. No hay discusión ni postura que pueda hacer que el programa funcione".
La gran desventaja del ingeniero, recuerda Karp citando al geólogo Herbert Hoover que trabajó en minería “es que sus obras están a la vista de todos y que el ingeniero no puede enterrar sus errores en la tumba como el médico, ni argumentar hasta que desaparezca o culpar al juez como el abogado. Esta sensibilidad a los resultados y al fracaso, y quizás el abandono de las grandes teorías sobre cómo debe ser el mundo o cómo deberían funcionar las cosas, es la semilla de la cultura de la ingeniería. Es esencial que el ingeniero, ya sea del mundo mecánico, del digital o incluso del escrito, descienda de la torre de la teoría al pantano de los detalles reales tal y como son y no como se ha teorizado que sean”.
Reconstruir la república tecnológica. Los vínculos imaginarios
Opina Karp que la negativa de Silicon Valley y otros progresistas a comprometerse con las reivindicaciones y demandas políticas de casi la mitad del país corre el riesgo de convertir en marginal su propia agenda.
Sin embargo, continúa el autor "la afanosa búsqueda de esos avances y resultados lo que constituye el fundamento del enfoque ingenieril del mundo y la base de una república tecnológica". El riesgo es que abandonemos un sistema moral o ético orientado a los resultados que más impostan a la gente (menos hambre, delincuencia y enfermedades) en favor de un discurso mucho más dramatúrgico en el que la gestión de los mensajes en torno a esos resultados eclipse los resultados en sí.
¿Qué es lo que sostiene a comunidades de individuos que pueden ser miles de millones?
¿Qué es lo que es capaz de unirnos, de ofrecer un cierto grado de cohesión y una narrativa común que permita a grandes grupos organizarse en torno a algo más que nuestra propia subsistencia? Se pregunta el autor, que responde: “Sin duda alguna se trata de una mezcla de cultura, lengua, historia, héroes y villanos, relatos y patrones de discursos compartidos". Todo ello sin negar que las culturas están en un proceso de cambio constante. Lo irónico resalta Karp “es que los más escépticos ante el mercado y las enormes desigualdades que se derivan de la adopción de un capitalismo a ultranza, no suelen darse cuenta de que su propia aversión a defender la cultura o los conceptos de nación deja un vacío que el propio mercado se encarga de llenar”.
En su defensa del papel de la nación, el autor se pregunta si debemos permitirle que ocupe el lugar, que de otro modo, ocuparía una cultura de consumo en auge en la que la identidad y la pertenencia se definen por lo que uno pueda comprar y en consecuencia por la casta y la riqueza. Este es, señala, Karp, el error más flagrante de la izquierda moderna.
Recuerda también el autor las concepción de nación del pensador francés Ernest Renan: “Un proyecto nacional presupone un pasado, pero se resume en el presente por un hecho tangible: la aceptación, el deseo claramente expresado de continuar una vida en común” o en expresión del propio Renan, un plebiscito cotidiano.
Las tecnologías que estamos construyendo, finaliza Karp en su libro “entre ellas las nuevas formas de inteligencia artificial que pueden desafiar nuestro actual monopolio de control creativo de este mundo, son a su vez el producto de una cultura cuyo mantenimiento y desarrollo ahora más que nunca no podemos permitirnos abandonar. Puede que fuera justo y necesario desmantelar el viejo orden. Ahora debemos construir algo juntos en su lugar”.
Que el posible lector valore lo expuesto por el directivo de Palantir. Al que esto escribe le gustaría saber cuántos programas de software dedica su empresa a la erradicación del hambre y la mejora de las condiciones de vida de los habitantes de esa nación tan añorada. Porque el plebiscito diario del que hablaba Renan será negativo si la potencia de las naciones se mide únicamente por la potencia de sus programas de software militar y de vigilancia ciudadana.
___________________________
Julián Lobete Pastor es socio de infoLibre.
