Lo dijo sin rodeos, ante el plenario del I Encuentro por los Derechos Digitales, que concluye este jueves en Barcelona. “Cuanto más conocemos, más nos radicalizamos. Más nos radicalizamos en la conciencia de que llegamos tarde y de que estamos hablando de una cuestión completamente civilizatoria”.
Así de contundente se manifestó el ministro para la Transformación Digital, Óscar López, en la descripción del diagnóstico que hacen quienes trabajan en la gobernanza de la inteligencia artificial desde dentro de las instituciones. “No es una discusión tecnológica, es una discusión política. Política de primera magnitud. Estamos discutiendo sobre soberanía”.
Para explicar el riesgo de llegar tarde, López recurrió a la analogía de la crisis financiera de 2008. El hundimiento de Lehman Brothers en octubre de ese año coincidió con la expansión masiva de las grandes redes sociales, Twitter y Facebook entre ellas. En ambos casos hubo un grito previo a favor de la desregulación, productos opacos que nadie era capaz de explicar del todo y una sensación de que el sistema se había ido de las manos antes de que alguien pudiera frenarlo.
“Yo no quiero que en el futuro, cuando se produzcan comisiones de investigación y juicios sobre lo que pasó con la inteligencia artificial o con las redes sociales, aparezcan ingenieros diciendo que se me fue de las manos”, señaló el ministro.
Regular sin quedarse atrás
López desmintió desde el principio la acusación más frecuente contra los reguladores europeos: que frenan la innovación mientras otros avanzan. Y lo hizo, de nuevo, con una referencia financiera, poniendo esta vez el foco en los bancos españoles, que batieron récord de beneficios el año pasado. Después de la crisis, después de la regulación, después de lo que parecía una camisa de fuerza para el sector. “Parece que la regulación no ha sido contraria a la competitividad”, ironizó.
En la misma línea intervino Carissa Véliz, filósofa de la Universidad de Oxford y autora de Privacy is Power y del reciente Prophecy, que compartió escenario con el ministro. Su versión del argumento fue más allá: “Un producto que es tan poco fiable como lo que tenemos, que gasta tantísima energía y que además está liderado por la gente más desconfiable del mundo, no es un gran producto”. Y la alternativa no es rendirse a ese modelo ni imitarlo, sino adelantarlo. “La ética no es nada más que buen diseño. Cuando tienes una buena silla, donde puedes estar sentado todo el día y no te duele la espalda, eso es ética”.
López enumeró las palancas con las que España intenta construir esa alternativa. 30.000 millones de euros de fondos de recuperación destinados a semiconductores, modelos de lenguaje, cátedras universitarias de IA y ciberseguridad, y planes de minería para tierras raras. Una Carta de Derechos Digitales ya aprobada. Un observatorio específico. Una ley de protección del menor. La prohibición, conseguida hace tres semanas en el marco del Reglamento Europeo de Inteligencia Artificial, de los sistemas que permiten las deepfakes sexuales. Y, como telón de fondo de todo ello, el encargo que el presidente del Gobierno le hizo cuando le nombró ministro: hacer con la transformación digital lo que España ha hecho con las renovables.
Fue en ese marco en el que el ministro hizo una promesa para el futuro: ahora, después de la IA, viene el desafío de la computación cuántica. “Y atentos a sus pantallas, porque España va a ser líder mundial” en esta materia.
El astrólogo que sabía demasiado
Si el ministro habló con el lenguaje de la política, Véliz lo hizo con el de la historia. En su intervención, recordó la anécdota de Luis XI de Francia y su astrólogo de la corte. El rey, perturbado porque el astrólogo había predicho la muerte de una dama de la corte y la dama había muerto, ordenó en secreto que lo ejecutaran arrojándolo por una ventana. Antes, como última formalidad, le preguntó cuánto tiempo viviría. El astrólogo respondió sin vacilar: moriría tres días antes que su majestad. Luis XI nunca dio la señal.
“¿El astrólogo encontró la respuesta en las estrellas? Por supuesto que no. El astrólogo entendía el poder de las predicciones y lo usó a su favor”.
Esta historia resume la tesis central de su último ensayo, Prophecy. Según ella, los grandes ejecutivos tecnológicos, los tecnobros, están utilizando sus predicciones sobre el futuro exactamente igual que aquel astrólogo, con la diferencia de que hoy la audiencia es global y los medios las transcriben como hechos. “Lo que estamos viendo es que uno de estos ejecutivos dice algo y se reporta como si fuera un hecho. Y lo que en realidad estamos haciendo es obedecer. Las predicciones muchas veces son órdenes camufladas”.
La advertencia tiene un filo específico para el debate político. Cuando Elon Musk, Peter Thiel o Sam Altman proyectan el futuro de la IA, no están describiendo lo que va a ocurrir. Están intentando que ocurra. La diferencia entre una predicción y una orden depende, en gran medida, de si la audiencia es capaz de distinguirlas.
La memoria que no olvida
Véliz introdujo además un argumento sobre los riesgos de que aceptemos, sin más, el uso de la predicción algorítmica en decisiones que afectan directamente a los ciudadanos: los préstamos bancarios, los contratos de alquiler, las oportunidades laborales. Cuando un criterio es explícito —un salario mínimo, un historial de pagos—, el solicitante puede saber qué debe cambiar para obtener un resultado diferente. Cuando el criterio es una predicción algorítmica, no hay manera de impugnarlo. “Si tú me dices, no te doy este préstamo porque yo predigo que no lo vas a pagar, ¿cómo desafías una predicción? No hay manera, porque no es un hecho”.
La democracia, dijo, necesita estar anclada en hechos verificables y en procesos transparentes que el ciudadano pueda contestar. Cuando las decisiones se trasladan al futuro predicho por una máquina, ese ancla desaparece. Y puso un ejemplo histórico: en la antigua Roma, cuando los ciudadanos empezaron a creer más en las predicciones sobre quién sería el próximo emperador que en las instituciones de la república, la república no tardó en desaparecer. “Y la república”, advirtió, “nunca volvió”.
La mayoría de los españoles quiere más regulación digital y aceptaría renunciar al anonimato para conseguirla
El ministro añadió su propia lectura del problema de la vigilancia digital, haciendo un inciso que mezcló lo cotidiano con lo estructural: si no fuera una cuestión de poder político, los usuarios españoles de una red social no habrían recibido un mensaje del dueño de esa plataforma contra el presidente del Gobierno. “Fijaos en las implicaciones para el modelo democrático”, dijo, aludiendo a los ataques de Elon Musk a Pedro Sánchez a través de X.
Hacer equipo o perderlo todo
Véliz concluyó insistiendo en que el cinismo es la peor respuesta posible: “No vale ser cínico. Es demasiado fácil”. Y señaló que España tiene, a su juicio, algo de lo que otros países de su entorno carecen: valentía. “Si somos valientes ahora, vamos a tener que ser menos valientes en el futuro. Si en este momento mostramos cobardía, va a ser falta ser muchísimo más valientes más adelante”.
López quiso cerrar su intervención con la imagen que usa el presidente del Gobierno como brújula: la transformación energética. España no llegó tarde a las renovables. Llegó cuando llegó y, sin embargo, hoy exporta ese modelo al mundo. La apuesta es que con la IA y con la computación cuántica pueda repetirse el mismo trayecto.
Lo dijo sin rodeos, ante el plenario del I Encuentro por los Derechos Digitales, que concluye este jueves en Barcelona. “Cuanto más conocemos, más nos radicalizamos. Más nos radicalizamos en la conciencia de que llegamos tarde y de que estamos hablando de una cuestión completamente civilizatoria”.