"Muchas veces cuando me hacen entrevistas o estoy escuchando la radio o la televisión, se habla de los algoritmos como si fueran unos dementores de Harry Potter. Y no lo son". Clara Grima, doctora en Matemáticas y profesora titular de Matemática Aplicada en la Universidad de Sevilla, publicó este 25 de junio su nuevo libro dedicado a los algoritmos: a su belleza y a su importancia en nuestro día a día, porque vivimos rodeados por ellos, sin darnos cuenta, desde la antigua Grecia. Pero lo que empieza siendo una apología de "vivan los algoritmos", termina desenmascarándolos cuando la inteligencia artificial irrumpe en esta historia.
Con su particular humor y de la mano de las ilustraciones de Raquel Gu, el título, una vez más, es de película, aunque tal y como reconoce Grima en una entrevista telefónica con infoLibre, la elección fue "por casualidad". Tras ¡Que las matemáticas te acompañen! y En busca del grafo perdido, ahora es el turno de Con algoritmos y a lo loco. Porque no son tan malos como parecen (Ariel, 2025). Y, spoiler, algo tienen en común este libro y la película de Billy Wilder: nadie es perfecto. Y los algoritmos menos.
Explica en el libro que los algoritmos han pasado del ostracismo al lenguaje coloquial y que por el camino se le ha dotado de unos rasgos malignos, ¿cómo ha pasado esto?
Le ha pasado un poco lo mismo que a la química, que ahora es casi sinónimo de algo malo cuando es todo lo bueno: el aire, los besos o lo que comemos… todo es química. Y ahora le está pasando a los algoritmos. Antes la palabra ni se conocía y eso que todos usamos desde pequeñitos el algoritmo de la suma. No ha sido hasta la llegada de la computación y la tecnología cuando se ha empezado a emplear masivamente. Ahora, cuando la gente piensa en algoritmos, piensa en los de recomendaciones de las películas de Netflix, en el de las compras de Amazon o en los de las redes sociales que tienen la capacidad para enfadarte y de hackear tu cerebro.
De no escuchar la palabra nunca, pasamos a escucharla en todos lados y es aquí cuando se le ha dotado de esta pátina de maldad que no tienen, cómo no la tiene ninguna herramienta. Porque el problema no es la herramienta, el problema es quién la está utilizando.
¿Pero entonces hay algoritmos buenos y malos?
Para mí, todos son buenos porque son métodos que resuelven problemas y son verdaderas obras de arte de las matemáticas. Para los que diseñamos algoritmos, los malos son los lentos, los que tardan mucho en hacer las cosas. Pero son malos de calidad, no malos de maldad, porque tardan mucho. Y los buenos son los que son muy rápidos. En sentido de bondad y de maldad, no hay ninguno bueno ni ninguno malo. Lo que pasa es que sí que en manos de gente con malas intenciones pueden ser malos.
Si no son buenos ni malvados… ¿Su mala fama se debe a las empresas que tienen detrás, como Google, Meta o TikTok?
Efectivamente. El problema que tienen la mayoría de los algoritmos es la empresa que los está manipulando. Los algoritmos son malos en manos de personas malas. Tú puedes tener una furgoneta y la puedes usar para ir a Valencia a ayudar a los afectados de la dana. Y esa misma furgoneta la llevas a Barcelona, te metes en las Ramblas y matas a un montón de personas. Es decir, no es la herramienta en sí: el algoritmo es la furgoneta, el problema es quién conduce la furgoneta.
En el libro dice que la transformada rápida de Fourier o FFT (por sus siglas en inglés) es uno de los avances más importantes en cálculo numérico y el algoritmo más importante de nuestra vida…
Quizás me vine un poco arriba diciendo esto, pero creo que es el que más se utiliza porque muchas de las cosas que hacemos tienen que ver con señales, sonidos, imágenes y vibraciones. La FTT lo que nos permite es descomponer una señal en trozos muy pequeños, más simples, que nos permitan analizarla y saber de qué tipo de señal es. Por ejemplo, tú y yo cuando hablamos, o cuando le mandamos algo a Alexa, o cuando enviamos una foto. Pero también es fundamental en la detección de terremotos o en el análisis del clima.
Los algoritmos son malos en manos de personas malas
¿Y hay algún otro ejemplo de algoritmo que nos condiciona sin darnos cuenta y no lo percibimos?
Ahora mismo, los algoritmos que nos están condicionando son los de recomendaciones: los de Instagram o TikTok son super agresivos, cuando buscamos algo en Google el resultado está condicionado por nuestros gustos, los de música no nos dejan explorar otro tipo ni salirnos un poco de esa burbuja que hemos creado...
Además, estos mismos algoritmos también condicionan nuestra burbuja ideológica. Es muy fácil hackear el cerebro de la gente a nivel ideológico modificando lo que ve en sus redes sociales. Y de hecho ahí está el avance de la ultraderecha en Europa y en el mundo. Yo me reía cuando surgió Vox porque decía: "A dónde van a llegar, si son cuatro colgados". Y mira donde está ahora o dónde está Donald Trump. Lo mismo pasa con el terraplanismo. Ahora ya no me río tanto porque si son capaces de convencer a adultos funcionales, en pleno siglo XXI, de que la Tierra es plana, lo pueden hacer con casi cualquier cosa y afectar a nuestro futuro: si votan a Vox, si votan a Trump o si dejan que Netanyahu esté asesinando a niños vilmente. Los algoritmos pueden afectarnos muchísimo sin que nos demos cuenta.
La inteligencia artificial es parte importante del libro y, como le pasa a los algoritmos, la sociedad también la ha dotado de rasgos malignos…
La inteligencia artificial básicamente es jugar a los dados y adivinar probabilidades: cuál es la palabra que viene a continuación, qué enfermedad es más probable... La mayoría de estas herramientas van a tener un uso muy bueno porque se está usando para ajustar tratamientos o diseñar antibióticos. Están haciendo maravillas.
¿Y por qué tiene mala fama? Porque hay gente que está controlando el mundo con la inteligencia artificial y los algoritmos. El día que Trump tomó posesión esta segunda vez, ¿quiénes estaban en primera fila? Jeff Bezos, Mark Zuckerberg, Elon Musk... todos muy hombres y todos muy blancos. Ellos son los que controlan el mundo y hay que tener mucho cuidado con esta élite.
Es muy fácil hackear el cerebro de la gente a nivel ideológico modificando lo que ve en sus redes sociales
Plantea en el libro una pregunta, que me parece fundamental y que deja sin responder, sobre la discriminación algorítmica y quién debe proporcionar los datos de su entrenamiento. ¿Quién debería vigilar, detectar y corregir todos los sesgos machistas, racistas e ideológicos que contienen estos datos que, en realidad, inundan ya Internet?
Aún sigo sin respuesta porque es muy peligroso hacerlo sin llegar al fascismo. ¿Quién lo debe controlar? No lo sé, pero hay que hacerlo. Quizás una ley o un decálogo. El problema, como siempre, es que primero sacamos la herramienta y luego, cuando ya la hemos cagado un poco, legislamos. Y la inteligencia artificial nos ha cogido en bragas.
Uno de los principales problemas que tenemos es que no hay una ética global porque tenemos distintas culturas y afortunadamente la humanidad es diversa. Y para controlar que no haya sesgos, primero nos tenemos que poner de acuerdo en qué es un sesgo: lo que para nosotros es a lo mejor impensable, en otras culturas es lo normal, y al revés.
Pero no solo son los sesgos. Los algoritmos, y ahora la inteligencia artificial, generan entornos donde la desinformación, los bulos y los discursos de odio pululan a sus anchas, ¿cómo es posible que se puedan generar con matemáticas?
Porque las matemáticas son una herramienta muy poderosa, de las más poderosas que tenemos, para lo bueno y para lo malo. Las matemáticas son exactas pero no siempre trabajan con datos concretos porque no los tenemos. Y ahí es dónde se pueden propagar los bulos: si una persona sabe mucho de matemáticas es capaz de manipular y de tocar las teclas que hay que tocar para propagar la desinformación. Hay un trabajo de 2016 de la investigadora Kristina Lerman y su equipo, The Majority Illusion (El espejismo de la mayoría), que, en resumen, concluye que un grupo pequeño, muy bien seleccionado gracias a los datos, si es capaz de lanzar todos el mismo mensaje se consigue que el resto perciba que esa es la opinión de la mayoría. Es así de fácil hackear un cerebro: consiguen un espejismo de que lo que yo pienso no lo pienso solo yo, sino que lo piensa la mayoría.
Uno de los problemas que tenemos con los algoritmos es que si miras las caras visibles de las grandes tecnológicas son todos hombres
Los algoritmos están a nuestro alrededor y la UE intenta regularlos abriendo esta "caja negra" para ofrecer más transparencia. ¿Pero hasta qué punto es realista que la ciudadanía entienda cómo funcionan?
Si se explica desde chiquititos, todo el mundo puede tener la capacidad de entenderlos. Necesitamos que, para que la gente comprenda el mundo en el que vive, enseñar matemáticas de verdad desde los primeros años de colegio: no solo a contar o sumar, sino enseñar lenguaje computacional porque también sirve para resolver problemas del día a día, no solo matemáticos. Incluso puede ayudar a tener menos ansiedad.
Se debería insistir más en tener un pensamiento computacional. Es muy importante que esta alfabetización matemática y de lenguaje algorítmico sirva para los chicos y, sobre todo, para las chicas porque uno de los problemas que tenemos con los algoritmos es que si miras las caras visibles de las grandes tecnológicas son todos hombres.
¿Y por qué es tan necesaria esta mayor presencia de mujeres?
Porque sin mujeres van a aumentar los sesgos. No porque los hombres sean malos y las mujeres sean buenas, sino porque no se dan cuenta. El ejemplo que siempre ponemos es que hasta 2012 nadie se dio cuenta de que el infarto femenino tenía síntomas diferentes al masculino. Y esto puede pasar con los algoritmos. La sensibilidad de las mujeres tiene que estar en los algoritmos y por eso preocupa que estén desapareciendo las mujeres de las matemáticas y de la informática.
Soy profesora en la escuela de informática y hay muy pocas mujeres desde los años 80. En matemáticas, se ha dado la vuelta y cada vez hay más hombres, sobre todo desde que tienen como salida profesional la inteligencia artificial y no solo dar clases. Si no hay mujeres diseñando algoritmos evidentemente va a haber mucho sesgo y se va a incrementar la brecha salarial, laboral y todas las aquellas que van a depender de la inteligencia artificial.
Si no hay mujeres diseñando algoritmos evidentemente va a haber mucho sesgo y se va a incrementar la brecha salarial, laboral y todas las aquellas que van a depender de la inteligencia artificial
Lorena Jaume-Palasi: "La IA es una tecnología basada en una mentalidad patriarcal y racista"
El libro menciona a muchas matemáticas mujeres: Ada Lovelace creó lo que hoy se conoce como el primer algoritmo pensado para ser procesado por una máquina, o Marie-Sophie Germain, que bajo el seudónimo de Antoine-Auguste Le Blanc, descubrió la Teoría de los Números Primos que se utiliza hoy en día en ciberseguridad. ¿Qué ha pasado para que hayamos llegado a la situación actual con una profesión tan masculinizada?
Hay más mujeres de las que se ven, pero es un campo que está masculinizado desde los años 80. Se ve en la película Figuras ocultas que muestra que las primeras programadoras fueron mujeres, pero en cuanto la profesión empezó a ganar prestigio y dinero se masculinizó.
¿Hay mujeres en informática y matemáticas? Sí, pocas, pero hay más de las que se piensa. ¿Las que hay se ven menos? También, porque no llegan a los puestos de poder. Y esto no pasa solo en la empresa privada. En la misma universidad o en los centros de investigación, aunque haya mujeres, muy pocas llegan a catedráticas o a jefas de grupo.
"Muchas veces cuando me hacen entrevistas o estoy escuchando la radio o la televisión, se habla de los algoritmos como si fueran unos dementores de Harry Potter. Y no lo son". Clara Grima, doctora en Matemáticas y profesora titular de Matemática Aplicada en la Universidad de Sevilla, publicó este 25 de junio su nuevo libro dedicado a los algoritmos: a su belleza y a su importancia en nuestro día a día, porque vivimos rodeados por ellos, sin darnos cuenta, desde la antigua Grecia. Pero lo que empieza siendo una apología de "vivan los algoritmos", termina desenmascarándolos cuando la inteligencia artificial irrumpe en esta historia.