La importancia de llamarse algoritmo
Los algoritmos están en todas partes: en nuestros coches, en el diseño de nuestros canales de redes sociales, en la decisión sobre qué electrodoméstico terminamos comprando en Amazon, en el diagnóstico de enfermedades y mucho más. Además, numerosos libros y artículos nos ponen sobre aviso del potencial riesgo que existe al confiar (voluntaria o involuntariamente) en ellos en infinidad de situaciones que, hasta su entrada en escena, eran competencia exclusiva de los humanos. Si antes el espacio privado era el resultado de una lucha histórica, hoy, la rentabilidad de regalarlo supera con creces la pérdida de protegerlo. Tanto es así que incluso a quienes nacimos y crecimos en un mundo analógico no deja de sorprendernos todo lo que este complejo procedimiento numérico puede hacer… ¿por nosotros?
Ciertamente no hay ninguna duda de que el progreso y la aplicación de base algorítmica (inteligencia artificial) en ciertos sectores auguran un futuro prometedor. Más aún, ya se advirtió que la mecanización algorítmica basada en datos podría predecir mejor el comportamiento humano que ciertas ciencias especializadas, y con criterios más simples. Esta sugerencia de mediados del siglo pasado fue sin duda acertada. El paso del tiempo no está siendo propicio para los humanos: en muchos ámbitos, los estudios siguen demostrando que los algoritmos funcionan mejor y, además, sin cansarse, sin enfadarse, sin distraerse ni molestar.
Ahora bien, los algoritmos no carecen de detractores. Sus más que evidentes defectos inquietan a no pocos científicos que claman por mantener la calma frente al nirvana que ciertas empresas (recuerden, las propietarias de los algoritmos) persisten en prometer. Uno de los debates más razonados sugiere la indiscutible presencia de sesgos —desviaciones de la neutralidad— en los algoritmos, cuyas respuestas pueden conllevar resultados fuertemente alejados de lo justo, transparente, responsable, imparcial y ecuánime.
Quizás aún no hemos visto un desenlace más espeluznante: la mezcla del loco humano conocido y el sabio algoritmo por conocer
Si esto es así —que no lo pongo en duda— sugiero que quizás el dilema no se encuentre en el algoritmo, sino fuera de él. Si tan rigurosos queremos ser en la aplicación automatizada de un algoritmo en, pongamos por caso, el ámbito judicial —que asista e informe a los responsables una recomendación para una sentencia o el costo de una fianza—, ¿por qué no hemos sido igual de severos en la era prealgorítmica? Si tanto recelo despiertan estas eventualidades, déjenme confesarles que no sé cómo hemos llegado hasta aquí. ¿Es posible enredarse en cuestiones de rectitud algorítmica cuando hemos sido incapaces de exigirla a los humanos? Supongo que no hace falta que les ponga ejemplos. Resulta asombroso que se diriman ciertos debates, aun siendo testigos de actos humanos inmorales y sin que hubiera un algoritmo asistente que les adiestrara para cometerlos.
Quizás aún no hemos visto un desenlace más espeluznante: la mezcla del loco humano conocido y el sabio algoritmo por conocer. No hay nada como llamarse algoritmo.
* Anna Garcia Hom es socióloga y analista.
