La cara más inquietante de la lluvia de millones de Microsoft para inteligencia artificial en España
El presidente de Microsoft, Brad Smith, aterrizó esta misma semana en Madrid con la mayor inversión de la historia de la compañía para España bajo el brazo. En concreto, 1.950 millones de euros hasta 2025 para impulsar la inteligencia artificial. El objetivo es tanto promover la innovación digital como el uso responsable de esta tecnología. Para poner de relevancia la importancia de esta alianza, el número dos de Microsoft aseguró en una entrevista en El País que si España "no usa la inteligencia artificial en la atención médica, en el gobierno o en la economía, no veo cómo puede sostener su crecimiento a largo plazo".
¿Tiene razón Smith? "Creo que es un planteamiento tramposo que, aunque en general es cierto, habría que preguntarse a qué coste y si es lo que necesitamos", reconoce Lucía Ortiz de Zárate, investigadora en Ética y Gobernanza de la Inteligencia Artificial en la Universidad Autónoma de Madrid. Para esta experta, lo que realmente quiere decir el presidente de Microsoft es que, como todos "los países ricos" van a usar esta tecnología, si España no lo hiciese "se va a quedar muy rezagada".
¿El motivo? La inteligencia artificial ofrecerá en el futuro una ventaja competitiva brutal, sin olvidar que muchos de los usos son auténticas hipótesis, ya que, según detalla Ortiz de Zárate, "va a optimizar los procesos existentes, va a hacer más eficientes los servicios, nos va a asesorar en la toma de decisiones para ayudarnos a tomar mejores decisiones, y va a ser un complemento creativo que nos va a permitir potenciar nuestra parte genuinamente humana".
"Su uso permite ser más eficiente y automatizar algunos procesos que hoy en día consumen mucho tiempo y también aumentar las capacidades de las personas utilizando esta tecnología como herramienta de apoyo", apunta Iván Cordón, investigador del Instituto de Ciencia de los Datos e Inteligencia Artificial DATAI de la Universidad de Navarra. "Es la revolución, un cambio de paradigma, y hay que asumir que es un cambio tan grande que abarca cualquier sector y a toda sociedad", defiende Francisco José García-Ull, profesor de Privacidad de Datos y Comunicación en la Universidad Europea.
Mejora en los diagnósticos, pero la experiencia humana es "irrepetible"
Más allá del crecimiento o no en conjunto del país, lo cierto es que Smith señala con su afirmación tres áreas clave donde la inteligencia artificial puede ayudar a mejorar su funcionamiento. Por ejemplo, en el caso de la atención sanitaria el uso de esta tecnología puede ir desde dar información o citas a pacientes hasta a optimizar dinámicas organizativas de un hospital o centro de salud. Pero también durante la propia asistencia médica.
"Imagínate que a un médico le llegue un paciente con equis síntomas, podría hacer un diagnóstico mejor o una mejor prescripción de medicamentos porque, como estos sistemas funcionan buscando patrones de repetición en bases de datos gigantes, podría tener a mano la experiencia de muchísimos médicos juntos", admite Ortiz de Zárate. Es lo que se conoce como "medicina personalizada", un concepto que, según explica Cordón, se podría desarrollar plenamente ya que el uso de esta tecnología podría implementar "planes de tratamiento personalizados analizando datos del paciente, como su genética, estilo de vida y respuestas a tratamientos previos".
Por muy bien que puedan funcionar estos sistemas, la experiencia humana siempre es irrepetible
Además, en caso de otra pandemia, podría ayudar a "monitorizar a los ciudadanos, mapear el comportamiento de virus, hacer predicciones de evolución y, así, preparar a los centros de salud", sostiene García-Ull. También se podrán incorporar al ámbito sanitario mejores instrumentos como, por ejemplo, robots de muchísima precisión o mejores aparatos de reconocimiento de imágenes que mejorarán la detección de enfermedades.
No obstante, Ortiz de Zárate insiste en que el uso de estas herramientas en la sanidad debe entenderse siempre como "un complemento, no como una sustitución". "Por muy bien que puedan funcionar estos sistemas, la experiencia humana siempre es irrepetible", apostilla.
De automatizar tareas a tomar decisiones de manera informada
¿Y en el gobierno y en la economía? En el propio acuerdo de colaboración entre el Ejecutivo de Sánchez y Microsoft se menciona específicamente el objetivo de ampliar el uso de esta tecnología en la administración pública mediante soluciones de inteligencia artificial generativa y planes de formación para funcionarios.
"Por ejemplo, procesos que sean repetitivos como revisar contratos públicos. En teoría, estos sistemas pueden hacerlo más rápido y mejor", explica Ortiz de Zárate. "Es cierto que el uso de la inteligencia artificial en la administración pública no está extendido todavía aunque sí existen algunos casos de uso en los que se usa como por ejemplo en la detección del fraude", apunta Cordón que también señala la personalización y agilización de servicios gubernamentales haciendo que "sean más accesibles y eficientes para los ciudadanos".
Y, más allá de automatizaciones y ganar tiempo, también estará la asistencia que permitirá la inteligencia artificial, es decir, la toma de decisiones de manera informada. "Estos sistemas tienen la capacidad de hacer predicciones bastante precisas por lo que pueden asistir a los gobernantes o a las personas que toman decisiones de manera informada y con mucha más información de la que ellos mismos dispondrían o serían capaces de procesar", argumenta Ortiz de Zárate.
La alianza de Microsoft con el Gobierno también pone sobre la mesa el refuerzo de la ciberseguridad nacional en colaboración con el Ministerio de Defensa y el Centro Criptológico Nacional. "La inteligencia artificial nos puede ayudar en ciberseguridad, en seguridad nacional y a la hora de gestionar gran cantidad de datos y estructurarlos con el fin de predecir comportamientos y ayudarnos en la toma de decisiones y convertirse así en una ventaja competitiva", reconoce García-Ull.
Aunque los beneficios potenciales son significativos, también es importante abordar los desafíos éticos, de privacidad y de seguridad que conlleva la implementación de la IA, asegurando que su desarrollo y uso sean responsables y equitativos
La pérdida de soberanía al ceder nuestros datos
No obstante, tal y como detalla Cordón, aunque los beneficios potenciales son significativos, es importante abordar "los desafíos éticos, de privacidad y de seguridad que conlleva su implementación, asegurando que su desarrollo y uso sean responsables y equitativos". Y tiene muchos, empezando por los datos que usa esta tecnología y que son su base y su esencia. "El mayor bloqueo que ha existido hasta ahora ha sido que la inteligencia artificial necesita datos para entrenar y aprender de una tarea y, en muchas ocasiones, es difícil por cuestiones de privacidad", reconoce este experto.
Para García-Ull, el uso de los datos es un elemento troncal del acuerdo firmado esta semana ya que "Microsoft va a invertir, no va a donar": "Cuando alguien invierte quiere un retorno y a mí me parece que esto es como un nuevo Bienvenido Mr. Marshall". Porque, según defiende este experto, unos de los principales riesgos, pasa por "perder la soberanía" de la información: "Se estaría entregando nuestra información médica o de la Administración a Microsoft. Supondría estar vigilados".
Y, en el caso de la sanidad, no hay que olvidar, tal y como apunta Ortiz de Zárate, que se trata de información "privada y especialmente sensible". En la misma línea se mueve García-Ull, que insiste en que es clave que este tipo de datos estén "controlados" y "si vamos a ceder la información, puede convertirse en una nueva forma de colonización digital" ya que se corre el riesgo de "no ser usuarios de la inteligencia artificial, sino usados por la inteligencia artificial". "Es importante conocer el valor de los datos médicos. Por ejemplo, saber si una persona es diabética o no", defiende este experto que ha calculado que mientras el historial completo tendría un valor de 100 euros, el de la vacunación de 15 euros o el de las alergias de 10 euros.
El riesgo de los sesgos
Además del uso que se haga de los datos, hay que tener en cuenta que la inteligencia artificial, en realidad, no es tan inteligente como nos quieren hacer creer ya que, al final, es humana y refleja el contenido que encuentra en Internet. Por ello, esta tecnología arrastra muchos de los sesgos presentes actualmente en la sociedad: es machista, racista, con prejuicios sociales y con ideología.
"Se sabe que los sistemas de inteligencia artificial para reconocer el cáncer de piel diagnostican mucho peor a personas negras que a personas de piel blanca porque han sido entrenados prioritariamente con personas de piel blanca", explica Ortiz de Zárate. Esta experta señala que lo mismo pasa con las mujeres: "Los síntomas de un infarto, que normalmente son distintos en función del género, como se entrenan prioritariamente con hombres, identifican peor los de las mujeres".
Con Microsoft, se corre el riesgo de no ser usuarios de la inteligencia artificial, sino usados por la inteligencia artificial
Un litro de agua por cada cien preguntas a ChatGPT
Pero, más allá de sesgos, la expansión de la inteligencia artificial presenta otro inconveniente: los riesgos climáticos y el impacto ambiental. "Sabemos que el coste energético de la inteligencia artificial que existe ahora ya es altísimo. Si lo queremos implementar de manera masiva en todos los ámbitos de nuestra vida, el impacto va a ser tremendo", sostiene Ortiz de Zárate
Microsoft invertirá 1.950 millones hasta 2025 para impulsar la inteligencia artificial en España
Ver más
Además de las evidentes emisiones de carbono, esta tecnología consume mucha agua. Según un estudio elaborado por investigadores de la Universidad de California en Riverside, ChatGPT requiere de un litro de agua por cada cien preguntas realizadas por los usuarios. "El aspecto más crítico de estos sistemas es que su demanda mundial puede ser responsable de la extracción de agua de 4,2 a 6,6 mil millones de metros cúbicos en 2027, que es más que la extracción total anual de agua de la mitad de Reino Unido", apuntan en este informe publicado en 2023.
Impacto ecológico y en los derechos humanos
Además de agua, esta tecnología se construye a base de materias primas como el litio, el cobre o el cobalto que se están extrayendo de países como Chile, Bolivia o la República Democrática del Congo. "El extractivismo de materias primas que se pone en práctica para construir estos sistemas tiene un impacto ecológico brutal que además se basa en prácticas coloniales que agrandan las brechas entre el norte y el sur", defiende Ortiz de Zárate, que también señala que además se violan "los derechos humanos de muchísimos ciudadanos que trabajan en condiciones infrahumanas".
Para Ortiz de Zárate, la pregunta no es tanto por qué España no va a seguir manteniendo su crecimiento sin usar la inteligencia artificial en estos campos sino "si podemos permitírnoslo": "¿A qué coste podemos permitirnos seguir creciendo económicamente? ¿Es compatible el uso de esas tecnología con el cuidado del medio ambiente o la defensa de los derechos humanos? Es lo que yo pondría sobre la mesa".
