La UE pide más tiempo para controlar la IA pero los trabajadores no pueden esperar

Comenté en un artículo reciente que el proyecto de ley que está en sede parlamentaria tiene ahora la oportunidad de ser debatido y mejorado por los grupos parlamentarios; es el momento de demostrar más ambición en la gobernanza de la IA y pasar de un texto de mínimos a una versión más valiente. 

Como un antecedente, conviene recordar que la Unión Europea tenía previsto que en el próximo mes de agosto empezaran a aplicarse las obligaciones del reglamento de IA (RIA), para los sistemas usados en el ámbito laboral. Aunque esta norma comunitaria entró en vigor hace casi dos años, la parte relativa a su aplicación en las empresas debía comenzar dentro de pocos días. Sin embargo, Parlamento Europeo y Consejo alcanzaron recientemente un acuerdo político dentro de un paquete legislativo conocido como Omnibus Digital, en el que determinaron retrasar a diciembre de 2027 la entrada en vigor de las nuevas obligaciones en materia de sistemas de IA de alto riesgo, entre ellas las laborales.

El Gobierno, a través en esta ocasión de su vicepresidenta segunda y ministra de Trabajo, Yolanda Díaz, ha explicado muy recientemente que ve con recelo esta demora y planea defender que la regulación de la inteligencia artificial y los algoritmos en el mercado laboral español sea más estricta y vaya más allá de los mínimos exigibles que marca el RIA a las empresas a la hora de usar todo tipo de tecnología algorítmica para objetivos como la selección de personal; la evaluación del desempeño profesional; las decisiones de promoción o despidos o la monitorización de trabajadores, entre otras cuestiones.

Con estas manifestaciones, críticas a la postura desreguladora de la UE, el Gobierno se sumaría a la posición de muchas organizaciones de la sociedad civil, que han criticado y siguen criticando esta postura liderada por Estados Unidos y, por omisión, por la Comisión Europea en materia del uso de la IA.

Llegados a este punto conviene destacar que una buena parte de las propuestas de mejora del proyecto de ley referido, preparadas para los Grupos Parlamentarios por parte de la Fundación Alternativas, coinciden con estas inquietudes manifestadas por el Gobierno de coalición.

Los algoritmos son el corazón de los sistemas que se desarrollan, pero lo importante es que el cerebro del proceso siga siendo humano

Ante este cúmulo de informaciones que convergen en la necesidad de mejorar el proyecto de ley presentado, solamente cabe esperar de su trámite parlamentario un resultado: que se pase de las palabras a los hechos, porque a pesar de que la Comisión Europea pida tiempo, el mundo del trabajo no puede esperar.

Un primer aspecto clave de la mejora que se espera del proyecto es el de consolidar las garantías suficientes para la transparencia algorítmica y el control humano. Uno de los principios fundamentales de la IA es que sea explicable y, por tanto, hay que garantizar la posibilidad de auditar o ejercer control sobre los algoritmos, siendo lo prioritario asegurar que la decisión última antes de ser aplicado un sistema sea adoptada por un ser humano que pueda explicar, por ejemplo, cómo se ha llegado a un resultado. En el fondo de las decisiones que deben adoptar las organizaciones están los algoritmos, que son el corazón de los sistemas que se desarrollan, pero lo importante es que el cerebro del proceso siga siendo humano. Por ello es conveniente comprender bien todas las etapas, educando sobre su importancia, por ejemplo, en la rectificación de sesgos cuando se haya detectado que un programa va en contra de derechos fundamentales.

Un segundo aspecto clave que debería corregirse es el resultado de la falta de diálogo social en la versión actual del proyecto normativo. Ese ha sido, por cierto, uno de los reproches más serios del Consejo Económico y Social (CES). Por ello, otra de las mejoras sustanciales del proyecto consistiría en articular la necesaria coordinación de la Agencia Española de Supervisión de la IA y la Agencia Española de Protección de Datos, en tanto que agencias supervisoras de la IA en nuestro país, con otras instituciones. Instaurar esta coordinación supondría, por ejemplo, asegurar la participación y el seguimiento de las autoridades nacionales, económicas, laborales y sociales en sus correspondientes ámbitos y en lo relativo al desarrollo de la IA, incluyendo también a una representación de los trabajadores y de los empresarios. Esta propuesta de mejora va en la línea de propiciar, entre otras, una participación sindical informada y una coordinación real entre Inspección de Trabajo con las agencias de supervisión antes mencionadas.

Un tercer aspecto clave que habría que corregirse es el déficit en el articulado de la apertura de sistemas de coordinación de las autoridades encargadas de la supervisión y vigilancia del mercado, con los foros de consulta existentes en la Unión Europea.

Un cuarto aspecto clave es conseguir que el Gobierno garantice en la norma que finalmente resulte aprobada en el Congreso, el proceso de una negociación colectiva en el marco de lo que ya establece la norma comunitaria sobre IA.

En resumen, todo ello es lo que interpreto como una falta de valentía en la gobernanza de la IA; pero ahí está la oportunidad de que se corrija en el trámite parlamentario, pues el texto que aprobó el Gobierno de coalición progresista en el mes de mayo pasado acentúa la impresión de que es un proyecto de mínimos en su actual versión, y no incluye, curiosamente, muchas de las ambiciones explicitadas por sus distintos miembros en torno a este tema.

El poder legislativo tiene ahora la palabra.

___________________

Antoni Farriols es analista de aplicaciones informáticas, miembro de la Asociación Pro-Derechos Humanos de España y miembro del Consejo Asesor de la Fundación Alternativas.