Un equipo de investigación, liderado por la UPF, acaba de lanzar un llamamiento para recoger currículums entre la ciudadanía, necesarios para una investigación sobre cómo promover algoritmos justos y no discriminatorios de los sistemas tecnológicos empleados en los procesos de selección de personal. La investigación forma parte del proyecto europeo FINDHR (Fairness and Intersectional Non-Discrimination in Human Recommendation), impulsado por un consorcio internacional formado por universidades, empresas y asociaciones, coordinado por el grupo de investigación Web Science and Social Computing (WSSC) del Departamento de Tecnologías de la Información y las Comunicaciones (DTIC) de la UPF.

Se puede donar el currículum de forma anónima

Este proyecto de investigación, de tres años de duración, se puso en marcha a finales de 2022 ante el uso creciente de los sistemas automatizados de búsqueda y selección de personal por parte de las empresas, que se basan en algoritmos y en la inteligencia artificial (IA). La implementación de estos sistemas automatizados puede comportar un trato discriminatorio por razón de origen, etnia, identidad de género, orientación sexual u otros condicionantes sociales.

Para detectar estos sesgos y corregirlos, el equipo de investigación necesita currículums (CV) en diferentes idiomas, como el catalán o el castellano, además del inglés. Los CV se pueden donar de forma anónima, es decir, con los datos profesionales, pero sin el nombre u otras informaciones que permitan determinar la identidad de las personas a quienes corresponden. Los currículums reales servirán como base para elaborar CV ficticios, con los que se podrán desarrollar métodos para evitar los sesgos de las aplicaciones de recomendación de personal. El objetivo del equipo de investigación es recoger al menos 1.000 currículums antes del otoño y, hasta ahora, ya se han conseguido 100 donaciones.

Carlos Castillo, investigador principal de FINDHR (UPF): “Es tanta la necesidad de información cuantificativa sobre discriminación que algunas organizaciones llevan años pidiendo que estos datos se recojan de forma ética. Estos datos permitirán abrir nuevas líneas de investigación que han estado cerradas hasta ahora”.

En cuanto a la necesidad de recogida de datos en este campo, el investigador principal de la investigación y director del grupo de investigación WSSC de la UPF, Carlos Castillo, explica: “Es tanta la necesidad de información cuantificativa sobre discriminación que algunas organizaciones llevan años pidiendo que estos datos se recojan de forma ética. Estos datos permitirán abrir nuevas líneas de investigación que han estado cerradas hasta ahora.”.

A través de este proyecto, se podrán estudiar los problemas técnicos, legales y éticos que implica la utilización de las tecnologías de IA en los procesos de búsqueda y selección de personal. Asimismo, se plantearán soluciones para gestionar y minimizar los riesgos de discriminación de aquellas aplicaciones que se usan para obtener recomendaciones relacionadas con seres humanos, especialmente en el ámbito de la selección del personal. Estas aplicaciones también pueden tener otras finalidades: las admisiones universitarias, la priorización de subvenciones, becas u otras ayudas públicas o los sistemas de recomendación en línea de proveedores servicios, profesionales médicos, tutores de idiomas y autónomos.

Carlos Castillo aclara que, más allá de corregir el sesgo de la tecnología, la investigación también tendrá en cuenta la globalidad de factores que intervienen en la contratación: “Queremos construir sistemas de inteligencia artificial menos sesgados, pero este no es solo un reto tecnológico, sino también legal, ético y vinculado a un contexto en el cual, cada vez más, se utilizan aplicaciones de IA en la selección de personal”.

Un proyecto interdisciplinario con expertos en derecho, ética digital o tecnología

El consorcio internacional de FINDHR está integrado por socios expertos en las materias siguientes: legislación y protección de datos, ética digital transcultural, auditoría de servicios digitales, regulación tecnológica. También colaboran ONG dedicadas a luchar contra la discriminación contra las mujeres y los grupos sociales más vulnerables y representantes de trabajadores y trabajadoras a Europa. Además de la UPF, los miembros del consorcio son los siguientes: Universidad de Amsterdam, Universidad de Pisa, Max Planck Society en Privacidad y Seguridad de Alemania, Algorithm Watch Suiza, ÈTIQUES Research and Consulting, Adevinta Spain (InfoJobs), Randstad Netherlands BV, Radboud University, Universitat Erasmus Rotterdam, European Trade Union Confederation, Women in Development in Europe (WIDE+) y PRAKSIS Association. El proyecto cuenta con la financiación del programa Horizon de la UE y cuenta con el apoyo de la Secretaría de Estado de Educación, Investigación e innovación de Suiza.

Las aplicaciones de selección de personal, tipificadas de alto riesgo por la nueva ley europea de IA

Para desarrollar su investigación, el consorcio internacional de FINDHR ha tomado como referencia la nueva ley de la IA europea, aprobada inicialmente por el Parlamento Europeo el pasado junio. La normativa regula de forma diferenciada los usos de las herramientas de IA según su nivel de riesgo para la sociedad (inaceptables, altos, limitados o mínimos), en cuanto a la seguridad, la salud o los derechos fundamentales. Dentro de esta normativa, los sistemas que hacen inferencias para categorizar, clasificar o recomendar personas están tipificadas como aplicaciones de alto riesgo. Además, para analizar los riesgos de discriminación de la IA, hay que procesar datos confidenciales que están protegidos por el Reglamento General de Protección de Datos (RGPD) de la UE. El proyecto FINDHR tendrá en cuenta este reglamento, a la vez que hará un análisis específico de las tensiones entre la regulación de protección de datos y la regulación contra la discriminación en Europa.

Para colaborar en la campaña de donaciones de CV, puedes acceder a:  https://findhr.eu/datadonation-es/

Esta noticia corresponde al proyecto FINDHR, que ha recibido financiación del programa de investigación e innovación Horizon Europe de la Unión Europea en virtud del acuerdo de subvención número 101070212. No obstante, las visiones y opiniones expresadas corresponden solo a los autores, y no reflejan necesariamente las de la Unión Europea. Por lo tanto, no se pueden considerar responsables ni la Unión Europea ni la autoridad otorgante.