Un equip de recerca, liderat per la UPF, acaba de llançar una crida per recollir currículums entre la ciutadania, necessaris per a una investigació sobre com promoure algoritmes justos i no discriminatoris dels sistemes tecnològics emprats en els processos de selecció de personal. La investigació forma part del projecte europeu FINDHR (Fairness and Intersectional Non-Discrimination in Human Recommendation), impulsat per un consorci internacional format per universitats, empreses i associacions, coordinat pel grup de recerca Web Science and Social Computing (WSSC) del Departament de Tecnologies de la Informació i les Comunicacions (DTIC) de la UPF.

Es pot donar el currículum de forma anònima

Aquest projecte de recerca, de tres anys de durada, es va posar en marxa a finals de 2022 davant de l’ús creixent dels sistemes automatitzats de cerca i selecció de personal per part de les empreses, que es basen en algoritmes i en la intel·ligència artificial (IA). La implementació d’aquests sistemes automatitzats pot comportar un tracte discriminatori per raó d’origen, ètnia, identitat de gènere, orientació sexual o d’altres condicionants socials.

Per tal de detectar aquests biaixos i corregir-los, l’equip de recerca necessita currículums (CV) en diferents idiomes, com el català o el castellà, a més de l’anglès. Els CV es poden donar de forma anònima, és a dir, amb les dades professionals, però sense el nom o d’altres informacions que permetin determinar la identitat de les persones a qui corresponen. Els currículums reals serviran com a base per elaborar CV ficticis, amb què es podran desenvolupar mètodes per evitar els biaixos de les aplicacions de recomanació de personal. L’objectiu de l’equip de recerca és recollir almenys 1.000 currículums abans de la tardor i, fins ara, ja s’han aconseguit 100 donacions.

Carlos Castillo, investigador principal de FINDHR (UPF): “És tanta la necessitat d'informació quantificativa sobre discriminació que algunes organitzacions porten  anys demanant que aquestes dades es recullin de forma ètica. Aquestes dades permetran obrir noves línies d'investigació que han estat tancades fins ara.”.

Pel que fa a la necessitat de recollida de dades en aquest camp, l’investigador principal de la recerca i director del grup de recerca WSSC de la UPF, Carlos Castillo, explica: “És tanta la necessitat d'informació quantificativa sobre discriminació que algunes organitzacions porten  anys demanant que aquestes dades es recullin de forma ètica. Aquestes dades permetran obrir noves línies d'investigació que han estat tancades fins ara.”.

A través d’aquest projecte, es podran estudiar els problemes tècnics, legals i ètics que implica la utilització de les tecnologies d’IA en els processos de cerca i selecció de personal. Així mateix, es plantejaran solucions per gestionar i minimitzar els riscos de discriminació d’aquelles aplicacions que es fan servir per obtenir recomanacions relacionades amb éssers humans, especialment en l’àmbit de la selecció del personal. Aquestes aplicacions també poden tenir d’altres finalitats: les admissions universitàries, la priorització de subvencions, beques o altres ajuts públics o els sistemes de recomanació en línia de proveïdors serveis, professionals mèdics, tutors d'idiomes i autònoms.

Carlos Castillo aclareix que, més enllà de corregir el biaix de la tecnologia, la recerca també tindrà en compte la globalitat de factors que intervenen en la contractació: “Volem construir sistemes d’intel·ligència artificial menys esbiaixats, però aquest no és només un repte tecnològic, sinó també legal, ètic i vinculat a un context en el qual, cada vegada més, s'utilitzen aplicacions d'IA en la selecció de personal”.

Un projecte interdisciplinari amb experts en dret, ètica digital o tecnologia 

El consorci internacional de FINDHR està integrat per socis experts en les matèries següents: legislació i protecció de dades, ètica digital transcultural, auditoria de serveis digitals, regulació tecnològica. També hi col·laboren ONG dedicades a lluitar contra la discriminació contra les dones i els grups socials més vulnerables i representants de treballadors i treballadores a Europa. A més de la UPF, els membres del consorci són els següents: Universitat d'Amsterdam, Universitat de Pisa, Max Planck Society en Privadesa i Seguretat d'Alemanya, Algorithm Watch Suïssa, ÈTIQUES Research and Consulting, Adevinta Spain (InfoJobs), Randstad Netherlands BV, Radboud University, Universitat Erasmus Rotterdam, European Trade Union Confederation, Women in Development in Europe (WIDE+) i PRAKSIS Association. El projecte compta amb el finançament del programa Horizon de la UE i compta amb el suport de la Secretaria d’Estat d’Educació, Recerca i Innovació de Suïssa.

Les aplicacions de selecció de personal, tipificades d’alt risc per la nova llei europea d’IA

Per desenvolupar la seva recerca, el consorci internacional de FINDHR ha pres com a referència la nova llei de la IA europea, aprovada inicialment pel Parlament Europeu el passat juny. La normativa regula de forma diferenciada els usos de les eines IA segons el seu nivell de risc per a la societat (inacceptables, alts, limitats o mínims), pel que fa a la seguretat, la salut o els drets fonamentals. Dins d’aquesta normativa, els sistemes que fan inferències per categoritzar, classificar o recomanar persones estan tipificades com a aplicacions d’alt risc. A més, per analitzar els riscos de discriminació de la IA, cal processar dades confidencials que estan protegides pel Reglament General de protecció de Dades (RGPD) de la UE. El projecte FINDHR tindrà en compte aquest reglament, alhora que farà una anàlisi específica de les tensions entre la regulació de protecció de dades i la regulació contra la discriminació a Europa.

Per col·laborar a la campanya de donacions de CV, pots accedir a:
https://findhr.eu/data-donation-campaign-ca/

Aquesta notícia correspon al projecte FINDHR, que ha rebut finançament del programa de recerca i innovació Horizon Europe de la Unió Europea en virtut de l'acord de subvenció número 101070212. Això no obstant, les visions i opinions expressades corresponen només als autors, i no reflecteixen necessàriament les de la Unió Europea. Per tant, no se'n poden considerar responsables ni la Unió Europea ni l'autoritat atorgant.