3. Calidoscopi

La intel·ligència artificial, una oportunitat per pal·liar els biaixos de gènere

Emília Gómez

Emília Gómez, professora del Departament de Tecnologies de la Informació i les Comunicacions de la UPF

Els sistemes d'intel·ligència artificial (IA) es poden veure com màquines capaces d'observar el seu entorn i prendre mesures per aconseguir un objectiu determinat (Craglia et al., 2018). La meva recerca s'ha centrat en els mètodes d'aprenentatge automàtic (ML), un subcamp de la IA, en què he desenvolupat sistemes que observen dades musicals a gran escala (i anotacions humanes d'aquestes dades) per trobar patrons o fer classificacions.

Avui en dia, aquest tipus de mètodes s'exploten en un context que els ciutadans utilitzen diàriament, com els motors de cerca d'Internet, els sistemes de recomanació de música o les aplicacions de mobilitat o navegació. També s'exploten i ho faran més en un futur en contextos professionals, com el diagnòstic mèdic o les decisions judicials.

En el projecte “HUMAINT”, dut a terme al Centre Comú d'Investigació de la Comissió Europea, el qual lidero i que compta amb la col·laboració de diversos investigadors del Departament de Tecnologies de la Informació i les Comunicacions (DTIC) de la UPF, vam investigar l'impacte que tenen i tindran els sistemes d'IA en el comportament humà, principalment en les nostres capacitats cognitives i socioemocionals. Una de les nostres primeres conclusions ha estat la necessitat que els equips que desenvolupen sistemes d'intel·ligència artificial siguin diversos perquè aquestes tecnologies siguin significatives per a tothom.

Segons Reuters (2017), el percentatge de dones ocupades en rols tècnics en les principals companyies d'intel·ligència artificial és només al voltant del 20%. I el problema principal que això comporta és que quan els desenvolupadors creen els seus sistemes incorporen, sovint de manera inconscient, els seus propis biaixos i preferències en les diferents etapes del desenvolupament (Tolan, 2018). Com a resultat, els sistemes d'IA semblen estar esbiaixats cap als desenvolupadors masculins.

Vegem alguns exemples pràctics i reals de biaix de gènere en sistemes d'intel·ligència artificial:

  1. Diversos autors han descobert que els sistemes de reconeixement de veu i parla funcionen pitjor en les dones que en els homes (Tatman, 2016; Times, 2011; Roger & Pendharkar, 2003; Nicol et al., 2002).

  2. També s'ha trobat que els sistemes de reconeixement facial proporcionen més errors amb les cares femenines (Buolamwin i Gebru, 2018).

  3. Les eines de reclutament basades en la mineria de textos també poden heretar el biaix de gènere de les dades amb les quals s'entrenen.

  4. Els motors de cerca a Internet, àmpliament utilitzats per tots els ciutadans, també poden proporcionar biaixos de gènere. Si busquem "treball" o "anem de compres" en els motors de cerca d'imatges, solem trobar més fotos d'homes per a les primeres i més fotos de dones per a les segones, el que reflecteix els estereotips de les nostres societats presents en les dades i les anotacions.

  5. El biaix de gènere és molt rellevant també en aplicacions sensibles com les relacionades amb la salut o la justícia penal (Tolan et al., 2018b), on tradicionalment hi ha manuals i metodologies molt sòlides que ajuden els humans a prendre aquestes decisions importants i delicades d'una manera justa. Necessitem establir mecanismes per fer això amb els sistemes d'IA seguint les millors pràctiques d'enginyeria.

Passos per millorar la diversitat de gènere

És evident que necessitem millorar la diversitat de gènere en el desenvolupament de la IA, i ens hem de centrar en tres maneres de fer-ho.

Primer, hem de supervisar els desenvolupaments de diversitat i avaluar l'impacte de les polítiques o iniciatives en aquesta direcció. En aquest context, el projecte “HUMAINT” i el DTIC de la UPF estan col·laborant en la iniciativa divinAI Initative per mesurar com de diverses són les principals conferències d'IA. En el marc d'aquesta iniciativa, el projecte “HUMAINT” i el DTIC organitzarem un Hackfest al campus del Poblenou el proper 1 de juny.

Segon, hem de proporcionar més visibilitat a les dones existents en el camp de la investigació, i de la tecnologia en particular, perquè el seu treball tingui més impacte. Un exemple dels esforços de visibilització és el concurs Wisibilízalas, en què el públic objectiu són nens, nenes, docents i pares i mares. La iniciativa vol fomentar el coneixement de la rellevància de les dones en els camps tecnològics i proporcionar a les properes generacions bons models per seguir.

Tercer, necessitem programes de mentoria com el del Grup de Recuperació d'Informació de Women in Music, en el qual col·laboro, per assegurar-nos que les dones que treballen en aquest àmbit no abandonin la seva carrera investigadora quan han de saltar a posicions més sènior, realitat amb la qual ens trobem actualment.

Tots tenim biaixos conscients i inconscients quan parlem amb o sobre dones en l'àmbit de la tecnologia. La intel·ligència artificial té el potencial de superar aquest problema, però també pot heretar i perpetuar els biaixos. Necessitem més dones en IA per assegurar-nos que els sistemes que es desenvolupen es fan amb dones i per al benestar de les dones.