Un estudi troba biaix de gènere en els algoritmes de recomanació musical
Un estudi troba biaix de gènere en els algoritmes de recomanació musical
Un nou treball del grup de recerca en Tecnologia Musical amb la Universitat d’Utrecht mostra que és més probable que un algoritme de recomanació molt utilitzat triï música d’artistes homes en detriment de les dones artistes.
Tot i que el problema de la discriminació de gènere ja es troba en la industria musical, els algoritmes de recomanació de música estarien augmentant la bretxa de gènere. Andrés Ferraro i Xavier Serra, investigadors del Grup de recerca en Tecnologia Musical (MTG) del Departament de Tecnologies de la Informació i les Comunicacions (DTIC) de la UPF, amb Christine Bauer membre de la Universitat d’Utrecht (Països Baixos), han publicat recentment un treball sobre l’equilibri de gènere en sistemes de recomanacions musicals en què es pregunten com hauria de funcionar el sistema per evitar el biaix de gènere.
En un primer moment, els autors van identificar que la justícia de gènere era una de les principals preocupacions dels artistes
Inicialment, el treball de Ferraro, Serra i Bauer tenia com a objectiu entendre l'equitat de les plataformes de música disponibles en línia des del punt de vista dels artistes. En entrevistes dutes a terme a artistes musicals, van identificar que la justícia de gènere era una de les seves principals preocupacions.
Les dones tenen menys exposició
Els autors van provar un algoritme de recomanació musical d’ús habitual basat en el filtratge col·laboratiu i van analitzar els resultats de dos conjunts de dades. En ambdós casos van veure que l'algoritme reprodueix el biaix existent en el conjunt de dades, en què només el 25% dels artistes són dones. A més, l'algoritme genera un rànquing amb els artistes per recomanar a l'usuari. Els autors van veure que de mitjana la primera recomanació d'una dona artista es troba en la posició 6 o 7, mentre que la d'un home artista està en la primera posició. Ferraro primer autor del treball afegeix: "El biaix en l'exposició ve de la manera en què es generen les recomanacions". Això significa que les dones tenen menys exposició a partir de les recomanacions del sistema.
La situació s'agreuja si es té en compte que a mesura que els usuaris escolten les cançons recomanades, l'algoritme n'aprèn. Això crea un bucle de retroalimentació.
Amb l’ajut de l’algoritme reordenat, els usuaris comencen a canviar el seu comportament de manera que escolten més artistes dones
Un nou enfocament per compensar el biaix de gènere
Els autors del treball proposen un nou enfocament que permetria una major exposició de les artistes dones i que consistiria a reordenar la recomanació que faria moure un nombre especificat de posicions cap avall per tal de solucionar el biaix de gènere existent.
En una simulació, els autors van estudiar com les recomanacions classificades afectarien el comportament dels usuaris a llarg termini. Els resultats van mostrar que, amb l’ajut de l’algoritme reclassificat, els usuaris començarien a canviar el seu comportament de manera que escoltarien més artistes dones que amb altres algoritmes de recomanació musical i, a més, el nou algoritme, basat en aprenentatge màquina, consolidaria aquest canvi de comportament.
Treball de referència:
Andrés Ferraro, Xavier Serra, Christine Bauer (2021), "Break the Loop: Gender Imbalance in Music Recommenders", a Scholer F, Thomas P (eds.). CHIIR '21: Proceedings of the 2021 Conference on Human Information Interaction and Retrieval. 1 ed. New York: Association for Computing Machinery; 2021. p. 249-254. https://doi.org/10.1145/3406522.3446033