Els algoritmes dels sistemes de recomanació de les plataformes com YouTube tendeixen a recomanar contingut cada cop més radical. Investigadors de la UPF i Eurecat creen un sistema que evita que la ruta de recomanació porti als continguts més extrems. L'estudi es va publicar a les actes de la World Wide Web Conference 2022 i va rebre el premi a la millor publicació de la conferència.

“Ja es coneixia la tendència dels algoritmes a recomanar contingut més radical i extrem, el que proposem aquí és una manera justa d'impedir que aquest tipus de contingut sigui ‘descobert’ tan ràpidament”, explica Francesco Fabbri, investigador doctoral de la UPF al Centre Tecnològic de Catalunya EURECAT, el treball del qual és supervisat pel Grup de Recerca en Web Science and Social Computing del Departament de Tecnologies de la Informació i la Comunicació (DTIC), dirigit per l'investigador Carlos Castillo, i també per Francesco Bonchi del grup de Big Data i Data Science a EURECAT. A la publicació també van participar investigadors de la Universitat d'Hèlsinki (Finlàndia) i l'East China University.

El treball està motivat per un resultat de recerca publicat l'any 2020 en què investigadors de l’Escola Politècnica de Lausana (Suïssa), de la Universitat de Minas Gerais (Brasil) i de la Universitat de Harvard (EUA), van estudiar una base de dades amb més de 330.000 vídeos de YouTube i van trobar que les recomanacions fetes per l'algoritme de la plataforma tendeixen a guiar els visitants cap a contingut cada vegada més radical.

“Els sistemes de cerca exageren les diferències que hi ha amb anterioritat, és a dir, no s'inventen nous biaixos, però si no es controlen es corre el risc de quedar atrapat en un bucle de contingut radical. Es tracta de contingut que, si un usuari pogués triar en un menú dʻopcions diferents, no escolliria"

“Els sistemes de cerca exageren les diferències que hi ha amb anterioritat, és a dir, no s'inventen nous biaixos, però si no es controlen es corre el risc de quedar atrapat en un bucle de contingut radical”, explica Castillo. "Es tracta de contingut que, si un usuari pogués triar en un menú dʻopcions diferents, no escolliria".

"En aquest treball mostrem com representar seqüències de recomanacions com una xarxa probabilística de contingut pot ajudar a caracteritzar i mitigar el biaix perpetuat per l'algoritme", aclareix Fabbri, "el que mostrem és com impedir aquesta radicalització sense exercir una censura del contingut".

Per això els investigadors van seguir la ruta de continguts recomanats per l'algoritme i van fer intervencions molt puntuals de manera que la ruta es desviava un node.

Amb aquests petits canvis els investigadors van aconseguir que “el final del camí” no fos el contingut més radical. “El que plantegem és que la plataforma no t’ha de portar a aquest contingut d’una manera diferent que ho faria amb un altre”.

I per què passa això? Per què l'algoritme es comporta així? “És molt difícil per a un algoritme saber si un contingut agradarà o no”, explica Fabbri. “Cap sistema de recomanació és perfecte i les recomanacions es basen en unes sèries de senyals anteriors i molt febles dels usuaris, com ara el temps que triga l'usuari a seguir una recomanació. L'efecte acumulatiu de les recomanacions fa la resta”. Per exemple, l'ús en massa dels usuaris extremistes fa que l'algoritme es comporti així. La concentració de les accions d'aquest tipus d'usuaris cap a aquest contingut també contribueix a fer que l'algoritme vegi que la gent es mou en aquests cercles, es queden més temps i l'algoritme “creu” que aquest contingut és més afí i ho recomana.

 "Per això la nostra proposta de "recablejar" les recomanacions pot ser molt útil per evitar la radicalització dels usuaris, de no conduir la gent a aquest contingut extremista", acaba Fabbri. La idea no és censurar aquests continguts, sinó evitar que els algoritmes els donin una visibilitat immerescuda i exagerada, que és el que tendeix a succeir.

Aquesta publicació va rebre el premi al millor article del congrés, fet molt meritori ja que es tracta d'un treball liderat per un estudiant. "A més, es tracta d´una conferència extremadament selectiva, explica Castillo, perquè més de 1800 ponències van ser enviades aquest any, de les quals només se’n van acceptar poc més de 300".