Vés enrere L’anàlisi massiva dels continguts d’aplicacions socials en streaming pot detectar i prevenir continguts pornogràfics

L’anàlisi massiva dels continguts d’aplicacions socials en streaming pot detectar i prevenir continguts pornogràfics

Segons un article de Vicenç Gómez, investigador del Departament de Tecnologies de la Informació i les Comunicacions que presentarà, conjuntament amb investigadors de la Universitat del Pireo (Grècia), al congrés ASONAM 2018 que se celebrarà del 28 al 31 d’agost a Barcelona.

11.07.2018

 

Les aplicacions socials per a mòbils anomenades Social Live Stream Services (SLSS), tenen cada vegada més usuaris. Aquests serveis permeten compartir en tot moment material en viu i en directe d'una manera i a una escala sense precedents.

Un dels principals reptes d'aquests serveis és com detectar i prevenir comportaments maliciosos, com per exemple, publicar contingut explícitament pornogràfic.

Tot i que existeixen mecanismes per tal d'evitar aquestes males pràctiques, en realitat els mateixos usuaris en les seves valoracions alerten d’algunes males experiències.

Processant gran quantitat de continguts a gran escala es pot millorar i automatitzar fàcilment el procés de detecció d'aquest tipus de comportaments

Vicenç Gómez, investigador Ramón y Cajal del Departament de Tecnologies de la Informació i les Comunicacions (DTIC) de la UPF, conjuntament amb Nikos Lykousas i Constantinos Patsakis, investigadors de la Universitat del Pireo (Grècia), presenten els resultats d’un estudi al congrés internacional The 2018 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining (ASONAM 2018) que se celebrarà a Barcelona del 28 al 31 d’agost, per al qual Nikos Lykousas, primer autor del treball, ha analitzat el tràfic de dos d'aquests serveis SLSS, concretament Live.me i Loops Live, que són visitats per milions d'usuaris i que produeixen quantitats massives de contingut de vídeo diàriament.

Només una proporció molt petita d'usuaris són "productors" de material pornogràfic en ambdós serveis estudiats: Live.me i Loops.live

“En aquest estudi ens hem centrat en la producció i el consum de contingut pornogràfic. Per a fer-ho, en primer lloc vam filtrar noms d'usuaris que contenien termes pornogràfics amb l'ajut d'una gran base de dades. Després, vam utilitzat tècniques computacionals de deep learning per analitzar i classificar si les imatges dels seus vídeos (públicament disponibles) tenien també aquest tipus de contingut. Finalment, vam analitzar la xarxa d'interaccions socials d'aquesta comunitat d'usuaris”, explica Vicenç Gómez.

Un dels principals resultats del treball és que aquest tipus de comportament és realment excepcional. Només una proporció molt petita d'usuaris són "productors" de material pornogràfic en ambdós serveis estudiats: Live.me i Loops.live.

En un dels serveis SLSS estudiats hi ha molts usuaris que serien classificats com a "productors" de material pornogràfic però que no han estan bloquejats per la plataforma

Un altre resultat important és la relació existent entre les prediccions del classificador que els investigadors han emprat i el fet que un determinat usuari hagi estat bloquejat o no per la plataforma. “Això ho podem veure gràcies a que la informació sobre si un usuari ha estat bloquejat o no per males pràctiques és accessible a la plataforma”, afirma Gómez. Aquí els autors del treball han vist que, mentre un dels serveis estudiats és força consistent, l'altre no ho és. Més concretament, en un dels serveis SLSS estudiats hi ha molts usuaris que serien classificats com a "productors" de material pornogràfic però que no han estan bloquejats per la plataforma.

Els autors han posat també de manifest que els "productors" estan molt aïllats, és a dir, ni se segueixen entre ells ni són seguits per "altres productors", mentre que els "consumidors" tenen un comportament oposat: se segueixen molt entre ells i són seguits per altres "consumidors".

Amb aquest treball els investigadors han pogut demostrar que processant gran quantitat de continguts a gran escala es pot millorar i automatitzar fàcilment (utilitzant eines públiques) el procés de detecció d'aquest tipus de comportaments. A més de presentar el treball a la conferència ASONAM, els autors tenen previst publicar les dades del treball degudament anonimitzades en un repositori per tal que estiguin disponibles a la comunitat científica i que altres grups de recerca les puguin analitzar.

Treball de referència:

Nikolaos Lykousas , Vicenç Gomez , Constantinos Patsakis (2018), “Adult content in Social Live Streaming Services: Characterizing deviant users and relationships”, comunicació a The 2018 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining (ASONAM 2018), Barcelona, 28-31 d’agost.

Multimèdia

Categories:

ODS - Objectius de desenvolupament sostenible:

Els ODS a la UPF

Contact