Este proyecto utiliza técnicas computacionales e inteligencia artificial para estudiar enfermedades mentales en redes sociales, en particular, las tendencias suicidas, la depresión y los trastornos de la conducta alimentaria (TCA) que, en casos graves, también pueden derivar en autolesiones y/o ideación suicida.

Con el conocimiento experto de psicólogos y psiquiatras de nuestro equipo, filtramos de modo automático y completamente anónimo publicaciones de redes sociales que incluyen palabras o frases que habitualmente emplean pacientes con alto riesgo de suicidio, depresión o trastornos de la conducta alimentaria. Estas publicaciones se etiquetan en función de si representan o no perfiles de riesgo. Posteriormente, se extraen determinadas características lingüísticas, de imagen o de actividad en redes, como pueden ser la frecuencia de publicación o el número de seguidores. Esta información es la entrada a algoritmos de inteligencia artificial que aprenden cuáles son las características comunes a grupos de riesgo.

Utilizamos técnicas computacionales e inteligencia artificial para estudiar enfermedades mentales en redes sociales

Utilizamos diferentes técnicas de Inteligencia Artificial: aprendizaje profundo (o deep learning) para el análisis de imagen, algoritmos de clustering o agrupamiento para la detección de comunidades, y algoritmos de procesado del lenguaje natural para el procesado de texto, entre otros.

Analizamos texto, imagen y actividad, intentando encontrar factores que habitualmente el personal especializado pregunta directamente a sus pacientes en las consultas: si tienen apoyo social, su calidad de sueño, posibles factores de riesgo, preocupaciones recurrentes, etc. Estas preguntas se resuelven en el entorno de las redes sociales analizando si un usuario tiene muchas conexiones, si tiene actividad durante las horas de sueño o si comenta o demuestra interés por ciertos temas.

Nuestro proyecto ha permitido aprender características diferenciales entre los grupos de “alto riesgo”, para cada uno de los casos estudiados (depresión, suicidio y TCA). Algunas de estas características son demográficas (rango de edad y sexo más común en usuarios de alto riesgo) y otras relacionadas con los intereses de los usuarios (por ejemplo, aquellos con trastornos de la conducta alimentaria suelen tener intereses por dietas estrictas de adelgazamiento, dietas veganas, o ejercicios intensos para alcanzar una rápida pérdida de peso).

Efectivamente, la Inteligencia Artificial, acompañada del gran poder de computación que tenemos hoy en día, permite automatizar procesos complejos de un modo muy eficiente, permitiendo acelerar la búsqueda de soluciones.

Sí, suelen ser mujeres, de menos de 39 años, con falta de apoyo social, que hacen referencia a abuso de sustancias (drogas, alcohol) o a términos relacionados con el suicidio o las autolesiones, entre otros.

STOP lo componen ya 7 instituciones a nivel internacional: la Universitat Pompeu Fabra, el Centro de Visión por Computador de la Universitat Autónoma de Barcelona, el Hospital Universitario Parc Taulí de Sabadell, la fundación FITA, la Fundació Ajuda i Esperança, la Université de Lyon y la Università della Svizzera Italiana.

Ha habido una amplia participación de alumnado de la UPF. Estudiantes de grado, máster y doctorado han ayudado a avanzar en la investigación, desarrollando la recopilación de datos y el entrenamiento de la mayor parte de los algoritmos de inteligencia artificial

El papel de la UPF es fundamental, pues desde aquí lideramos la investigación. Además, ha habido una amplia participación en el proyecto por parte del alumnado, pues numerosos estudiantes de grado, máster y doctorado han ayudado a avanzar en la investigación, desarrollando la recopilación de datos y el entrenamiento de la mayor parte de los algoritmos de inteligencia artificial. El Centro de Visión por Computador realiza el análisis de imagen, la Université de Lyon y la Università della Svizzera Italiana contribuyen en la parte de análisis de texto y de sesgo de género en anorexia nerviosa. El Hospital Parc Taulí y la fundación FITA proveen el conocimiento experto en salud mental y realizan la anotación de los datos. Con la Fundació Ajuda i Esperança hemos empezado a trabajar recientemente en una campaña que lanzamos conjuntamente en redes sociales.

Como resultado de nuestras investigaciones obtuvimos características diferenciales entre los grupos de “alto riesgo” para cada uno de los casos estudiados (depresión, suicidio y TCA). Esta información permitió lanzar una campaña en Instagram y Facebook dirigida a usuarios que encajaban en los perfiles de alto riesgo. Dicha campaña, en colaboración con el Telèfon de l’Esperança y el Telèfon de Prevenció del Suïcidi, consistió en la publicación de anuncios a través del feed (anuncios estáticos) o stories (historias dinámicas) que presentaban teléfonos de ayuda activos 24 horas a colectivos con características similares a las destacadas por los algoritmos de inteligencia artificial en grupos de riesgo.

La campaña se ejecutó durante 24 días en torno a las fechas navideñas de 2020-2021, alcanzando a 667.655 mil personas, con el mayor número de visualizaciones el 1 de enero de 2021 (90.993 usuarios). El mayor número de visualizaciones se dirigió al grupo de TCA (alcanzó a 545.415 personas), con sus picos de mayor audiencia el 25 de diciembre de 2020 y el 1 de enero de 2021 (coincidiendo con las fechas en las que más comidas familiares se realizan). Esta campaña consiguió aumentar en un 60% el número de llamadas provenientes de redes sociales al Telèfon de l’Esperança.

Sí, de hecho, ya hay investigaciones en esas líneas. Se ha estudiado que redes sociales como Twitter, Reddit o Instagram pueden ser eficaces para detectar problemas como el bullying o las adicciones, porque el hecho de poder tener un perfil anónimo, empuja a muchos usuarios a expresar ciertos sentimientos o a realizar ciertas acciones que no haría en otro contexto.

En relación a TCA, hemos trabajado dos líneas:

- Por una parte, en el contexto de la tesis doctoral de Diana Ramírez-Cifuentes, caracterizamos usuarios con anorexia nerviosa en Twitter, diferenciando incluso usuarios en diferentes etapas de la enfermedad. Por ejemplo, estudiamos las características de usuarios en etapa de pre-contemplación (caracterizada por euforia por la rápida pérdida de peso y el apoyo social recibido), contemplación (los estragos de la enfermedad empiezan a ser visibles y pueden comenzar episodios de malestar, ansiedad e incluso depresión), tratamiento y recuperación. Se trata del primer trabajo que analiza este trastorno en redes sociales diferenciando las etapas progresivas del mismo y fue recientemente publicado en la revista JMIR. Para estudiar cómo se expresa la anorexia en redes sociales, hemos analizado un conjunto de más de 2 millones de tweets publicados entre diciembre de 2017 y diciembre de 2018, escritos en castellano. Más de un 70% de perfiles analizados corresponden a mujeres y casi el 60% a jóvenes menores de 18 años.

Pudimos ver cómo las comunidades de anorexia nerviosa están completamente aisladas y apenas tienen vínculos con comunidades sanas, compuestas por cuentas de usuarios sanos o cuentas de instituciones o asociaciones que prestan ayuda a personas con trastornos de la conducta alimentaria. Forzar la comunicación entre comunidades con anorexia nerviosa y sanas reportaría grandes beneficios, pues estas burbujas son muy nocivas para estos colectivos vulnerables. Sin embargo, los sistemas recomendadores de contactos a seguir, en plataformas como Twitter, siguen recomendando a usuarios con anorexia cuentas muy similares que hacen que esta burbuja se expanda.

Los usuarios influyentes deben asumir la responsabilidad de cuidar cada publicación que hacen porque, de modo no intencionado, pueden estar perjudicando a algunos de sus seguidores

- Por otra parte, en el contexto del TFG del alumno Aleix Alonso, estudiamos cómo los perfiles de personas influyentes en Instagram pueden ser perjudiciales para seguidores con TCA. Seleccionamos 555 perfiles de Instagram que promovían pérdida de peso, ejercicio extremo, dietas muy bajas en calorías, etc. Un 85,8% correspondían a usuarios influyentes de los que el 64,1% podrían ser potencialmente perjudiciales al tener seguidores con alta probabilidad de estar sufriendo un TCA. Esto refuerza el hecho de que los usuarios influyentes deben asumir la responsabilidad de cuidar cada publicación que hacen porque, de modo no intencionado, pueden estar perjudicando a algunos de sus seguidores.

Ambos trabajos se realizaron con publicaciones completamente anonimizadas y con la aprobación del comité de ética de la UPF.

Toda herramienta se puede utilizar para bien o para mal: ocurre con un cuchillo, un coche o la inteligencia artificial. Sí es posible que alguien utilice IA para enviar mensajes perjudiciales a usuarios, pero se escaparía no solo de la ética, sino de la legalidad. De hecho, desarrollar nuestro proyecto de modo responsable implicó que el tratamiento de datos se hiciese de modo completamente anónimo, es decir, no es posible identificar, con los datos recopilados, a ninguna cuenta utilizada para entrenar los algoritmos desarrollados. Es por esto, que las campañas publicitarias de los teléfonos de ayuda no se pudieron dirigir a usuarios determinados, sino a grupos de usuarios anónimos cuyo perfil era similar al encontrado por los sistemas inteligentes. De este modo, no se pudo controlar que algunos anuncios se mostrasen a usuarios que, aun con características identificativas de un grupo de riesgo, no pertenecían a este colectivo. Por ello, especialmente los anuncios presentados en el feed eran acompañados del texto “Alguien de tu entorno lo puede necesitar”, para que no se tratase de una campaña intrusiva y que además llegase al mayor número de personas.

Desarrollar nuestro proyecto de modo responsable implicó que el tratamiento de datos se hiciese de modo completamente anónimo, no es posible identificar, con los datos recopilados, a ninguna cuenta utilizada para entrenar los algoritmos desarrollados

Sin duda, mediante la regulación del uso de la IA, algo que ya se está haciendo incluso a nivel europeo, y que habrá que ir perfilando y adaptando para dar respuesta a los futuros retos que vayan surgiendo en relación al uso de esta tecnología.

El objetivo de la campaña de crowdfunding a la que se puede acceder desde la web del proyecto es conseguir financiación para ampliar las campañas en redes sociales en colaboración con el Telèfon de l’Esperança, y contratar a una persona investigadora para explorar nuevos problemas, como la soledad, que hoy en día y sobre todo tras la pandemia, no solo afecta a gente mayor. La campaña de crowdfunding no está funcionando como se esperaba, pero afortunadamente, tuvimos la ayuda de la Iniciativa Bienestar Planetario de la UPF, que nos ha permitido realizar la primera campaña en redes sociales, así como pagar el coste asociado a algunas de nuestras publicaciones para que sean de acceso gratuito para aquellas personas que las quieran consultar.