Els influenciadors (influencers) han de tenir cura de cadascuna de les seves publicacions perquè, de manera no intencionada, poden estar perjudicant els seus seguidors més vulnerables
Càrrecs: des de setembre del 2021, és directora de l'Àrea de Tecnologia de la UPF Barcelona School of Management. Anteriorment, va ser investigadora al Grup de Recerca en Ciència Web i Computació Social i professora del Departament de Tecnologies de la Informació i les Comunicacions de la UPF. També va ser coordinadora del Centre d'Estudis de Sostenibilitat de la UPF i és impulsora de la iniciativa Wisibilízalas, un concurs per fomentar les vocacions STEM entre estudiants de primària i secundària.
Formació: enginyera en Informàtica i doctora cum laude per la Universitat de A Coruña. Va fer estades de recerca a la Universitat de Glasgow, el National Research Council of Italy i Yahoo Labs Barcelona.
Des d'aquest mes de setembre, Ana Freire és la directora de l'Àrea de Tecnologia de la UPF Barcelona School of Management. Anteriorment, va ser investigadora al Grup de Recerca en Ciència Web i Computació Social i professora del Departament de Tecnologies de la Informació i les Comunicacions de la UPF, des d'on va impulsar la creació del grau en Enginyeria Matemàtica en Ciència de Dades. Una de les seves línies d'investigació actual se centra en la detecció i la caracterització de comportaments suïcides a les xarxes socials gràcies a l'ús de la intel·ligència artificial. Això s'ha concretat en el projecte STOP (Suicide Prevention in Social Platforms), liderat des de la Universitat Pompeu Fabra i que des del 2017 té com a objectiu contribuir a la reducció del nombre de casos de suïcidi a Espanya.
També té una faceta rellevant en qüestions de divulgació i foment de vocacions científiques. En destaca la creació i l'impuls del concurs internacional Wisibilízalas, que té com a objectiu principal fer visibles les dones vinculades a la ciència i la tecnologia perquè estudiants de primària i secundària les coneguin i les tinguin com a referents.
Com sorgeix el projecte STOP? Quina problemàtica vol eradicar?
El projecte STOP (Suicide Prevention in Social Platforms) neix l'any 2017 amb l'objectiu de contribuir a la reducció de casos de suïcidi: cada any, més de 3.000 persones es treuen la vida a Espanya, al voltant de 500 a Catalunya, i si comptabilitzem els intents de suïcidi, aquestes xifres es poden multiplicar per quatre. La majoria d'aquestes persones no havien rebut un diagnòstic o un tractament, en part pel difícil accés a les consultes de salut mental i pel tabú que envolta aquesta problemàtica.
El projecte STOP neix l'any 2017 amb l'objectiu de contribuir a la reducció de casos de suïcidi: cada any, més de 3.000 persones es treuen la vida a Espanya
STOP vol prestar ajuda a persones que potser no estiguin rebent atenció psicològica i que, pel seu perfil a les xarxes socials, encaixin dins d'un perfil de risc.
Com s'aplica la IA per aconseguir els objectius marcats? Quin tipus d'aprenentatge automàtic heu desenvolupat?
Aquest projecte utilitza tècniques computacionals i intel·ligència artificial per estudiar malalties mentals en xarxes socials, en particular, les tendències suïcides, la depressió i els trastorns de la conducta alimentària (TCA) que, en casos greus, també poden derivar en autolesions i/o ideació suïcida.
Amb el coneixement expert de psicòlegs i psiquiatres del nostre equip, filtrem de manera automàtica i completament anònima publicacions de xarxes socials que inclouen paraules o frases que habitualment fan servir pacients amb alt risc de suïcidi, depressió o trastorns de la conducta alimentària. Aquestes publicacions s'etiqueten en funció de si representen o no perfils de risc. Posteriorment, se n'extreuen determinades característiques lingüístiques, d'imatge o d'activitat en xarxes, com poden ser la freqüència de publicació o el nombre de seguidors. Aquesta informació és l'entrada a algoritmes d'intel·ligència artificial que aprenen quines són les característiques comunes a grups de risc.
Utilitzem tècniques computacionals i intel·ligència artificial per estudiar malalties mentals en xarxes socials
Utilitzem diferents tècniques d'intel·ligència artificial: aprenentatge profund (o deep learning) per a l'anàlisi d'imatge, algoritmes de clustering o agrupament per detectar comunitats i algoritmes de processament del llenguatge natural per al processament de text, entre d'altres.
Quin contingut analitzeu de les xarxes socials? Com es poden establir patrons de conducta?
Analitzem text, imatge i activitat, intentant trobar-hi factors que habitualment el personal especialitzat pregunta directament als seus pacients en les consultes: si tenen suport social, la seva qualitat de son, possibles factors de risc, preocupacions recurrents, etc. Aquestes preguntes es resolen en l'entorn de les xarxes socials analitzant si un usuari té moltes connexions, si té activitat durant les hores de son o si comenta o demostra interès per certs temes.
El nostre projecte ha permès aprendre característiques diferencials entre els grups d’"alt risc", per a cadascun dels casos estudiats (depressió, suïcidi i TCA). Algunes d'aquestes característiques són demogràfiques (rang d'edat i sexe més comú en usuaris d'alt risc) i altres relacionades amb els interessos dels usuaris (per exemple, aquells amb trastorns de la conducta alimentària solen tenir interessos per dietes estrictes d'aprimament, dietes veganes, o exercicis intensos per arribar a una ràpida pèrdua de pes).
La IA, entre altres coses, ens ajuda a obtenir i digerir grans quantitats de dades que, d'altra manera, trigaríem molt més temps a processar?
Efectivament, la intel·ligència artificial, acompanyada del gran poder de computació que tenim avui en dia, permet automatitzar processos complexos d'una manera molt eficient, fins al punt que permet accelerar la recerca de solucions.
Teniu detectat quin seria el perfil prototípic d'usuari de xarxes socials amb tendències al suïcidi?
Sí, solen ser dones, de menys de 39 anys, amb falta de suport social, que fan referència a abús de substàncies (drogues, alcohol) o a temes relacionats amb el suïcidi o les autolesions, entre d'altres.
STOP és un projecte col·laboratiu amb més institucions. Quin paper hi juga la UPF? I quin paper hi juguen la resta d'institucions?
Hi ha hagut una àmplia participació d'alumnat de la UPF. Estudiants de grau, màster i doctorat han ajudat a avançar en la investigació, desenvolupant la recopilació de dades i l'entrenament de la major part dels algoritmes d'intel·ligència artificial
El paper de la UPF és fonamental, ja que des d'aquí liderem la investigació. A més, hi ha hagut una àmplia participació en el projecte per part de l'alumnat, atès que nombrosos estudiants de grau, màster i doctorat han ajudat a avançar en la investigació, desenvolupant la recopilació de dades i l'entrenament de la major part dels algoritmes d'intel·ligència artificial. El Centre de Visió per Computador fa l'anàlisi d'imatge, la Universitat de Lió i la Universitat de l’Svizzera italiana contribueixen a la part d'anàlisi de text i de biaix de gènere en anorèxia nerviosa. L'Hospital Parc Taulí i la Fundació FITA proveeixen el coneixement expert en salut mental i fan l'anotació de les dades. Amb la Fundació Ajuda i Esperança hem començat a treballar recentment en una campanya que llancem conjuntament a les xarxes socials.
El projecte va servir també per treballar conjuntament amb el Telèfon de l'Esperança. En què consistia la col·laboració? Quins resultats es van obtenir?
Com a resultat de les nostres investigacions vam obtenir característiques diferencials entre els grups d'"alt risc" per a cadascun dels casos estudiats (depressió, suïcidi i TCA). Aquesta informació va permetre llançar una campanya a Instagram i a Facebook dirigida a usuaris que encaixaven en els perfils d'alt risc. Aquesta campanya, en col·laboració amb el Telèfon de l'Esperança i el Telèfon de Prevenció del Suïcidi, va consistir en la publicació d'anuncis a través del feed (anuncis estàtics) o stories (històries dinàmiques) que presentaven telèfons d'ajuda actius 24 hores a col·lectius amb característiques similars a les destacades pels algoritmes d'intel·ligència artificial en grups de risc.
La campanya es va executar durant 24 dies al voltant de les dates nadalenques de 2020-2021, i va aconseguir 667.655 persones, amb el major nombre de visualitzacions l'1 de gener del 2021 (90.993 usuaris). El major nombre de visualitzacions es va dirigir al grup de TCA (va arribar a 545.415 persones), amb els seus pics de més audiència el 25 de desembre del 2020 i l'1 de gener del 2021 (coincidint amb les dates en què més àpats familiars es fan). Aquesta campanya va aconseguir augmentar en un 60% el nombre de trucades provinents de xarxes socials al Telèfon de l'Esperança.
La IA podria ser útil per detectar altres mals hàbits/comportaments a través de les xarxes socials? Què ens aporten les xarxes socials en aquest tipus d'investigacions?
Sí, de fet, ja hi ha investigacions en aquestes línies. S'ha estudiat que xarxes socials com Twitter, Reddit o Instagram poden ser eficaces per detectar problemes com el bullying o les addiccions, perquè el fet de poder tenir un perfil anònim empeny molts usuaris a expressar certs sentiments o a fer certes accions que no faria en un altre context.
Una de les possibles noves línies d'investigació són els trastorns alimentaris. Heu desenvolupat algun tipus d'algorisme per detectar-los?
En relació amb els TCA, hem treballat dues línies:
-D'una banda, en el context de la tesi doctoral de Diana Ramírez-Cifuentes, caracteritzem usuaris amb anorèxia nerviosa a Twitter, diferenciant fins i tot usuaris en diferents etapes de la malaltia. Per exemple, estudiem les característiques d'usuaris en etapa de precontemplació (caracteritzada per eufòria per la ràpida pèrdua de pes i el suport social rebut), contemplació (els estralls de la malaltia comencen a ser visibles i poden començar episodis de malestar, ansietat i, fins i tot, depressió), tractament i recuperació. Es tracta del primer treball que analitza aquest trastorn en xarxes socials diferenciant-ne les etapes progressives, i va ser recentment publicat a la revista JMIR. Per estudiar com s'expressa l'anorèxia a les xarxes socials, hem analitzat un conjunt de més de 2 milions de tuits publicats entre desembre del 2017 i desembre del 2018, escrits en castellà. Més d'un 70% de perfils analitzats corresponen a dones i gairebé el 60%, a joves menors de 18 anys.
Vam poder veure com les comunitats d'anorèxia nerviosa estan completament aïllades i amb prou feines tenen vincles amb comunitats sanes, compostes per comptes d'usuaris sans o comptes d'institucions o associacions que presten ajuda a persones amb trastorns de la conducta alimentària. Forçar la comunicació entre comunitats amb anorèxia nerviosa i sanes reportaria grans beneficis, ja que aquestes bombolles són molt nocives per a aquests col·lectius vulnerables. No obstant això, els sistemes recomanadors de contactes que s’han de seguir, en plataformes com Twitter, continuen recomanant a usuaris amb anorèxia comptes molt similars que fan que aquesta bombolla s'expandeixi.
Els usuaris influents han d'assumir la responsabilitat de cuidar cada publicació que fan perquè, de manera no intencionada, poden estar perjudicant alguns dels seus seguidors
-D'altra banda, en el context dels TFG de l'alumne Aleix Alonso, estudiem com els perfils de persones influents a Instagram poden ser perjudicials per a seguidors amb TCA. Vam seleccionar 555 perfils d'Instagram que promovien pèrdua de pes, exercici extrem, dietes molt baixes en calories, etc. Un 85,8% corresponien a usuaris influents, dels quals el 64,1% podrien ser potencialment perjudicials si tenen seguidors amb alta probabilitat d'estar patint un TCA. Això reforça el fet que els usuaris influents han d'assumir la responsabilitat de cuidar cada publicació que fan perquè, de manera no intencionada, poden estar perjudicant alguns dels seus seguidors.
Tots dos treballs es van fer amb publicacions completament anònimes i amb l'aprovació del Comitè d'Ètica de la UPF.
De vegades, la societat té una percepció negativa de la IA. Segons aquest cas, seria possible que algú desenvolupés un algoritme per enviar missatges perniciosos o nocius als usuaris de xarxes socials amb característiques comunes?
Tota eina es pot utilitzar per bé o per mal: passa amb un ganivet, un cotxe o la intel·ligència artificial. Sí que és possible que algú utilitzi la IA per enviar missatges perjudicials als usuaris; però s'escaparia no només de l'ètica, sinó de la legalitat. De fet, desenvolupar el nostre projecte de manera responsable va implicar que el tractament de dades es fes de manera completament anònima; és a dir, no és possible identificar, amb les dades recopilades, cap compte utilitzat per entrenar els algoritmes desenvolupats. És per això que les campanyes publicitàries dels telèfons d'ajuda no es van poder adreçar a usuaris determinats, sinó a grups d'usuaris anònims. I el perfil era similar al trobat pels sistemes intel·ligents. D'aquesta manera, no es va poder controlar que alguns anuncis es mostressin a usuaris que, tot i tenir característiques identificatives d'un grup de risc, no pertanyien a aquest col·lectiu. Per això, especialment els anuncis presentats en el feed eren acompanyats del text "Algú del teu entorn ho pot necessitar", perquè no es tractés d'una campanya intrusiva i que a més arribés al major nombre de persones.
Desenvolupar el nostre projecte de manera responsable va implicar que el tractament de dades es fes de manera completament anònima. No és possible identificar, amb les dades recopilades, cap compte utilitzat per entrenar els algoritmes desenvolupats
Com es podria evitar aquest mal ús de la tecnologia?
Sens dubte, mitjançant la regulació de l'ús de la IA, cosa que ja s'està fent fins i tot a escala europea, i que caldrà anar perfilant i adaptant per donar resposta als futurs reptes que vagin sorgint en relació amb l'ús d'aquesta tecnologia.
A part del finançament rebut a través del programa María de Maeztu del Departament de Tecnologies de la Informació i les Comunicacions, heu obert una campanya de crowdfunding. Quin és l'objectiu? Ha estat suficient?
L'objectiu de la campanya de crowdfunding a la qual es pot accedir des de la web del projecte és aconseguir finançament per ampliar les campanyes en xarxes socials en col·laboració amb el Telèfon de l'Esperança, i contractar una persona investigadora per explorar nous problemes, com la soledat, que avui en dia, i sobretot després de la pandèmia, no només afecta gent gran. La campanya de crowdfunding no està funcionant com s'esperava; però, afortunadament, vam tenir l'ajuda de la iniciativa Benestar Planetari de la UPF, que ens ha permès fer la primera campanya a les xarxes socials, així com pagar el cost associat a algunes de les nostres publicacions perquè siguin d'accés gratuït per a aquelles persones que les vulguin consultar.