El campus del Poblenou va acollir ahir la presentació del Centre d’Estudis UPF en Intel·ligència Natural i Artificial (CeSANI per les seves sigles en anglès), amb què la Universitat vol promoure la recerca interdisciplinària, la formació i la transferència de coneixement cap a la societat en aquest camp. Es tracta d’un centre d’estudis pioner a Catalunya i l’Estat espanyol, que fomentarà que la recerca en intel·ligència artificial segueixi criteris ètics i sostenibles, per tal que contribueixi a aportar solucions als reptes actuals a què s’afronta la humanitat.

El CeSANI (Centre for Studies UPF in Artificial and Natural Intelligence) tindrà com a àmbit d’estudi tant la intel·ligència artificial com la humana, per les interrelacions mútues entre aquests dos camps de recerca. El nou centre està vinculat al Departament de Tecnologies de la Informació i les Comunicacions (DTIC) de la UPF, reconegut com a unitat d’excel·lència María de Maeztu, precisament per la temàtica “Artificial And Natural Intelligence for ICT and beyond”, que engloba les línies de recerca de molts dels seus grups.

Vladimir Estivill, director del DTIC de la UPF: “El CeSANI ampliarà el ventall d'aportacions a l'estudi de la intel·ligència natural i artificial i la interacció mútua de estudis d'informàtica i neurociència”

El director del DTIC de la UPF, Vladimir Estivill, va resumir així els objectius del nou centre d’estudis: “Tenint en compte la rapidesa dels canvis i de la penetració social d'aplicacions amb intel·ligència artificial, directament connectades a l’estudi de la intel·ligència natural, la UPF ha d'oferir un punt de trobada de la recerca en aquest camp des de diferents disciplines. El CeSANI ampliarà el ventall d'aportacions a l'estudi de la intel·ligència natural i artificial i la interacció mútua d’estudis d'informàtica i neurociència”. Estivill va presentar l’acte d’ahir, acompanyat per vicerectora de recerca, Cristina Pujadas.

Respecte als motius de la posada en marxa del CeSANI, el coordinador del centre, Anders Jonsson, va afegir: “fins ara, s’ha fet molt bona recerca a nivell individual a la UPF, però ara volem donar un pas més, amb més coordinació entre investigadors i també millorant la visibilitat externa de la recerca”.

Inicialment, el nou centre d’estudis es posarà en marxa amb un equip de 42 investigadors i investigadores en IA, vinculats a quatre departaments diferents de la UPF. A més d’investigadors del DTIC, també en formen part membres de grups de recerca del Departament de Traducció i Ciències del Llenguatge, Medicina i Ciències de la Vida i Economia i Empresa.  

Per posar en marxa el CeSANI, la UPF s’ha inspirat en referents europeus o internacionals,  com els següents: Stanford University Human-Centered Artificial Intelligence (HAI), Leverhulme Centre for the Future of Intelligence de la Universitat de Cambridge o Hybrid Intelligence Center, en què estan involucrades diverses universitats dels Països Baixos.

Les activitats del centre s’adrecen especialment als investigadors i estudiants de grau i postgrau, si bé les seves activitats de divulgació i transferència volen arribar al conjunt de la comunitat universitària  i a la societat en el seu conjunt. El CeSANI vol proporcionar a la societat en general informació correcta i precisa perquè faci servir les eines amb IA de forma ètica i segura, així com fomentar que la recerca en aquest camp contribueixi a la consecució dels Objectius de Desenvolupament Sostenible (ODS) de l’ONU i al Benestar Planetari.  

Moratòria a la recerca en IA, sí o no?

Durant el mateix acte de presentació del centre d’estudis, es va celebrar la taula rodona titulada  “Moratòria a la recerca en intel·ligència artificial, sí o no?”, en què hi han participat Carlos Castillo, director del grup de recerca Ciència Web i Computació Social (WSSC) i professor i investigador ICREA al DTIC de la UPF; Emilia Gómez, investigadora sobre intel·ligència artificial al Joint Research Centre (JRC)  situat a Sevilla de la Comissió Europea i professora associada del DTIC; i Carles Sierra, director de l’Institut d’Investigació en Intel·ligència Artificial (IIIA) del CSIC. Emilia Gómez hi va participar telemàticament.

Durant la seva intervenció, Emilia Gómez ha fet referència tant als riscos com a les oportunitats de la IA. Quant a les oportunitats, Gómez ha citat els beneficis socials que la IA pot aportar en múltiples àmbits, com ara l’educació o la salut; les seves habilitats cognitives (per exemple, per escriure textos o elaborar productes audiovisuals); o les possibilitats que ofereix per incrementar la productivitat, entre d’altres. Pel que fa als riscos, s’ha referit a la opacitat dels sistemes que fan servir les eina amb IA, a la dificultat de garantir la protecció de les dades personals, al fet que puguin provocar l’atròfia o pèrdua de certes habilitats cognitives dels humans o a la incertesa legal que està generant en diferents àmbits. Davant d’aquesta disjuntiva, Emilia Gómez ha conclòs: “cal evitar el pensament del blanc i negre i fer un balanç dels riscos i oportunitats de les tecnologies d’intel·ligència artificial (...). Necessitem tanta recerca per desenvolupar la intel·ligència artificial com per avaluar-la, pel que fa al seu impacte sociotècnic, econòmic o geopolític”.

Per la seva banda, Carles Sierra s’ha mostrat més partidari de promoure la responsabilitat en la recerca en IA que de promoure una moratòria:  “Una moratòria no tindria cap efecte, les companyies seguirien desenvolupant la IA. El que cal és que certes línies de recerca es desenvolupin de forma més conscient”. Per a Sierra, la reacció mediàtica front a la recent implosió de les eines obertes d’IA generativa ha tingut “una repercussió positiva”: l’acceleració de la tramitació de la primera llei de la intel·ligència artificial europea (AI Act). La normativa, que és previst que s’aprovi enguany, regularà de forma diferenciada els usos de les eines IA segons el seu nivell de risc per a la societat (inacceptables, alts, limitats o mínims), pel que fa a la seguretat, la salut o els drets fonamentals.

Carlos Castillo ha alertat sobre el risc que les eines d’IA es puguin fer servir per reproduir i automatitzar sistemes discriminatoris ja existents, com ara mecanismes de control de fronteres que afecten les persones migrades o sol·licitants d’asil; o per restringir els col·lectius que poden optar a determinats ajuts públics per reduir la despesa de les administracions. De tota manera, ha insistit: “cal regular els usos de les eines d’intel·ligència artificial no les eines en si mateixes, que es poden fer servir amb finalitats positives o negatives”. En aquest sentit, ha valorat positivament que l’AI Act europea aposti per regular precisament els usos de les eines d’intel·ligència artificial.

La UPF, universitat de referència en el camp de la IA

La UPF compta amb grups de recerca de lideratge mundial tant en el camp de la IA com de la intel·ligència natural, com el Machine Learning Group (AI&ML) i el Centre for Brain and Cognition (CBC), respectivament. Ambdós estan adscrits al DTIC, que compta amb molts altres grups de recerca que investiguen les aplicacions tecnològiques i de la IA en diferents àrees. També destaquen per les seves recerques relacionades amb la IA els grups COLT (del Departament de Traducció i Ciències del Llenguatge), Recerca en Estadística i Investigació Operativa (Economia i Empresa), Functional Genomics, Computational Sciences, Dynamical Systems Biology Lab i Complex Systems Lab (Medicina i Ciències de la Vida). El Consell Europeu de Recerca (ERC) també ha premiat recentment investigadors de la UPF per la seva recerca en aquest camp.  

A més, la UPF és una de les universitats catalanes que participa de la nova unitat a Barcelona d’ELLIS (European Laboratory for Learning and Intelligent Systems), la xarxa europea d’excel·lència en IA. També forma part d’altres de les xarxes europees més destacades en aquest camp (TAILOR, HUMANE-AI i CLAIRE).  Quatre grups de recerca de la UPF (AI&ML, IMVA, TALN i BCNMedTech) també s’han integrat recentment a la nova xarxa catalana d'R+D+I IA.  Finalment, cal destacar que la UPF començarà a impartir el curs vinent l’Erasmus Mundus Joint Master en Intel·ligència Artificial (EMAI) amb tres universitats europees més.

Reconeixements a 12 projectes europeus del DTIC de la UPF

Precisament, l’acte d’ahir va finalitzar amb el reconeixement de 12 projectes europeus del DTIC de la UPF que utilitzen tecnologies emergents i lA, activats recentment arran del finançament obtingut l’any 2022 per part de la UE. Es van premiar projectes com  Nemesis (neurociència), O-Health (ecosistema escalable de models prevenció de malalties no transmissibles), Max-R, EMIL (ambdós de realitat estesa i augmentada),  Lullabyte (música per millorar la qualitat del son), ReSilence (millora dels entorns sonors de les ciutats) i IoT (Internet de les coses).  També es va reconèixer la tasca de la  Unitat María de Maeztu del DTIC, l’Erasmus Mundus en  IA  i el projecte “Reptes i oportunitats de la IA en la creació i consum de música” del Music Technology Group (MTG). Finalment, s’ha premiat  Piotr Przybyła, investigador visitant del DTIC de la UPF durant dos anys especialitzat en processament del llenguatge natural.