De quina manera es pot fer un ús responsable de la intel·ligència artificial (IA) en el camp de la recerca perquè contribueixi al progrés científic? The Guild, l’associació d’universitats intensives en recerca de què forma part la UPF, acaba de publicar un informe que analitza aquest tema i fa recomanacions a la UE sobre com reforçar la seva estratègia per al desenvolupament responsable i efectiu de la IA.

En l’informe “The use of artificial intelligence in research. Unlocking its full potential”, The Guild remarca que, malgrat la comprensible preocupació pels riscos de les eines d’IA, no cal perdre de vista el seu potencial per “enfortir la productivitat i la qualitat de la recerca”. La IA pot resultar útil per a un ampli ventall de tasques vinculades a la recerca: la revisió bibliogràfica, la formulació d’hipòtesi, l’anàlisi de dades, els experiments, la divulgació científica, etc.

El document recull diferents propostes tant perquè la intel·ligència artificial contribueixi a reforçar la recerca en diferents camps de coneixement com per enfortir les investigacions sobre el propi potencial de la IA per millorar “la resiliència i la competitivitat” europees. The Guild insisteix que la UE hauria de recuperar la seva posició de lideratge en la recerca sobre IA i que governs, universitats i finançadors privats haurien d’alinear-se amb una estratègia global amb aquesta finalitat.

Què demana The Guild a la UE per promoure l’ús responsable de la IA?

L’associació també expressa la seva voluntat de col·laborar amb la UE amb aquesta finalitat, després que les institucions europees hagin la manifestat la importància estratègica que concedeixen a aquest tema, amb la recent entrada en vigor de la prima regulació europea sobre IA (AI Act) o les Directrius Ètiques per a una IA fiable (UE, 2019). Coincidint amb la recent designació de la nova comissària europea responsable de les startups, la recerca i la innovació, Ekaterina Zaharieva, The Guild també llança les següents demandes a la UE:

1. Enfortir la investigació en recerca sobre IA, amb una major inversió econòmica. En general, s’aposta per enfortir el finançament en Recerca + Innovació (R+I) i l’ecosistema de R+I en el seu conjunt.
2. Reforçar l'ús de la IA en la recerca interdisciplinària, no només per enfortir la base de la recerca d'Europa en aquest àmbit, sinó també per la comprensió dels usos de la IA i del seu impacte.
3. Desenvolupar i reforçar les habilitats per utilitzar la IA en la recerca i fomentar el talent entre estudiants i investigadors.
4. Optimitzar i millorar les infraestructures tècniques i informàtiques i el volum de dades disponibles per als investigadors i investigadores.

Quins reptes i oportunitats planteja la IA a les universitats europees?

Aquest informe de The Guild s’ha fet públic aquest dimarts, 19 de novembre, després que The Guild organitzés el passat dia 6 la jornada “AI in European universities: Opportunities and challenges”, en col·laboració amb la Université Paris Sciences et Lettres (PSL) i la Université Paris Cité.

En aquesta jornada, celebrada al campus PariSanté de la PSL, representants de les diferents universitats membres de The Guild van poder intercanviar opinions sobre el tema amb experts i professionals que treballen en el camp de la IA, així com amb responsables de les polítiques públiques en aquest camp.

En una de les dues taules de debat de les jornades, es va abordar com maximitzar el potencial de la IA en el camp de la recerca i, específicament, per facilitar les investigacions interdisciplinàries. De la mateixa manera que l’informe de The Guild, els ponents van expressar la necessitat de reforçar la infraestructura i la potència de les tecnologies computacionals amb què compten els equips de recerca.

Adaptar els currículums docents a les noves necessitats professionals

L’altra taula rodona es va centrar en l’impacte de la IA en la docència. Al llarg del debat, es va emfasitzar la necessitat de garantir un accés just i equitatiu a les eines d’IA més capdavanteres i es van expressar diverses inquietuds pel que fa a l’impacte de la IA en els continguts docents. Segons diversos experts, existeix el risc que els itineraris curriculars es quedin obsolets, davant de la ràpida evolució de la IA, de manera que existeixen importants diferències entre allò que aprenen els estudiants i les habilitats requerides al món laboral. En aquest sentit, es va destacar la importància de reimaginar els processos formatius, i de promoure una major col·laboració entre universitats i indústria.

En aquesta jornada, hi va participar l’investigador del Departament d’Enginyeria, Vladimir Estivill Castro, juntament amb d’altres experts en el tema com Michela Milano, director de l’Alma Mater Research Institute for Human-Centred AI de la Universitat de Bolonya; o Martin Compton, líder d’IA, Innovació i Educació del King’s College de Londres, entre d’altres. Estivill, expert en IA i machine learning, és coautor del document Living Guidelines on the responsible use of generative AI in research.

Durant la taula rodona, Estivill va reflexionar sobre la importància d’aprofitar les oportunitats de la IA i alhora de prevenir els seus possibles riscos. Per això, quan algunes veus estan considerant la incipient legislació europea per regular la IA com a fre al progrés científic, Estivill va defensar la necessitat de regular-ne els usos. En aquest sentit, va precisar: “Només cal garantir que l'aparell que fa complir la legislació no sigui burocràtic i massa conservador”. També va insistir en la importància de sensibilitzar i formar els investigadors sobre les normes que regulen els usos de la IA per tal que en facin ús responsable i conforme a legalitat. En la seva opinió, cal agilitzar el procés per autoritzar les investigacions amb IA i, si és necessari en algunes ocasions, aplicar fortes sancions si hi ha incompliments de la normativa. També ha citat alguns aspectes de la recerca en IA en què és particularment rellevant aplicar-hi ètics o legals, com l’eliminació de baixos, la transparència, la robustesa de la recerca, l’enorme cost d’alguns grans models computacionals o una millor comprensió dels processos amb què genera resultats, en molts casos considerats una caixa negra. 

La darrera DeepTech Talk d’Enginyeria UPF va tractar els reptes ètics de la IA

Precisament, el Departament d’Enginyeria de la UPF va organitzar el passat divendres, 22 de novembre, una jornada sobre ètica i intel·ligència artificial, centrada en la IA Act de la UE (2024). Aquesta jornada és una de les Deep Tech Talks que Enginyeria UPF està organitzant pel seu 25è aniversari.