•  
 

3. Comunitat

Intel·ligència artificial (IA), ensenyar les màquines a pensar com els humans

Tot i que el concepte de dotar les màquines d’intel·ligència semblant a la humana té més de sis dècades d’existència, és durant els darrers dotze anys quan n’estem vivint un veritable boom d’aplicacions, gràcies a la millora de les xarxes neuronals, els avenços en la supercomputació i la disponibilitat de dades massives. Catalunya és capdavantera a l’Estat en R+D en aquest àmbit amb l’aprovació del pla estratègic Catalonia.AI, amb què vol potenciar la implementació i el desenvolupament d’aquesta tecnologia.

Aquest estiu, Núria López-Bigas, investigadora ICREA de l’Institut de Recerca Biomèdica (IRB) de Barcelona i exprofessora de la Universitat Pompeu Fabra (UPF), saltava als titulars de molts mitjans, tant estatals com internacionals, per haver desenvolupat una eina d’intel·ligència artificial capaç d’assenyalar les mutacions en un gen que contribueixen al desenvolupament i la progressió d’un tumor.

Les cèl·lules de l’organisme poden arribar a acumular desenes de milers d’alteracions al seu ADN al llarg de la vida. La gran majoria seran innòcues i només unes quantes tindran el potencial d’acabar generant un càncer. Per això, identificar-ne quines són és essencial per oferir al pacient un tractament personalitzat. El problema existent, però, era que, fins ara, es tractava d’un procés llarg, lent i costós per als laboratoris, i inviable per a cada malalt.

D’aquí la rellevància de l’eina desenvolupada per López-Bigas, basada en mètodes d’aprenentatge màquina i capaç de simular totes les possibles alteracions genètiques en un càncer, per identificar-ne les que tenen un paper rellevant en l’aparició d’un tumor. L’eina ajudarà els oncòlegs a l’hora de definir els millors tractaments per a cada persona.

Només set dies abans de la publicació de l’estudi científic de López-Bigas un altre avenç sobre biologia i intel·ligència artificial s’havia fet també un lloc en l’actualitat informativa. La companyia DeepMind i el Laboratori Europeu de Biologia Molecular (EMBL) havien aconseguit elaborar el compendi més complet i precís de les 20.000 proteïnes del cos humà. La fita, segurament la més important en aquest àmbit de la ciència des de la publicació del genoma humà fa vint anys, obria les portes a poder comprendre’n millor la funció a la cèl·lula, què passa quan muta i com està implicada en malalties, entre moltes d’altres coses.

El boom de l'IA

El de Bigas-López i DeepMind-EMBL són només dos exemples dels enormes progressos que d’un temps ençà se succeeixen amb rapidesa pràcticament en tots els àmbits del coneixement humà, gràcies a l’ús d’eines d’intel·ligència artificial, un terme encunyat el 1955 per l’informàtic i científic cognitiu dels EUA John McCarthy i que es refereix al desenvolupament d’algoritmes que permeten a una màquina prendre decisions intel·ligents; o, si més no, semblants a les decisions humanes.

Des de la creació del concepte en si i durant gairebé sis dècades, la investigació en IA i en eines basades en l’aprenentatge de les màquines ha anat avançant i generant avenços, tot i que lentament. Tanmateix, des del 2008 la recerca en aquest àmbit s’ha accelerat i s’ha anat estenent com una bassa d’oli a una infinitat de disciplines. Tant és així que ara es parla d’un boom per referir-se a la miríada d’aplicacions de l'IA en totes les disciplines.

Antonio Torralba

El cert és que “s’ha produït un salt qualitatiu immens que ens ha permès progressar moltíssim de cop, com quinze o vint anys de recerca resolts en un sol any. I això ha comportat alliberar un munt de possibles aplicacions que fins aleshores estaven bloquejades o no funcionaven”, explica Antonio Torralba, un dels experts més destacats en el món de l'IA, i investigador des de fa vint anys al Laboratori d’Intel·ligència Artificial i Ciències de la Computació (CSAIL) —centre neuràlgic mundial de recerca en aquest àmbit— de l’Institut de Tecnologia de Massachusetts (MIT).

Des del 2008 s’ha produït un boom d’aplicacions basades en intel·ligència artificial

Aquesta autèntica revolució de l'IA es basa en el fet que “des del 2008, hi ha hagut un enorme ascens de les capacitats de les xarxes neuronals, en particular de l’aprenentatge profund”, apunta Ramon López de Mántaras, fundador i exdirector de l’Institut de Recerca en Intel·ligència Artificial del CSIC (IIIA-CSIC).

Les xarxes neuronals són un model computacional que permet simular el funcionament del cervell humà i són capaces d’aprendre sense estar-hi específicament programades. Per exemple, una xarxa neuronal, després de reconèixer patrons repetits a partir de milers de radiografies de lesions pulmonars, serà capaç d’identificar per si mateixa els tumors amb una precisió que pot arribar a superar la humana.

Però en l’avenç exponencial de l'IA també “hi té a veure l’enorme millora de la capacitat de supercomputació i el fet que s’ha fet assequible i accessible a la comunitat investigadora. A això, sumem-hi la disponibilitat de dades massives, peça clau per entrenar els algoritmes”, resumeix López de Mántaras. És així com aplicacions de l'IA fins fa poc reservades a les grans empreses tecnològiques —com Google, Facebook, Apple o Amazon—, ara s’han democratitzat.

“Avui dia, qualsevol investigador pot tenir accés a recursos de supercomputació, perquè són oberts, i també a bases de dades científiques” que estan al núvol, afegeix Pep Martorell, director associat del Barcelona Supercomputing Center (BSC-CNS). “Els algoritmes han esdevingut una commodity per a molts grups de recerca que, encara que no sàpiguen desenvolupar-ne, se’ls poden baixar de Google i manegar-los”.

La millora de la capacitat de les xarxes neuronals i de la supercomputació, i la gran disponibilitat de dades massives han estat tres factors clau per a l’auge de les aplicacions de l'IA

Sense anar més lluny, fa deu anys, al BSC-CNS hi havia alguns grups que treballaven amb IA, sobretot en la relació entre l'IA i la supercomputació, per tal de dissenyar superordinadors més eficients a l’hora d’entrenar algoritmes. Ara, d’entre els gairebé 600 grups de recerca d’aquest centre, costa trobar algun que no incorpori tècniques i coneixements d'IA.

Un sistema de R+D preparat

Però això que ha passat a Catalunya no s’ha repetit arreu. “No tots els països del món han pogut fer aquest pas”, alerta Martorell, per a qui, en aquest sentit, Catalunya se situa en una posició notable perquè la convergència tecnològica que ha permès l’avenç exponencial de l'IA ha passat en un moment en què “el nostre país comptava ja amb un sistema de recerca i desenvolupament robust i madur respecte a les tecnologies digitals. Estàvem preparats per acollir la manera de treballar de dades científiques massives i algoritmes, amb la massa crítica necessària, amb grups de recerca grans, multidisciplinaris, i institucions potents. El català és, a més, un sistema de R+D on hi ha molta permeabilitat, i això permet que tothom se’n beneficiï”, valora.

Bona mostra que Catalunya compta amb un teixit de R+D madur d'IA és l’anunci recent de Microsoft de crear un nou centre a Barcelona dedicat a la recerca i el desenvolupament en aplicacions d’intel·ligència artificial

Bona mostra que Catalunya compta amb un teixit de R+D madur d'IA és l’anunci recent de Microsoft de crear un nou centre a Barcelona dedicat a la recerca i el desenvolupament en aplicacions d’intel·ligència artificial. En una primera fase, seleccionaran trenta enginyers de programari i científics de dades perquè treballin en la millora del buscador de Microsoft, Bing, amb el qual pretenen competir amb Google.

L’aposta catalana per l'IA

Per tal d’establir les bases per potenciar i reforçar aquest sistema de R+D i IA, el 2020 la Generalitat de Catalunya va presentar el pla estratègic de país centrat en la intel·ligència artificial, pioner a l’Estat, Catalonia.AI. Compta amb una dotació específica de 10 milions d’euros per als pròxims tres anys i persegueix impulsar un país digital i la implementació i el desenvolupament d’aquesta tecnologia.

De fet, ja hi ha 179 companyies que treballen en l’àmbit de l'IA al nostre territori, amb 8.500 treballadors i una facturació anual de 1.350 milions d’euros, segons dades proporcionades per l’aleshores conseller de polítiques digitals i administració pública, Jordi Puigneró. Segons que va afirmar durant la presentació del pla, és una de les tecnologies digitals avançades que més impacte econòmic i social tindrà en els pròxims anys: s’estima que el 2030 generarà un increment addicional de 15 bilions de dòlars del PIB mundial.

L’Aliança d’Investigació en Intel·ligència Artificial de Catalunya (AIRA), que té com a objectiu promoure la recerca científica, la gestió del talent i l’acceleració de solucions basades en IA a Catalunya.

Emmarcat dins del Catalonia.AI, recentment el Govern ha aprovat la creació de l’Aliança d’Investigació en Intel·ligència Artificial de Catalunya (AIRA), que té com a objectiu promoure la recerca científica, la gestió del talent i l’acceleració de solucions basades en IA a Catalunya. D’aquesta aliança en formen part, en una primera fase, centres i instituts de recerca en IA capdavanters, com ara el Centre de Visió per Computador (CVC), el Barcelona Supercomputing Center —Centre Nacional de Supercomputació (BSC-CNS)—, l’Institut d’Investigació en Intel·ligència Artificial (IIIA), l’Institut de Robòtica i Informàtica Industrial (IIRI) i el Centre d’Investigació en Ciència de Dades Intel·ligents i Intel·ligència Artificial (IDEAI-UPC). La idea que hi ha al darrere és que puguin desenvolupar una estratègia coordinada.

“La iniciativa és bona, però parteix d’una inversió deficitària”, considera López de Mántaras, que en el moment de parlar amb 360upf formava part del comitè científic d’avaluació independent de centres d’excel·lència alemanys. “A Alemanya tenen 6 centres i cadascun té un pressupost de 20 milions d’euros anuals. Aquí estem parlant de 10 milions per a tots els centres que treballem amb IA per als pròxims tres anys”. Segons aquest expert, a Catalunya i també a Espanya s’està invertint en R+D en IA “almenys un ordre de magnitud inferior que en països com França, Alemanya o el Regne Unit. I això farà que d’aquí deu anys estiguem a gran distància, per darrere, dels líders”.

“La iniciativa és bona, però parteix d’una inversió deficitària”, segons López de Mántaras

La UPF aposta per l'IA

A Catalunya hi ha centres i institucions de recerca que compten amb línies de recerca específiques d'IA i les seves aplicacions. És el cas de la UPF, que a més a més també destaca per fer recerca d’excel·lència en diversos àmbits del coneixement emprant-la com a eina habitual en els seus projectes.

“En l’àmbit català i europeu, podem dir que som un referent en termes d'IA, tot i ser una universitat petita on les ciències socials i les humanitats tenen un paper important”, assenyala amb orgull Enric Vallduví, vicerector de Recerca de la UPF, que enumera alguns projectes que estan desenvolupant investigadors de la casa: des d’una economista que estudia com evoluciona la pobresa i el nivell de renda a partir de l’anàlisi numèrica de la densitat de llums a les imatges de satèl·lit de països africans; fins a l’estudi de l’origen de la capacitat lingüística per tal que sigui replicada en sistemes automàtics, com els robots.

“Tots els nostres investigadors hi veuen un element que pot fer que hi hagi un avenç important de recerca i millora de la societat, i per això la fan servir”, afegeix.

Mostra de la preeminència de la Universitat en aquest àmbit a escala europea és l’obtenció, recentment, per part d’investigadors de la UPF, de tres European Research Council awards (ERC), els més prestigiosos de la Unió Europea en la categoria de recerca de frontera en el camp de la IA

Mostra de la preeminència de la Universitat en aquest àmbit a escala europea és l’obtenció, recentment, per part d’investigadors de la UPF, de tres European Research Council awards (ERC), els més prestigiosos de la Unió Europea en la categoria de recerca de frontera en el camp de la IA. A més a més, la Universitat forma part de diverses xarxes europees d’excel·lència en intel·ligència artificial, com TAILOR, HUMANE-AI, i CLAIRE, i destaca per la qualitat de la seva producció científica en revistes especialitzades i en congressos internacionals.

ERC awards en l’àmbit de la IA a la UPF

Hector Geffner

Héctor Geffner, investigador del Grup de Recerca en Artificial Intelligence and Machine Learning (AI/ML) i coordinador del projecte RLeap

El projecte té com a objectiu aconseguir la integració entre aprenents i solucionadors en el context de la planificació, abordant el problema de l'aprenentatge de representacions de planificació de primer ordre, a partir de percepcions originals sense fer servir cap coneixement simbòlic previ. La capacitat de construir representacions simbòliques de primer ordre i utilitzar-les per expressar, comunicar, assolir i reconèixer objectius és un dels principals components de la intel·ligència humana i un problema en recerca fonamental i oberta en IA. Si analitzem i resolem aquesta dificultat, el projecte pot marcar la diferència a l’hora d’entendre i aconseguir una IA general, explicable i fiable.

Gergely Neu

Gergely Neu, investigador del Grup de Recerca en Artificial Intelligence and Machine Learning (AI/ML) i coordinador del projecte SCALER.

El projecte pretén oferir una millor comprensió fonamental de l'aprenentatge per reforç (RL) a gran escala. Durant els últims anys, els mètodes RL han aconseguit una gran popularitat, perquè són la tècnica clau que es troba al darrere d'alguns avenços espectaculars de la recerca en IA, atès que van renovar l'interès per aplicar aquestes tècniques a problemes reals, com el control de vehicles autònoms o de xarxes energètiques intel·ligents. Tot i que l’RL és clarament adequat per abordar aquests problemes, l'aplicabilitat de la generació actual d'algoritmes RL és limitada perquè, d’una banda, no té garanties formals de rendiment i, de l’altra, presenta una eficiència mostral molt baixa. El projecte SCALER proposa analitzar aquest problema i avançar en l'estat de l'art en RL mitjançant el desenvolupament d'una nova generació d'algoritmes demostrablement eficients i escalables.

Marco Baroni

Marco Baroni, investigador del Grup de Recerca en Computational Linguistics and Linguistic Theory (COLT) i coordinador del projecte ALiEN.

L’objectiu del projecte és desenvolupar un llenguatge universal que permeti als agents d'IA impulsats per xarxes neuronals profundes comunicar-se. D'aquesta manera, per exemple, dos cotxes autònoms en una cruïlla podrien negociar qui té preferència, o una nevera intel·ligent podria oferir una aplicació de compres quan l'estoc de llet fos baix. La idea bàsica del projecte no és intentar especificar aquest "llenguatge" manualment, sinó deixar que els mateixos agents d'IA el facin evolucionar mentre cooperen per resoldre tasques conjuntes.

Aplicació de la IA en projectes de recerca

John Palmer, professor agregat de la UPF del Departament de Ciències Socials i Polítiques, qui, en col·laboració amb el Centre d’Estudis Avançats de Blanes (CEAB-CSIC), lidera el projecte d’interacció humà-mosquit (H-MIP), que pretén entendre millor de què depèn el comportament dels mosquits i com això influeix en la dinàmica de les malalties transmeses per la picada d’aquests insectes.

App Mosquito alert

“Els mosquits no piquen homogèniament. Hi ha persones que són més susceptibles de patir picades que d’altres. Entendre els factors que propicien que en dos barris amb la mateixa densitat de mosquits i persones hi hagi diferència en el nombre de picades és molt rellevant a l’hora de pensar en polítiques de salut pública”, explica.

Amb aquesta finalitat, han desenvolupat un sistema de ciència ciutadana, MosquitoAlert, a través del qual els ciutadans envien imatges de mosquits i llocs de cria. Fins ara, entomòlegs voluntaris repartits per Catalunya i Europa identificaven l’espècie a la plataforma. Ara, amb les més de 6.600 fotografies que ja han analitzat, els investigadors han entrenat un sistema de xarxes neuronals, amb la idea que l’aplicació sigui capaç de fer sola la identificació.

El projecte TELMI desenvolupa un conjunt de tecnologies per tal de potenciar l’aprenentatge musical. Està liderat per Rafael Ramírez, del Grup de Tecnologies Musicals de la UPF

En el cas del projecte Liver Color, la catedràtica Gemma Piella, del BCN MedTech de la UPF, en col·laboració amb l’Hospital Vall d’Hebron, ha desenvolupat una plataforma basada en aprenentatge màquina per avaluar l’estat i la idoneïtat dels fetges candidats per fer un trasplantament.

“Hem entrenat un algoritme que és capaç d’avaluar la quantitat total de greix que té un fetge amb una precisió superior a la d’un cirurgià”, destaca Piella. Per entrenar-lo, han creat una base de dades amb imatges de fetges, resultats de les biòpsies i valoracions dels metges per contrastar. L’algoritme té, de moment, una eficàcia del 83% davant del 55% dels metges, que sovint descarten òrgans vàlids, per curar-se en salut.

App Livercolor intel·ligència artificial

“Fins ara, la base de dades només té un centenar d’imatges i dades de fetges procedents de l’Hospital Vall d’Hebron; però, ara, estem fent un estudi multicèntric amb cinc hospitals de tot Espanya i esperem poder tenir moltes més dades per entrenar un algoritme d’aprenentatge profund i augmentar-ne l’eficàcia”. La idea final és integrar el sistema en una aplicació mòbil, de manera que el cirurgià  faci una foto de l’òrgan que cal extreure amb una endoscòpia, sense necessitat d’obrir el cadàver per extreure’n el fetge, i que l’app li digui si és vàlid o no.

El projecte ‘Welcome’, finançat per la UE, investiga i desenvolupa eines d'IA per a la integració de migrants i refugiats a Europa. Està liderat pel professor d’investigació ICREA de la UPF, Leo Wanner

L'IA també pot optimitzar el funcionament dels sistemes de comunicació. Des del consorci FemIoT, en col·laboració amb l’Ajuntament de Barcelona, s’ha llançat un projecte, Connected Street, per mesurar la pol·lució ambiental al voltant de les superilles i avaluar quin impacte tenen a l’hora de reduir contaminació i soroll ambientals. Amb aquest objectiu, s’instal·laran sensors al carrer, petits dispositius que captaran els gasos a l’aire, i transmetran les dades.

“Que ho facin de manera freqüent comporta un consum d’energia alt i innecessari, perquè si la contaminació no varia, no cal enviar-ne informació”, assenyala Boris Bellalta, professor al capdavant del Grup de Recerca en Xarxes sense Fils al Departament de Tecnologies de la Informació i la Comunicació (DTIC) de la UPF. “Nosaltres hi apliquem IA perquè la xarxa s’adapti a les condicions de l’entorn i només enviï informació quan hi hagi un canvi significatiu”, afegeix aquest enginyer.

L’auge de la intel·ligència artificial (IA), una oportunitat per a les spin-off de la UPF

El progrés de la intel·ligència artificial està avivant la creativitat empresarial. La seva enorme versatilitat està afavorint l’eclosió de nombrosos projectes emprenedors que exploren maneres d’aplicar-la en àmbits molt diversos. En són un exemple algunes empreses spin-off de la UPF, sorgides per explotar coneixements i tecnologies generats a la Universitat. Es tracta de MedBioinformatics Solutions, Voctro Labs i BMAT. Aquestes són les seves propostes:

MedBioinformatics Solutions

MedBioinformatics Solutions

Web: medbioinformatics.com

A què es dedica: aquesta spin-off de l’IMIM i la UPF ofereix serveis de consultoria i un programa informàtic, anomenat DISGENET plus, sobre relacions entre gens i malalties per ajudar les empreses a elaborar nous productes i serveis.

Com fa servir la intel·ligència artificial: DISGENET plus conté una base de dades sobre malalties humanes i els gens que es troben alterats en cadascuna d’aquestes. La plataforma obté aquesta informació de la literatura científica que es publica a tot el món. La seva tecnologia, basada en eines de mineria de textos, és capaç de ‘llegir’ els articles científics per extreure’n de manera automàtica la informació sobre associacions entre gens i malalties. Aquesta informació es combina amb l’obtinguda d'altres bases de dades integrades en la plataforma. Això permet a DISGENET plus disposar d’informació actualitzada sense haver de recórrer a mètodes tradicionals i més costosos.

MedBioinformatics

Voctro Labs

Voctro Labs

Web: voctrolabs.com

A què es dedica: és una empresa de tecnologies d’àudio que desenvolupa veus artificials. Les ofereix, mitjançant la marca comercial Voiceful, a empreses de videojocs, música, realitat virtual, cinema o aplicacions mòbils perquè les integrin en els seus productes.

Com fa servir la intel·ligència artificial: la seva tecnologia utilitza algoritmes d’aprenentatge automàtic que, basant-se en els trets de veus reals, generen veus artificials. Una de les aplicacions que han desenvolupat és capaç de fer parlar els usuaris de videojocs amb les veus dels personatges. L’empresa també pot generar veus artificials parlades o cantades a partir de textos o partitures. Recentment ha llançat una aplicació, anomenada Cantamus, que serveix com a eina d’assaig per a cantants i directors de corals. Només cal pujar-hi una partitura i, automàticament, genera les veus de tot el cor per ajudar els usuaris a practicar.

Voiceful-(Voctro-Labs)

BMAT

BMAT

Web: bmat.com

A què es dedica: proporciona a la indústria audiovisual serveis de monitorització musical per contribuir a repartir els beneficis derivats dels drets d’autor entre els seus propietaris de manera justa, eficient i transparent.

Com fa servir la intel·ligència artificial: el seu producte més utilitzat és una plataforma que monitoritza de manera constant milers de canals de ràdio i televisió per generar informes sobre l’ús de les músiques que s’hi emeten. El sistema disposa d’una base de dades amb milions de cançons indexades que utilitza per identificar el contingut emès en els mitjans. Les seves tecnologies poden fins i tot identificar versions inèdites de cançons i també tenen la capacitat de determinar quin és el grau d’audibilitat de la música, un aspecte que s’ha de tenir en compte a l’hora de repartir els drets d’autor.

BMAT

Algunes ombres

Tot i que la intel·ligència artificial s’anirà fent cada cop més sofisticada i permetrà aplicacions més i més complexes, també comportarà desafiaments, tant tecnològics com ètics i de seguretat, abans que la puguem fer servir sense errors en hospitals, centres educatius, aeroports, sistema policial. Mireia Artigot, investigadora Ramón y Cajal de la Facultat de Dret de la UPF, és experta en l'estudi de l'impacte de l'IA en les interaccions entre consumidors i empreses al mercat, des d'un punt de vista jurídic i econòmic. Investiga què succeeix en l’àmbit digital quan, per exemple, contractem un servei o adquirim un producte.

“La política de privacitat és la gasolina de l'IA. Acceptem les condicions sense llegir-les, i això té efectes: et crea necessitats que no tens, et fa prendre decisions de compra que no prendries. En definitiva, et crea una vulnerabilitat com a consumidor en el mercat”, adverteix.

Uber app

Sovint, en navegar per la xarxa estem oferint dades a grans empreses que elaboren perfils sobre nosaltres com a usuaris, i que afecten tota la nostra seqüència al mercat digital. A través de les nostres petjades, poden saber què hem mirat, quin navegador fem servir, quin ordinador tenim, què comprem, què gastem al mes. “Tracen una radiografia acurada del teu nivell de renda, de si estàs disposat a pagar X per allò que ofereixen; i usen aquestes dades per oferir-te productes suposadament personalitzats. El problema és que com a consumidors no sabem d’on ve la informació que tenen, qui els l’ha proporcionada, en base a què i quines conseqüències té per a cada persona. És una caixa negra”, apunta Artigot. Empreses com Amazon, Apple, Skyscanner, Booking, Uber, ofereixen preus diferents als seus clients en base als seus perfils. “A més, un cop el sistema té les teves dades, no hi ha manera de desaparèixer”, alerta aquesta investigadora.

Les universitats no són alienes als desafiaments que suposa l’ús de big data i IA. Algunes, com la UPF, ofereixen formació al seu alumnat en la qual tracten aquestes qüestions.

En aquest sentit, les universitats no són alienes als desafiaments que suposa l’ús de big data i IA. Algunes, com la UPF, ofereixen formació al seu alumnat en la qual tracten aquestes qüestions. És el cas, per exemple, del nou grau en Enginyeria Matemàtica en Ciència de Dades, orientat, precisament, a formar els experts que hauran d’extreure’n i processar les dades que generem, contínuament, des del moment que engeguem el mòbil al matí fins que fem una compra amb la targeta de dèbit, amb l’objectiu que siguin capaços de generar serveis i aplicacions per contribuir al bé comú.

No és l’únic repte al qual, com a societat, haurem de fer front. Un dels punts més polèmics és la presa de decisions i l’autonomia de les màquines. “La presa de decisions que afecten l’ésser humà no les poden prendre les màquines. Poden oferir un diagnòstic, però sempre ha de ser l’humà qui valori què cal fer”, afegeix Torralba, per a qui “al cap i a la fi la màquina no té responsabilitat, que és un aspecte essencial en la presa de decisions”.

Per a aquest expert en IA, hi ha un altre aspecte que s’ha de resoldre i són els biaixos. Fa poc, Facebook demanava disculpes als seus usuaris després que es descobrís que la seva IA etiquetava les persones negres com a goril·les. “Potser seria interessant que hi hagués organismes de certificació de software d'IA independents, com passa amb la ITV dels vehicles”, suggereix López de Mántaras.

Ramon López de Mántaras

Al CSAIL del MIT, Torralba dirigeix la recent creada Facultat d’Intel·ligència Artificial i Presa de Decisions. Ofereix estudis de grau capdavanters al món en què els biaixos es tracten de manera transversal. “Donem als estudiants eines per detectar problemes i buscar-hi solucions”, explica, i posa com a exemple l’assignatura Aprenentatge Màquina, en què l’alumnat ha d’identificar els biaixos de gènere que té un sistema quan aprèn llenguatge a partir de textos escrits que contenen biaixos de gènere.

“En el fons, la màquina no deixa de ser un mirall del que som nosaltres, on veiem els nostres defectes. És també una oportunitat que ens ofereix”, considera Torralba. “Pot haver-hi biaixos dels quals no som conscients i ens pot servir per identificar-los i corregir-los en els processos de presa de decisions”, redobla.