Mike Sharples és professor emèrit de Tecnologia Educativa a l'Institut de Tecnologia Educativa de la Universitat Oberta del Regne Unit. És autor de més de 300 llibres i articles de les àrees de tecnologia educativa, educació científica, disseny de tecnologies personals centrades en l'ésser humà, la intel·ligència artificial i la ciència cognitiva. Entre els seus camps de recerca, també està la investigació sobre noves tecnologies i els entorns per a l'aprenentatge.

També és autor d’una sèrie d’informes titulada Pedagogia innovadora, i l’any passat va publicar el llibre Màquines d’històries: com els ordinadors s'han convertit en escriptors creatius, juntament amb Rafael Pérez, en què es basa el seu recent article “Automated Essay Writing: An AIED Opinion”.

En el marc del debat social creixent a l’entorn de les implicacions de la intel·ligència artificial, també en l’àmbit educatiu i universitari, Sharples va participar el passat dimarts 24 de gener en la sessió del cicle Recerca EDvolució, titulada “L’evolució del plagi i el rol de la intel·ligència artificial: temps de repensar l'avaluació”. Durant la sessió, celebrada a l’auditori del campus del Poblenou, va pronunciar la conferència “Passat, present i futur del plagi: implicacions per a l’avaluació”. Posteriorment, vam tenir l’oportunitat de conversar una estona amb ell.

El plagi sempre ha existit; però aplicacions d’intel·ligència artificial (IA) com el XatGPT  podrien ser un punt d’inflexió en aquest sentit?

Sí, el plagi ha estat un problema durant segles, tant el plagi acadèmic com el plagi estudiantil; però només s'ha posat de relleu durant les últimes setmanes, a partir de la nova tecnologia de la IA, en particular del XatGPT. Bàsicament, el que fa el XatGPT és democratitzar el frau.

Qualsevol estudiant podrà crear un assaig en uns minuts; tan sols li haurà de donar un títol i una introducció i llavors se’n generarà un automàticament. Això representa un gran desafiament i és molt pertorbador per a l'educació, però també representa grans oportunitats per donar suport a l'aprenentatge perquè és una eina potent en relació amb el llenguatge.

Així doncs, cal que els investigadors i els experts destinin més esforços a distingir els textos produïts per humans o per aplicacions d’intel·ligència artificial?

Una de les coses que ja hem determinat és que és gairebé impossible saber si un assaig ha estat escrit per un estudiant o per una màquina, perquè aquests sistemes d'intel·ligència artificial no copien fragments de text. El que fan és cercar milions i milions de paraules, bàsicament a Internet, i després generen un nou text amb l’estil dels estudiants o dels acadèmics. Són molt potents i creen un llenguatge molt plausible, que és únic.

Quan s’estigui desenvolupant una eina per distingir textos produïts per un humà i per una màquina, també es pot estar fent un nou desenvolupament d’intel·ligència artificial que faci més difícil la detecció d’aquesta diferència. Així doncs, no podrem saber si un text ha estat escrit per un estudiant o per una màquina. Crec que, com qualsevol nova tecnologia, genera problemes; però crec que també se n’han d’analitzar els aspectes positius.

Quins considera que poden ser els potencials positius de la intel·ligència artificial en l’àmbit educatiu?

Crec que n’hi ha molts. En primer lloc, la tecnologia pot fer-se càrrec d'alguns dels aspectes de nivell menor com l'ortografia o l'estil d'expressió, de manera que existeixi la possibilitat de centrar-se més en els aspectes de nivell superior com l'argumentació o garantir que tècnicament tot sigui correcte pel que fa a la recerca. Un gran problema d'aquests sistemes és que les màquines poden produir textos molt plausibles i molt seductors que semblen haver estat escrits per un acadèmic o un estudiant. Però, quan es miren de més a prop, hi ha errors; per exemple inventa referències, perquè és una màquina de llenguatge, no és una base de dades. Per tant, hi ha moltes possibilitats, i una de les possibilitats és que els estudiants realitzin certs esborranys utilitzant la intel·ligència artificial i aleshores fem que critiquin allò que no estigui bé, amb les seves pròpies paraules a partir dels esborranys que la intel·ligència artificial hagi produït.

Que grups d’estudiants escriguin dos o tres textos que els hagi encarregat el professor amb intel·ligència artificial i deixar que els estudiants el critiquin penso que pot ajudar els estudiants a focalitzar-se més en aspectes de major nivell i no tan sols en aspectes centrats en l’estil. Una altra cosa és que aquestes noves tecnologies, com el XatGPT, poden ser un company de conversa. Per tant, un estudiant pot rebotar idees i es pot fer servir, per exemple, per construir un argument. Se li dona un argument des d’una determinada perspectiva i això fa que el XatGPT te’n doni un amb un altre enfocament i mantens un diàleg amb ell. D’aquesta manera, volem que els estudiants siguin més bons en l’argumentació i millors a l’hora de mantenir converses, tot utilitzant la intel·ligència artificial com a company de diàleg.

 “Noves  tecnologies, com el XatGPT, poden ser un company de conversa (...) Se li dona un argument des d’una determinada perspectiva i això fa que el XatGPT te’n doni un altre amb un altre enfocament i mantens un diàleg amb ell. D’aquesta manera, volem que els estudiats siguin més bons en l’argumentació i millors a l’hora de mantenir converses, tot utilitzant la intel·ligència artificial com a company de diàleg”

Això implicarà que canviï el rol del professorat?

Crec que el paper del professor ha de canviar i no basar tant les avaluacions en textos escrits. Hem de decidir en quins aspectes els estudiants poden utilitzar els seus propis pensaments i exercitar la seva pròpia creativitat i com avaluar-los amb exàmens orals, i també valorar on permetem l’ús de la IA als estudiants, probablement per a la majoria dels textos escrits. Hem d'ajudar els estudiants amb la tecnologia, no contra la tecnologia.

Però la tecnologia evoluciona més ràpid que els sistemes educatius i probablement a curt termini pot causar alguns problemes en la dinàmica educativa a les aules. Què aconsella als professors perquè resolguin aquests problemes a curt termini?

Crec que serà molt disruptiu a curt termini; ja ho ha estat en les últimes setmanes. Si haguessis preguntat als estudiants si havien sentit parlar de GPT al desembre, la majoria d’ells no el coneixen i, si els ho demanes ara, gairebé tots ells saben què és, i només ha passat un mes. Les coses s’estan movent ràpidament. Els estudiants presentaran tasques utilitzant la IA i, immediatament, crec que els professors hauran de decidir si avaluaran de la mateixa manera o canviaran la seva avaluació i si encara donaran punts per l’ortografia, quan la IA també s'ocupa d'això. Crec que prohibir-ne l'ús als estudiants no és la resposta. Igual que ens vam adaptar molt ràpidament al coronavirus i a la pandèmia, crec que ara hem d'adaptar-nos molt ràpidament a la intel·ligència artificial i desenvolupar noves maneres d'avaluar.

“Crec que prohibir-ne l'ús als estudiants no és la resposta. Igual que ens vam adaptar molt ràpidament al coronavirus i a la pandèmia, crec que ara hem d'adaptar-nos molt ràpidament a la intel·ligència artificial i desenvolupar noves maneres d'avaluar”

L’Institut de Tecnologia Educativa de Londres, del qual forma part, ha abordat en alguns dels seus informes anuals com l’educació pot adaptar-se a l’era de la intel·ligència artificial. Per facilitar aquesta adaptació, que a més haurà de ser ràpida, què cal tenir en compte?

Crec que necessitem una nova alfabetització en IA, de la mateixa manera que ha calgut una alfabetització informàtica, sobre com detectar notícies falses, sobre com fer ús dels correctors ortogràfics... Crec que una alfabetització d'intel·ligència artificial ha de facilitar, en primer lloc, que es pugui aprendre a utilitzar els sistemes generatius d'intel·ligència artificial productivament, no utilitzar-los com a substitut del pensament, sinó per potenciar l’argumentació del pensament, per donar suport a l’aprenentatge dels estudiants. En segon lloc, hem de pensar més enllà, sobre la repercussió que tindrà la IA al món de la indústria i laboral.

Al món laboral, s'acceptarà que utilitzis aquestes eines d'intel·ligència artificial per generar informes d'empresa; per generar programes d'ordinador. Així que cal preparar els estudiants per fer servir aquestes eines perquè, més enllà de la universitat, estaran acceptades.

Durant el seminari a la UPF, hi ha hagut una pregunta d'estudiants sobre com els afectarà tot això, i ells volen aprendre; però també estan preocupats perquè no volen quedar-se enrere. Per tant, hem de poder treballar amb els estudiants una nova política que desenvolupi maneres productives de treballar amb aquestes tecnologies.

Pot ser problemàtic utilitzar la intel·ligència artificial per a tot?

Crec que sempre hem tingut dependència de les màquines. Sempre hem tingut tecnologies en educació, per exemple, l'escriptura era una tecnologia a l’antiga Grècia. Hi havia la preocupació que, si utilitzaves l'escriptura, llavors s’aturaria la capacitat de memorització; així que hem tingut milers d'anys de tecnologia i educació.

En la nostra època, ha sorgit el perill que la tecnologia pugui desapoderar les persones i desincentivar-les d’aprendre a calcular, perquè una calculadora de butxaca fa l'aritmètica per tu, o d’estudiar un idioma, perquè ja hi ha traductors automàtics. Aquest és un problema constant de l’educació i ens ha de servir per determinar com confiem en les màquines i com ensenyem els estudiants a ser autosuficients i autònoms. No crec que sigui fàcil.

Quan l’educació va aconseguir acomodar-se a les calculadores de butxaca, ja no esperava que els estudiants sempre fessin càlcul mental; però encara els ensenyem com fer una divisió i una multiplicació llargues. Crec que el mateix passarà amb els generadors d'idiomes. Hauríem d'ensenyar els estudiants com escriure bé, i seguir ensenyant-los a expressar i a construir un argument, a escriure clarament, a produir un estil diferent. Encara necessiten aprendre aquestes competències bàsiques; però també haurem de permetre'ls utilitzar la tecnologia.

En aquests moments, les aplicacions desenvolupades per la intel·ligència artificial ja estan tan desenvolupades que poden escriure com un humà o presenten limitacions?

Tenen límits, i el seu límit principal és que no tenen un model intern de com funciona el món. Són màquines lingüístiques, així que poden construir peces de text molt plausibles; però, de vegades, cometen errors realment estúpids, per exemple inventen estudis de recerca o produeixen referències acadèmiques falses, no perquè intentin enganyar, sinó perquè no són una base de dades i tampoc no estan actualitzades. Van ser entrenades el 2020 i el 2021, així que ja estan un any i mig desfasades i no tenen gaire coneixement contemporani. Els estudiants hauran d'entendre quines limitacions té la intel·ligència artificial i no poden acceptar res que produeixi literalment. Per tant, els estudiants han de ser els lectors més crítics i han d'aprendre a llegir i interpretar els resultats d'aquests sistemes d'intel·ligència artificial.

“Els estudiants hauran d'entendre quines limitacions té la intel·ligència artificial i no poden acceptar res del que produeixi literalment. Per tant, els estudiants han de ser els lectors més crítics i han d'aprendre a llegir i interpretar els resultats d'aquests sistemes d'intel·ligència artificial”

Existeix el risc que els textos produïts per la intel·ligència artificial estiguin esbiaixats en funció del tipus de dades que prenguin com a referència a la xarxa per produir-los?

Els primers sistemes GPT-2 i les primeres versions de GPT-3 tenien biaix perquè estaven entrenats a Internet, amb els textos que es troben a la xarxa, i Internet no és una enciclopèdia. La companyia ha intentat corregir-ho, intentant identificar exemples de biaix i després adaptar el sistema per superar aquests biaixos, però això és molt difícil. Suposo que has d'identificar tots els possibles biaixos: religiosos, ètics... Hi ha molts tipus diferents de biaixos i, com més potent sigui el sistema, més probable és que estigui esbiaixat, perquè haurà llegit més textos a Internet i no només haurà llegit unes quantes pàgines de la Viquipèdia. Haurà llegit blogs i tuits, etc., i molts d'ells estaran esbiaixats i contindran opinions...

Això pot suposar riscos en el camp del periodisme?

Sí, existeix el perill de biaixos i biaixos subtils. El biaix de gènere és bastant obvi; però hi ha baixos més subtils, per exemple el d’una visió del món orientada a Occident o cap a una nació; o biaixos culturals, que s'hi incorporen a causa de les llengües utilitzades... Per tant, si l'utilitzes per al periodisme, ho has de fer bé. Si tu, com a periodista, només confies que coneixes la tecnologia per fer la teva feina i no comproves els fets, no estaràs fent bon periodisme.

Quina part de la creativitat pot ser mecanitzada i quina part és essencialment humana?

Ara per ara, aquestes eines generatives de la IA són molt expertes amb el llenguatge, però no tenen cap model subjacent de com funciona el món. No tenen cap estructura de dades que representi aquest coneixement. Caldria així combinar la IA de la xarxa neuronal de dades amb la IA simbòlica més antiga, que representa explícitament com funciona el món; és a dir, creuar estructures de dades sobre el coneixement humà amb les màquines de llenguatge, però això és una gran tasca. Cal un canvi de fase per integrar la IA simbòlica i la IA de xarxa neuronal IA i estem en un estadi primerenc per poder fer-ho. Ni tan sols sabem què serà possible; així que és un moment molt emocionant.

Tenim moltes possibilitats en el futur amb la intel·ligència artificial i la creativitat, no només per escriure, sinó que també es pot aplicar a l’art, el vídeo, el discurs...

Encara que tot just ens trobem en la fase inicial del que pot representar la intel·ligència artificial, considera que les polítiques i lleis en l’àmbit educatiu, universitari... hauran de canviar en l’era de la IA?

Sí, per exemple, les lleis de drets d'autor de la UE exclouen les màquines d'intel·ligència artificial, ja que assumeixen que les obres creatives només són produïdes pels humans, però s’estan aconseguint obres que són produïdes per màquines.

Hi haurà un munt de pressions sobre les universitats, les escoles, les institucions, els mitjans... per adaptar-se i sempre és perillós, perquè pots cometre errors. Així que espero que les universitats canviïn eficaçment, treballant amb els estudiants per fer aquest canvi. No només ho hauran de fer les universitats, ja que les eines d'intel·ligència artificial poden tenir un gran impacte sobre el mercat laboral i hi ha algunes professions que desapareixeran en el futur. Crec que, com amb cada nova tecnologia, algunes professions desapareixeran i se’n crearan d’altres.

“Hi haurà un munt de pressions sobre les universitats, les escoles, les institucions, els mitjans... per adaptar-se i sempre és perillós, perquè pots cometre errors, així que espero que les universitats canviïn eficaçment, treballant amb els estudiants per fer aquest canvi”

Si es generen noves professions, també caldrà generar nous tipus d’estudis a les universitats?

El que espero és que hi hagi més estudis interdisciplinaris, perquè aquests són la intersecció de la neurociència, de la ciència de dades, de l'aprenentatge automàtic, de la intel·ligència artificial simbòlica, de les matemàtiques, del llenguatge natural... Per tant, si realment volem avançar, hem de tenir un enfocament interdisciplinari força radical.

 Jo treballava a la Universitat de Sussex, a l'Escola de Ciències de la Computació Cognitiva i, de punta a punta del passadís, tenies un matemàtic, un neurocientífic, un processador de llenguatge natural, un expert en intel·ligència artificial..., que parlaven plegats i era molt emocionant i enormement productiu. Crec que el camí a seguir, radicalment, és unir equips de diferents disciplines, i aquí, a la UPF, teniu una gran oportunitat per fer-ho.

“El camí a seguir és unir els equips radicalment interdisciplinaris, i aquí, a la UPF, teniu una gran oportunitat per fer-ho”

Els estudis humanístics tenen futur?

Sí, però crec que seran estudis humanístics que inclouran la intel·ligència de les màquines com a eines capaces de generar continguts creatius. Els músics moderns ja  utilitzen sintetitzadors tecnològics o unitats de reverberació com a part essencial de la teva creativitat.

Crec que hi haurà estudis humanístics en què caldrà buscar maneres en què la tecnologia es posi al servei de la humanitat i fer-ho amb molta cura, perquè hi ha grans perills. Com a humans, sempre ens hem adaptat al nostre entorn i també hem creat el nostre entorn, i ara estem creant un entorn informàtic i de màquines i ens hi estem adaptant. Així que haurem de fer que els humans aprenguin a ser creatius d’una altra manera, amb una creativitat que implicarà les noves màquines.

“Haurem de fer que els humans aprenguin a ser creatius d’una altra manera, amb una creativitat que implicarà les noves màquines”

Molt abans de l’actual debat sobre els riscos de la intel·ligència artificial en el camp educatiu, moltes altres tecnologies digitals i multimèdia ja s’havien introduït a les aules. De fet, vostè investiga sobre les aplicacions tecnològiques en el camp educatiu des dels anys setanta del segle XX. En termes generals, com creieu que la tecnologia ha repercutit positivament en l’educació durant les darreres dècades?

Crec que, en general, s’han seguit dues tendències paral·leles. D’una banda, està la tendència a través de la qual s’han intentat inventar noves màquines per a l’ensenyament, per exemple el Skinner (dispositiu mecànic per controlar els progressos dels estudiants a través de la programació), els tipus de màquines d’aprenentatge personalitzats, sistemes de tutoria intel·ligents... Aquesta és una tendència que continua per obtenir un major nombre de tecnologies per a l’ensenyament cada vegada més sofisticades, màquines d'ensenyament i màquines d'avaluació i eines per donar suport als professors. D’altra banda, està la tendència més subversiva, en què els estudiants han adoptat la tecnologia que els ajuda a aprendre sovint en confrontació o en oposició als sistemes d'educació tradicionals, ja siguin calculadores de butxaca o telèfons mòbils o sistemes de traducció automàtica. Aquest segon corrent es correspon amb el que està passant ara. Els nostres estudiants, de sobte, s'han tornat impulsors de la IA a les universitats, i aquestes han de reaccionar.

Però també podríem juntar aquests dues tendències, perquè, gràcies a la intel·ligència artificial, es poden tenir estudiants amb més poder, però alhora amb més eines per gaudir d’un millor aprenentatge.

Considera que alguna universitat està emprenent alguna bona pràctica interessant pel que fa a la integració de la intel·ligència artificial en l’ensenyament?

Crec que hi ha etapes amb cada nova tecnologia i semblen ser sempre les mateixes etapes: en primer lloc, ignorar-la i esperar que es deixi d’utilitzar; després, prohibir-la o almenys restringir el seu ús; i, finalment en una fase tardana, acomodar-s’hi i intentar desenvolupar una nova pedagogia al seu voltant. Això és tan nou que hem passat per aquestes etapes en qüestió de setmanes més que no pas de mesos o d’anys.  

Durant el darrer any, crec que la majoria d’universitats ho han ignorat, tot i que estava clar que els estudiants ja estaven començant a fer servir la tecnologia d’intel·ligència artificial. Ara, algunes universitats han començant a restringir-la i, en algunes, s’està experimentant; però tendeixen a ser més iniciatives de professors individuals que estan experimentat amb els seus estudiants escrivint papers de recerca o blogs amb aquesta tecnologia, però el que està clar és que avui en dia això és una qüestió de dos o tres acadèmics. No crec que hi hagi cap universitat que hagi aplicat canvis fonamentals a les seves polítiques per incorporar els sistemes d’intel·ligència artificial o per canviar els seus mètodes d’ensenyament per incorporar -la, perquè encara no s’ha escrit una política universitària sobre això. Això suposarà unes quantes setmanes o mesos, i això ha passat tant recentment.... Penso que passarà, i crec que hi haurà algunes universitats pioneres; però encara no ha passat.

“No crec que hi hagi cap universitat que hagi aplicat canvis fonamentals a les seves polítiques per incorporar els sistemes d’intel·ligència artificial o per canviar els seus mètodes d’ensenyament per incorporar-la (...) Penso que passarà, i crec que hi haurà algunes universitats pioneres”