L’ús d’eines d’intel·ligència artificial (IA) en la presa de decisions afecta la garantia dels drets fonamentals, amb especial atenció a la transparència, el judici just, la no discriminació i la protecció de dades, principis que han de guiar el disseny i la implementació de sistemes basats en aquesta tecnologia.

En un futur proper, a mesura que l’ús de la IA vagi en augment, la jurisprudència relacionada amb la presa de decisions a través de sistemes d’IA adquirirà una importància creixent en els procediments judicials i en les decisions administratives i d’actors públics i privats.

El projecte “Justícia, Drets Fonamentals i Intel·ligència Artificial” (JuLIA: Justice, Fundamental Rights and Artificial Intelligence), en el marc del programa de Justícia de la Direcció General de Justícia de la Comissió Europea, analitzarà l’impacte de la presa de decisions automatitzada sobre els drets fonamentals i estudiarà el marc normatiu de la Unió Europea en l’àmbit de la IA.

Mireia Artigot Golobardes: "Amb JuLIA volem proporcionar les eines analítiques perquè jutges i advocats entenguin, amb l’ajuda d’experts en tecnologies de la informació, els mecanismes que intervenen en el comportament algorítmic"

JuLIA, que s’ha iniciat aquest 1 de febrer de 2023 amb un pressupost total al voltant dels 950.000 euros i una durada de tres anys, serà coordinat per la Universitat Pompeu Fabra i impulsat per un consorci europeu format per onze institucions d’Espanya, Itàlia, França, Països Baixos, Portugal i Polònia.

Mireia Artigot Golobardes, investigadora Ramón y Cajal del Departament de Dret de la UPF, és la investigadora principal del projecte a la Universitat, al capdavant d’un equip de deu investigadors, experts i expertes en mercats digitals i dret del consum, així com en diferents branques del Dret Civil, com el dret de la salut.

“Amb JuLIA volem proporcionar les eines analítiques perquè jutges i advocats entenguin, amb l’ajuda d’experts en tecnologies de la informació, els mecanismes que intervenen en el comportament algorítmic i puguin avaluar-ne les implicacions legals, preservar la seva independència i imparcialitat, evitar pràctiques discriminatòries i garantir el compliment dels drets fonamentals”, explica Mireia Artigot Golobardes.

Un projecte que proporcionarà formació, orientació i col·laboració

JuLIA oferirà als membres del poder judicial, jutges i advocats una visió general de la jurisprudència de la Unió Europea i dels seus estats membres pel que fa a aquest àmbit, per tal de fomentar les serves competències i el diàleg judicial. 

Els temes escollits per a les formacions a aquests col·lectius posaran èmfasi en el respecte a l’estat de dret en la presa de decisions judicials mitjançant eines d’IA, que s’abordarà en una dimensió europea (tenint en compte tant la jurisprudència del TJUE com del TEDH) i sense deixar de banda la digitalització.

Així mateix, oferirà orientació als operadors jurídics amb l’objectiu de traduir el disseny i els mecanismes de sistemes IA en categories jurídiques per tal de garantir el respecte als drets fonamentals. D’altra banda, facilitarà l’aprenentatge mutu i la col·laboració entre jutges, professionals del dret i tècnics experts en la matèria.

Anàlisi de la presa de decisions automatitzada en diferents contextos

JuLIA analitzarà l’ús de la presa de decisions automatitzada com a suport a la presa de decisions en els àmbits següents:

-Judicial: la IA ha de ser compatible amb els drets fonamentals.

-Administracions públiques: conciliació amb aspectes com la discrecionalitat administrativa, la transparència i el principi d’un procediment administratiu just.

-Dret de la salut: la utilització d’eines de IA en l’àmbit mèdic cal que respecti els drets fonamentals dels pacients, com ara ser informat o consentir el tractament mèdic, i també cal analitzar l’impacte en la responsabilitat per negligència mèdica, entre d’altres.

-Plataformes digitals (concretament d’”e-commerce”) i protecció dels consumidors: evitar que el comportament de l’algoritme doni lloc a pràctiques que posin en perill el funcionament del mercat on es puguin vulnerar els drets dels consumidors.

Un aspecte important i transversal del projecte, que s’aplicarà en tots els contextos analitzats, seran les qüestions que relacionen l’ús de la IA amb la protecció de dades i la no discriminació

Un aspecte important i transversal del projecte, que s’aplicarà en tots els contextos analitzats, seran les qüestions que relacionen l’ús de la IA amb la protecció de dades i la no discriminació. En aquest sentit, “les perspectives de gènere i interseccionals es consideraran com a mitjà per detectar discriminacions i per avaluar els riscos en el tractament per a la persona interessada”, assegura Mireia Artigot Golobardes.

Un consorci format per onze institucions, amb el lideratge de la UPF

A banda de la Universitat Pompeu Fabra (centre coordinador), el consorci estarà format per les universitats de Trento, Versalles, Groningen, Coimbra, l’Institut Polonès d’Estudis Jurídics de l’Acadèmia de Ciències, l’Escola Italiana de Magistratura, l’Escola Nacional Holandesa de Magistratura, el Consejo General del Poder Judicial (CGPJ) i la Fundació LIBRe.

L’equip de recerca de la UPF, coordinat per Mireia Artigot Golobardes, l’integren els membres de l’àrea del Dret Civil següents: Fernando Gómez (catedràtic), Sonia Ramos (professora agregada), Carlos Gómez (professor titular), Rosa Milà (investigadora Ramón y Cajal), Nicola Lucchi (investigador Serra Húnter),  Pablo Salvador Coderch (professor emèrit), i els doctorands Laura Herrerías, Roger Barat i Sébastien Fassiaux.

La IA, eix d’altres dos projectes de recerca al Departament de Dret de la UPF

A banda del projecte europeu JuLIA, que ara comença, Mireia Artigot Golobardes és investigadora principal de dos altres projectes de recerca també vinculats amb la intel·ligència artificial, i centrats en les plataformes digitals i els algoritmes. 

El projecte iConsumers (Protecting Consumers in Digital Platforms) se centra en els consumidors en les xarxes de transaccions digitals, i ho fa des de tres angles diferents: els consumidors pròpiament com a consumidors, els consumidors com a productes i els consumidors com a consumidors i productes, simultàniament. El resultat de la recerca permetrà entendre i diferenciar millor les relacions contractuals que es generen en l’entorn de les plataformes d’”e-commerce” i les obligacions envers els consumidors per tal de dissenyar polítiques per als mercats de dades compatibles amb els drets dels consumidors.

El projecte AlgorithmLaw (Algorithmic Decisions and the Law: Opening the Black Box) s’emmarca en un context en què els algoritmes s'utilitzen cada cop més en les relacions verticals entre els organismes públics i els individus, però també en les relacions horitzontals entre els particulars en transaccions privades, com les generades en plataformes digitals, concretament d’”e-commerce”. El projecte farà un mapeig de la disrupció algorítmica i obrirà la “caixa negra” de les decisions algorítmiques. Per a això, estudiarà com es pot millorar la transparència en aquest àmbit, per lluitar contra resultats que poguessin ser esbiaixats i discriminatoris i que vulnerin els drets fonamentals de les persones.

iConsumers s'emmarca en el Plan Estatal de Investigación Científica, Técnica y de Innovación 2021-2023, i AlgorithmLaw, en els Proyectos Estratégicos Orientados a la Transición Ecológica y a la Transición Digital 2021, ambdós finançats pel Ministeri de Ciència i Innovació d’Espanya.