El uso de herramientas de inteligencia artificial (IA) en la toma de decisiones afecta a la garantía de los derechos fundamentales, con especial atención a la transparencia, el juicio justo, la no discriminación y la protección de datos, principios que deben guiar el diseño y la implementación de sistemas basados en esta tecnología.

En un futuro próximo, a medida que el uso de la IA vaya en aumento, la jurisprudencia relacionada con la toma de decisiones a través de sistemas de IA adquirirá una importancia creciente en los procedimientos judiciales y en las decisiones administrativas y de actores públicos y privados.

El proyecto "Justicia, Derechos Fundamentales e Inteligencia Artificial" (JuLIA: Justice, Fundamental Rights and Artificial Intelligence), en el marco del programa de Justicia de la Dirección General de Justicia de la Comisión Europea, analizará el impacto de la toma de decisiones automatizada sobre los derechos fundamentales y estudiará el marco normativo de la Unión Europea en el ámbito de la IA.

Mireia Artigot Golobardes: "Con JuLIA queremos proporcionar las herramientas analíticas para que jueces y abogados entiendan, con la ayuda de expertos en tecnologías de la información, los mecanismos que intervienen en el comportamiento algorítmico"

JuLIA, que se inicia este 1 de febrero de 2023 con un presupuesto total en torno a los 950.000 euros y una duración de tres años, será coordinado por la Universidad Pompeu Fabra e impulsado por un consorcio europeo formado por once instituciones de España, Italia, Francia, Países Bajos, Portugal y Polonia.

Mireia Artigot Golobardes, investigadora Ramón y Cajal del Departamento de Derecho de la UPF, es la investigadora principal del proyecto en la Universidad, al frente de un equipo de diez investigadores, expertos y expertas en mercados digitales y derecho del consumo, así como en distintas ramas del Derecho Civil, como el derecho de la salud.

“Con JuLIA queremos proporcionar las herramientas analíticas para que jueces y abogados entiendan, con la ayuda de expertos en tecnologías de la información, los mecanismos que intervienen en el comportamiento algorítmico y puedan evaluar sus implicaciones legales, preservar su independencia e imparcialidad, evitar prácticas discriminatorias y garantizar el cumplimiento de los derechos fundamentales”, explica Mireia Artigot Golobardes.

Un proyecto que proporcionará formación, orientación y colaboración

JuLIA ofrecerá a los miembros del poder judicial, jueces y abogados una visión general de la jurisprudencia de la Unión Europea y de sus estados miembros respecto a este ámbito, a fin de fomentar sus competencias y el diálogo judicial.

Los temas escogidos para las formaciones a estos colectivos pondrán énfasis en el respeto al estado de derecho en cuanto a la toma de decisiones judiciales mediante herramientas de IA, que se abordará en una dimensión europea (teniendo en cuenta tanto la jurisprudencia del TJUE como del TEDH) y sin dejar de lado la digitalización.

Asimismo, ofrecerá orientación a los operadores jurídicos con el objetivo de traducir el diseño y los mecanismos de sistemas de IA a categorías jurídicas para garantizar el respeto a los derechos fundamentales. Por otro lado, facilitará el mutuo aprendizaje y la colaboración entre jueces, profesionales del derecho y técnicos expertos en la materia.

Análisis de la toma de decisiones automatizada en diferentes contextos

JuLIA analizará el uso de la toma de decisiones automatizada como soporte a la toma de decisiones en los siguientes ámbitos:

-Judicial: la IA debe ser compatible con los derechos fundamentales.

-Administraciones públicas: conciliación con aspectos como la discrecionalidad administrativa, la transparencia y el principio de un procedimiento administrativo justo.

-Derecho de la salud: la utilización de herramientas de IA en el ámbito médico debe respetar los derechos fundamentales de los pacientes, como ser informado o consentir el tratamiento médico; también hace falta analizar el impacto de la IA en la responsabilidad por negligencia médica, entre otros aspectos.

-Plataformas digitales (concretamente de “e-commerce”) y protección de los consumidores: evitar que el comportamiento del algoritmo dé lugar a prácticas que pongan en peligro el funcionamiento del mercado donde se puedan vulnerar los derechos de los consumidores.

Un aspecto importante y transversal del proyecto, que se aplicará en todos los contextos analizados, serán las cuestiones que relacionen el uso de la IA con la protección de datos y la no discriminación

Un aspecto importante y transversal del proyecto, que se aplicará en todos los contextos analizados, serán las cuestiones que relacionen el uso de la IA con la protección de datos y la no discriminación. En este sentido, "las perspectivas de género e interseccionales se considerarán como medio para detectar discriminaciones y para evaluar los riesgos en el tratamiento para la persona interesada", asegura Mireia Artigot Golobardes.

Un consorcio formado por once instituciones, con el liderazgo de la UPF

Aparte de la Universidad Pompeu Fabra (centro coordinador), el consorcio estará formado por las universidades de Trento, Versalles, Groningen, Coimbra, el Instituto Polaco de Estudios Jurídicos de la Academia de Ciencias, la Escuela Italiana de Magistratura, la Escuela Nacional Holandesa de Magistratura, el Consejo General del Poder Judicial (CGPJ) y la Fundación LIBRe.

El equipo de investigación de la UPF, coordinado por Mireia Artigot Golobardes, lo integran los siguientes miembros del área del Derecho Civil: Fernando Gómez (catedrático), Sonia Ramos (profesora agregada), Carlos Gómez (profesor titular), Rosa Milà (investigadora Ramón y Cajal), Nicola Lucchi (investigador Serra Húnter), Pablo Salvador Coderch (profesor emérito), y los doctorandos Laura Herrerías, Roger Barat y Sébastien Fassiaux.

La IA, eje de otros dos proyectos de investigación en el Departamento de Derecho de la UPF

Aparte del proyecto europeo JuLIA, que ahora comienza, Mireia Artigot Golobardes es investigadora principal de otros dos proyectos de investigación también vinculados con la inteligencia artificial, y centrados en las plataformas digitales y los algoritmos. Están financiados por el Ministerio de Ciencia e Innovación de España, en el marco del Plan Estatal de Investigación Científica, Técnica y de Innovación 2021-2023.

El proyecto iConsumers (Protecting Consumers in Digital Platforms) se centra en los consumidores en las redes de transacciones digitales, y lo hará desde tres ángulos distintos: los consumidores propiamente como consumidores, los consumidores como productos y los consumidores como consumidores y productos, simultáneamente. El resultado de la investigación permitirá entender y diferenciar mejor las relaciones contractuales que se generan en el entorno de las plataformas de “e-commerce” y las obligaciones para con los consumidores para diseñar políticas para los mercados de datos compatibles con los derechos de los consumidores.

El proyecto AlgorithmLaw (Algorithmic Decisions and Law: Opening the Black Box) se enmarca en un contexto en el que los algoritmos se utilizan cada vez más en las relaciones verticales entre los organismos públicos y los individuos, pero también en las relaciones horizontales entre los particulares en transacciones privadas, como las generadas en plataformas digitales, concretamente de “e-commerce”. El proyecto realizará un mapeo de la disrupción algorítmica y abrirá la “caja negra” de las decisiones algorítmicas. Para ello, estudiará cómo mejorar la transparencia en este ámbito, para luchar contra resultados que pudieran ser sesgados y discriminatorios y que vulneren los derechos fundamentales de las personas.

iConsumers se enmarca en el Plan Estatal de Investigación Científica, Técnica y de Innovación 2021-2023, y AlgorithmLaw, en el plan Proyectos Estratégicos Orientados a la Transición Ecológica ya la Transición Digital 2021, ambos financiados por el Ministerio de Ciencia e Innovación .