Atrás ¿Cómo hacer un uso responsable de la IA en la investigación?: tema de un informe de The Guild

¿Cómo hacer un uso responsable de la IA en la investigación?: tema de un informe de The Guild

La asociación de universidades intensivas en investigación The Guild, de la cual es miembro la UPF, ha elaborado un informe sobre el tema, en el que también realiza una serie de recomendaciones y demandas a la UE para reforzar la estrategia europea para el desarrollo responsable y efectivo de la IA. El informe se ha publicado pocos días después de una jornada sobre los retos y oportunidades de la IA en las universidades, con la participación del investigador del Departamento de Ingeniería de la UPF, Vladimir Estivill.

25.11.2024

Imatge inicial - Foto de grupo de la jornada de The Guild sobre los retos y oportunidades de la IA en las universidades, celebrada en París, con la participación de Vladimir Estivill (Ingeniería UPF).

¿Cómo se puede hacer un uso responsable de la inteligencia artificial (IA) en el campo de la investigación para que contribuya al progreso científico? The Guild, la asociación de universidades intensivas en investigación de la que forma parte la UPF, acaba de publicar un informe que analiza este tema y hace recomendaciones a la UE sobre cómo reforzar su estrategia para el desarrollo responsable y efectivo de la IA.

En el informe “The use of artificial intelligence in research. Unlocking its full potential”, The Guild remarca que, pese a la comprensible preocupación por los riesgos de las herramientas de IA, no es necesario perder de vista su potencial para “fortalecer la productividad y la calidad de la investigación”. La IA puede resultar útil para un amplio abanico de tareas vinculadas a la investigación: revisión bibliográfica, formulación de hipótesis, análisis de datos, experimentos, divulgación científica, etc.

El documento recoge diferentes propuestas tanto para que la inteligencia artificial contribuya a reforzar la investigación en distintos campos de conocimiento como para fortalecer las investigaciones sobre el propio potencial de la IA para mejorar "la resiliencia y la competitividad" europeas. The Guild insiste en que la UE debería recuperar su posición de liderazgo en la investigación sobre IA y que gobiernos, universidades y financiadores privados deberían alinearse con una estrategia global con esta finalidad.

¿Cuáles son las demandas de The Guild a la UE para promover el uso responsable de la IA?

La asociación también expresa su voluntad de colaborar con la UE con esta finalidad, después de que las instituciones europeas hayan manifestado la importancia estratégica que conceden a este tema, con la reciente entrada en vigor de la primera regulación europea sobre IA (AI Act) o las Directrices Éticas para una IA fiable (UE, 2019). Coincidiendo con la reciente designación de la nueva comisaria europea responsable de las startups, la investigación y la innovación, Ekaterina Zaharieva, The Guild también lanza las siguientes demandas a la UE:

  1. Fortalecer la investigación en investigación sobre IA, con una mayor inversión económica. En general, se apuesta por fortalecer la financiación en Investigación + Innovación (I+I) y el ecosistema de I+I en su conjunto.
  2. Reforzar el uso de la IA en la investigación interdisciplinaria, no solo para fortalecer la base de la investigación de Europa en este ámbito, sino también para la comprensión de los usos de la IA y su impacto.
  3. Desarrollar y reforzar las habilidades para utilizar la IA en la investigación y fomentar el talento entre estudiantes e investigadores.
  4. Optimizar y mejorar las infraestructuras técnicas e informáticas y el volumen de datos disponibles para los investigadores.

¿Qué retos y oportunidades plantea la IA en las universidades europeas?

El informe de The Guild se ha hecho público este martes, 19 de noviembre, después de que The Guild organizara el pasado día 6 la jornada “AI in European universities: Opportunities and challenges, en colaboración con la Université Paris Sciences et Lettres (PSL) y la Université Paris Cité.

En esta jornada, celebrada en el campus PariSanté de la PSL, representantes de las diferentes universidades miembros de The Guild pudieron intercambiar opiniones sobre el tema con expertos y profesionales que trabajan en el campo de la IA, así como con responsables de las políticas públicas en este campo.

En una de las dos mesas de debate de las jornadas, se abordó cómo maximizar el potencial de la IA en el campo de la investigación y, específicamente, para facilitar las investigaciones interdisciplinares. Al igual que el informe de The Guild, los ponentes expresaron la necesidad de reforzar la infraestructura y la potencia de las tecnologías computacionales con las que cuentan los equipos de investigación.

Adaptar los currículums docentes a las nuevas necesidades profesionales

La otra mesa redonda se centró en el impacto de la IA en la docencia. A lo largo del debate, se enfatizó la necesidad de garantizar un acceso justo y equitativo a las herramientas de IA más punteras y se expresaron diversas inquietudes en cuanto al impacto de la IA en los contenidos docentes. Según varios expertos, existe el riesgo de que los itinerarios curriculares se queden obsoletos, frente a la rápida evolución de la IA, por lo que existen importantes diferencias entre lo que aprenden los estudiantes y las habilidades requeridas en el mundo laboral. En este sentido, se destacó la importancia de reimaginar los procesos formativos y promover una mayor colaboración entre universidades e industria.

En esta jornada, participó el investigador del Departamento de Ingeniería, Vladimir Estivill Castro, junto con otros expertos en el tema como Michela Milano, director de la Alma Mater Research Institute for Human-Centred AI de la Universidad de Bolonia; o Martin Compton, líder de IA, Innovación y Educación del King's College de Londres, entre otros. Estivill (UPF) es experto en IA y machine learning, y coautor del documento Living Guidelines on the responsible use of generative AI in research.

Durante la mesa redonda, Estivill reflexionó sobre la importancia de aprovechar las oportunidades de la IA y a la vez de prevenir sus posibles riesgos. Por eso, cuando algunas voces están considerando la incipiente legislación europea para regular la IA como freno al progreso científico, Estivill defendió la necesidad de regular sus usos. En este sentido, precisó: “Sólo hay que garantizar que el aparato que hace cumplir la legislación no sea burocrático y demasiado conservador”. También insistió en la importancia de sensibilizar y formar a los investigadores sobre las normas que regulan los usos de la IA para que hagan uso responsable y conforme a legalidad. autorizar las investigaciones con IA y, si es necesario en algunas ocasiones, aplicar fuertes sanciones si existen incumplimientos de la normativa. También ha citado algunos aspectos de la investigación en IA en los que es particularmente relevante aplicar éticos o legales, como la eliminación de sesgos, la transparencia, la robustez de la investigación, el enorme coste de algunos grandes modelos computacionales o una mejor comprensión de los procesos con los que genera resultados, en muchos casos considerados una caja negra. 

La última DeepTech Talk de Ingeniería UPF trató los retos éticos de la IA

Precisamente, el Departamento de Ingeniería de la UPF organizó el pasado viernes, 22 de noviembre, una jornada sobre ética e inteligencia artificial, centrada en la IA Act de la UE (2024). Esta jornada es una de las Deep Tech Talks que Ingeniería UPF está organizando por su 25 aniversario.