El campus del Poblenou acogió ayer la presentación del Centro de Estudios UPF en Inteligencia Natural y Artificial (CeSANI por sus siglas en inglés), con el que la Universidad quiere promover la investigación interdisciplinaria, la formación y la transferencia de conocimiento hacia la sociedad en este campo. Se trata de un centro de estudios pionero en Cataluña y el Estado español, que fomentará que la investigación en inteligencia artificial siga criterios éticos y sostenibles, para que contribuya a aportar soluciones a los retos actuales a que se enfrenta la humanidad.

El CeSANI (Centre for Studies UPF in Artificial and Natural Intelligence) tendrá como ámbito de estudio tanto la inteligencia artificial como la humana, por las interrelaciones mutuas entre estos dos campos de investigación. El nuevo centro está vinculado al Departamento de Tecnologías de la Información y las Comunicaciones (DTIC) de la UPF, reconocido como unidad de excelencia María de Maeztu, precisamente por la temática “Artificial And Natural Intelligence for ICT and beyond”, que engloba las líneas de investigación de muchos de sus grupos.

Vladimir Estivill: "El CeSANI ampliará el abanico de aportaciones en el estudio de la inteligencia natural y artificial y la interacción mutua de estudios de informática y neurociencia"

El director del DTIC de la UPF, Vladimir Estivill, resumió así los objetivos del nuevo centro de estudios: “Teniendo en cuenta la rapidez de los cambios y de la penetración social de aplicaciones con inteligencia artificial, directamente conectadas al estudio de la inteligencia natural, la UPF tiene que ofrecer un punto de encuentro de la investigación en este campo desde diferentes disciplinas. El CeSANI ampliará el abanico de aportaciones en el estudio de la inteligencia natural y artificial y la interacción mutua de estudios de informática y neurociencia”. Estivill presentó el acto de ayer, acompañado por vicerrectora de investigación, Cristina Pujadas.

Respecto a los motivos de la puesta en marcha del CeSANI, el coordinador del centro, Anders Jonsson, añadió: “hasta ahora, se ha hecho muy buena investigación a nivel individual a la UPF, pero ahora queremos dar un paso más, con más coordinación entre investigadores y también mejorando la visibilidad externa de la investigación”.

Inicialmente, el nuevo centro de estudios se pondrá en marcha con un equipo de 42 investigadores e investigadoras en IA, vinculados a cuatro departamentos diferentes de la UPF. Además de investigadores del DTIC, también forman parte de él miembros de grupos de investigación del Departamento de Traducción y Ciencias del Lenguaje, Medicina y Ciencias de la Vida y Economía y Empresa. 

Para poner en marcha el CeSANI, la UPF se ha inspirado en referentes europeos o internacionales, como los siguientes: Stanford University Human-Centered Artificial Intelligence (HAI), Leverhulme Centre for the Future of Intelligence de la Universidad de Cambridge o Hybrid Intelligence Center, en el que están involucradas varias universidades de los Países Bajos.

Las actividades del centro se dirigen especialmente a los investigadores y estudiantes de grado y posgrado, si bien sus actividades de divulgación y transferencia quieren llegar al conjunto de la comunidad universitaria y a la sociedad en su conjunto. El CeSANI quiere proporcionar a la sociedad en general información correcta y precisa para que use las herramientas con IA de forma ética y segura, así como fomentar que la investigación en este campo contribuyan a la consecución de los Objetivos de Desarrollo Sostenible (ODS) de la ONU y al Bienestar Planetario.

Moratoria en la investigación en IA, ¿sí o no?

Durante el mismo acto de presentación del centro de estudios, se celebró la mesa redonda titulada “Moratoria en la investigación en inteligencia artificial, ¿sí o no?”, en la que han participado Carlos Castillo, director del grupo de investigación Ciencia Web y Computación Social (WSSC) y profesor e investigador ICREA en el DTIC de la UPF; Emilia Gómez, investigadora sobre inteligencia artificial en el Joint Research Centre (JRC)  situado en Sevilla de la Comisión Europea y profesora asociada del DTIC; y Carles Sierra, director del Instituto de Investigación en Inteligencia Artificial (IIIA) del CSIC.

Durante su intervención, Emilia Gómez ha hecho referencia tanto a los riesgos como las oportunidades de la IA. En cuanto a las oportunidades, Gómez ha citado los beneficios sociales que la IA puede aportar en múltiples ámbitos, como por ejemplo la educación o la salud; sus habilidades cognitivas (por ejemplo, para escribir textos o elaborar productos audiovisuales); o las posibilidades que ofrece para incrementar la productividad, entre otras. En cuanto a los riesgos, se ha referido a la opacidad de los sistemas que usan las herramienta con IA, a la dificultad de garantizar la protección de los datos personales, al hecho que puedan provocar la atrofia o pérdida de ciertas habilidades cognitivas de los humanos o a la incertidumbre legal que está generando en diferentes ámbitos. Ante esta disyuntiva, Emilia Gómez ha concluido: “hay que evitar el pensamiento del blanco y negro y hacer un balance de los riesgos y oportunidades de las tecnologías de inteligencia artificial (...). Necesitamos tanta investigación para desarrollar la inteligencia artificial como para evaluarla, en cuanto a su impacto sociotécnico, económico o geopolítico”.

Por su parte, Carles Sierra se ha mostrado más partidario de promover la responsabilidad en la investigación en IA que de promover una moratoria: “Una moratoria no tendría ningún efecto, las compañías seguirían desarrollando la IA. Lo que hace falta es que ciertas líneas de investigación se desarrollen de forma más consciente”. Para Sierra, la reacción mediática frente a la reciente implosión de las herramientas abiertas de IA generativa ha tenido “una repercusión positiva”: la aceleración de la tramitación de la primera ley de la inteligencia artificial europea (AI Act). La normativa, que es previsto que se apruebe este año, regulará de forma diferenciada los usos de las herramientas IA según su nivel de riesgo para la sociedad (inaceptables, altos, limitados o mínimos), en cuanto a la seguridad, la salud o los derechos fundamentales.

Carlos Castillo ha alertado sobre el riesgo que las herramientas de IA se puedan usar para reproducir y automatizar sistemas discriminatorios ya existentes, como por ejemplo mecanismos de control de fronteras que afectan a las personas migradas o solicitantes de asilo; o para restringir los colectivos que pueden optar a determinados ayudas públicas para reducir el gasto de las administraciones. De todas maneras, ha insistido: “hay que regular los usos de las herramientas de inteligencia artificial no las herramientas en sí mismas, que se pueden usar con fines positivos o negativos”. En este sentido, ha valorado positivamente que la AI Act europea apueste para regular precisamente los usos de las herramientas de inteligencia artificial.

La UPF, universidad de referencia en el campo de la IA

La UPF cuenta con grupos de investigación de liderazgo mundial tanto en el campo de la IA como de la inteligencia natural, como el Machine Learning Group (AI&ML) y el Centre for Brain and Cognition (CBC), respectivamente. Ambos están adscritos al DTIC, que cuenta con otros muchos grupos de investigación que investigan las aplicaciones tecnológicas y de la IA diferentes áreas. También destacan por sus investigaciones relacionadas con la IA los grupos COLT (del Departamento de Traducción y Ciencias del Lenguaje), Investigación en Estadística e Investigación Operativa (Economía y Empresa), Functional Genomics, Computational Sciences, Dynamical Systems Biology Lab y Complex Systems Lab (Medicina y Ciencias de la Vida). El Consejo Europeo de Investigación (ERC) también ha premiado recientemente investigadores de la UPF por su investigación en este campo.

Además, la UPF es una de las universidades catalanas que participa de la nueva unidad en Barcelona de ELLIS (European Laboratory for Learning and Intelligent Systems), la red europea de excelencia en IA. También forma parte otros de las redes europeas más destacadas en este campo (TAILOR, HUMANE-AI i CLAIRE). Cuatro grupos de investigación de la UPF (AI&ML, IMVA, TALN i BCNMedTech) también se han integrado recientemente en la nueva red catalana de I+D+I IA. Finalmente, hay que destacar que la UPF empezará a impartir el próximo curso Erasmus Mundus Joint Master en Inteligencia Artificial (EMAI) con tres universidades europeas más.

Reconocimientos a 12 proyectos europeos del DTIC de la UPF

Precisamente, el acto de ayer finalizó con el reconocimiento de 12 proyectos europeos del DTIC de la UPF que utilizan tecnologías emergentes e IA, activados recientemente a raíz de la financiación obtenida en 2022 por parte de la UE. Se premiaron proyectos como Nemesis (neurociencia), O-Health (ecosistema escalable de modelos prevención de enfermedades no transmisibles), Max-R, EMIL (ambos de realidad extendida y aumentada), Lullabyte (música para mejorar la calidad del sueño), ReSilence (mejora de los entornos sonoros de las ciudades) y IoT  (Internet de las cosas). También se reconoció a la Unidat María de Maeztu del DTIC, al Erasmus Mundus en  IA y al proyecto “Retos y oportunidades de la IA en la creación y consumo de música” del Music Technology Group (MTG). Finalmente, se ha premiado a Piotr Przybyła, investigador visitante del DTIC de la UPF durante dos años especializado en procesamiento del lenguaje natural.