Detectar algoritmes masclistes, racistes o LGTBIfòbics. Explicar com funciona la intel·ligència artificial i augmentar la confiança en els models matemàtics. Aquesta és la revolucionària idea de tres joves espanyols que han fundat EXPAI, la primera startup o empresa emergent de tot Europa especialitzada en combatre els perills, la manca de transparència i els reptes de la intel·ligència artificial. "El futur ja és aquí i no estem preparats", afirmen.

L'equip emprenedor està format per quatre socis: Javier Rando, estudiant d'últim curs del grau en Enginyeria Matemàtica en Ciència de Dades (UPF); Pablo Vitoria, estudiant de l'últim curs del grau en International Business Economics (UPF); Daniel Hormigo i Carles Soler, professors associats de l'Escola d'Enginyeria de la UPF.

Intel·ligència artificial transparent al servei de les empreses

La intel·ligència artificial està sent cada vegada més utilitzada, però hi ha poques tècniques per assegurar que es tracta d'una eina justa i segura. EXPAI ofereix a les empreses una solució que permet entendre com funcionen els seus models d'intel·ligència artificial sense necessitat de programar. Es tracta d'una eina visual que pot ser emprada per qualsevol persona dins d'una empresa sense importar els seus coneixements tècnics.

EXPAI permetrà que els algoritmes deixin de ser opacs i que qualsevol persona sigui capaç d'entendre com estan prenent les decisions

"Vam veure l'oportunitat de crear una solució que permeti a les empreses avaluar i entendre els seus models d'aprenentatge automàtic d'una manera intuïtiva i visual. EXPAI permetrà que els algoritmes deixin de ser opacs i que qualsevol persona sigui capaç d'entendre com estan prenent les decisions . Aquesta transparència millorarà l'adopció de la intel·ligència artificial a les empreses perquè facilita la comprensió del procés i ajuda a prendre millors decisions ", explica Rando, co-CEO i responsable de TIC a EXPAI.

Els algoritmes són "caixes negres"

Avui en dia, les empreses posen en mans de la intel·ligència artificial els processos de contractació, la concessió de préstecs o l'estratègia de vendes. El perill de deixar aquestes decisions en mans dels algoritmes és la seva falta de transparència."Se sol dir que els algoritmes són caixes negres: saps el que entra, saps el que surt, però mai saps el que passa dins. Des EXPAI, hem desenvolupat una metodologia per explicar allò que succeeix en el seu interior i conèixer detalladament els motius que han portat a l'algoritme a prendre cadascuna de les seves decisions", assenyala Rando.

La metodologia de EXPAI permet a les empreses i les administracions verificar que els seus models matemàtics funcionen correctament o incorrectament i identificar errors o biaixos, però també potencialitats per treure el màxim partit als algoritmes.

Una startup en procés de validació de la idea de mercat

L'equip d'emprenedors ha comptat amb el suport del Servei d'Emprenedoria de la UPF que els ha facilitat l'accés als recursos per a statups com ara 4YFN,  i del Hacklab de la UPF. "En aquest moment, estem en el procés de validació de la idea de mercat, amb uns resultats molt bons, de manera que esperem aconseguir els nostres primers clients de manera immediata. Gràcies a la UPF estarem al 4YFN, i estem convençuts que serà una gran plataforma per donar-nos visibilitat", afirmen els socis d'EXPAI.

EXPAI

Contacte Javier Rando: +34 628 79 92 60

Correu electrònic: [email protected]

Pàgina web: https://expai.io/

LinkedIn: www.linkedin.com/company/expai-io/

Explainable AI: https: // expai.io/explainable-ai