Detectar algoritmos machistas, racistas o LGTBIfóbicos. Explicar cómo funciona la inteligencia artificial y aumentar la confianza en los modelos matemáticos. Esta es la revolucionaria idea de tres jóvenes españoles que han fundado EXPAI, la primera startup o empresa emergente de toda Europa especializada en combatir los peligros, la falta de transparencia y los retos de la inteligencia artificial. “El futuro ya está aquí y no estamos preparados”, afirman.

El equipo emprendedor está formado por cuatro socios: Javier Rando, estudiante de último curso del grado en Ingeniería Matemática en Ciencia de Datos (UPF); Pablo Vitoria, estudiante del último curso del grado en  International Business Economics (UPF); Daniel Hormigo y Carles Soler, profesores asociados de la Escuela de Ingeniería de la UPF.

Inteligencia artificial transparente al servicio de las empresas

La inteligencia artificial está siendo cada vez más utilizada, pero existen pocas técnicas para asegurar que se trata de una herramienta justa y segura. EXPAI ofrece a las empresas una solución que permite entender cómo funcionan sus modelos de inteligencia artificial sin necesidad de programar. Se trata de una herramienta visual que puede ser utilizada por cualquier persona dentro de una empresa sin importar sus conocimientos técnicos.

EXPAI permitirá que los algoritmos dejen de ser opacos y que cualquier persona sea capaz de entender cómo están tomando las decisiones

"Vimos la oportunidad de crear una solución que permita a las empresas evaluar y entender sus modelos de aprendizaje automático de una forma intuitiva y visual. EXPAI permitirá que los algoritmos dejen de ser opacos y que cualquier persona sea capaz de entender cómo están tomando las decisiones. Esta transparencia mejorará la adopción de la inteligencia artificial en las empresas porque facilita la comprensión del proceso y ayuda a tomar mejores decisiones", explica Rando, co-CEO y responsable de TIC en EXPAI.

Los algoritmos son “cajas negras”

Hoy en día, las empresas ponen en manos de la inteligencia artificial los procesos de contratación, la concesión de préstamos o la estrategia de ventas. El peligro de dejar estas decisiones a merced de los algoritmos es su falta de transparencia. “Se suele decir que los algoritmos son cajas negras: sabes lo que entra, sabes lo que sale, pero nunca sabes lo que pasa dentro. Desde EXPAI, hemos desarrollado una metodología para explicar lo que sucede en su interior y conocer detalladamente los motivos que han llevado al algoritmo a tomar cada una de sus decisiones”, señala Rando.

La metodología de EXPAI permite a las empresas y las administraciones verificar que sus modelos matemáticos funcionan correcta o incorrectamente e identificar errores o sesgos, pero también potencialidades para sacar el máximo partido a los algoritmos.

Una startup en proceso de validación de la idea de mercado

El equipo de emprendedores ha contado con el apoyo del Servicio de Emprendimiento de la UPF que les ha facilitado el acceso a los recursos para statups como 4YFN y del  Hacklab de la UPF. "En este momento, estamos en el proceso de validación de la idea de mercado, con unos resultados muy buenos, por lo que esperamos conseguir nuestros primeros clientes de manera inmediata. Gracias a la UPF estaremos en el 4YFN, lo que estamos convencidos que será una gran plataforma para darnos visibilidad", afirman los socios de EXPAI.

EXPAI

Contacto Javier Rando: +34 628 79 92 60

Correo electrónico: [email protected]

Página web: https://expai.io/

LinkedIn: www.linkedin.com/company/expai-io/

Explainable AI: https://expai.io/explainable-ai