EXPAI ofrece una herramienta que permite entender el razonamiento de los modelos de IA. Creemos que la transparencia aporta valor a diferentes niveles dentro de las empresas. Los científicos de datos dispondrán de una herramienta que les permitirá acelerar y mejorar la evaluación de sus modelos de inteligencia artificial, detectar errores y mejorar la transferencia a usuarios con perfiles menos técnicos. Por otra parte, los líderes de negocio, una vez que EXPAI se integra en el proceso de desarrollo de IA en la empresa, serán capaces de entender más las decisiones que se adoptan en base a sus predicciones y aumentar los beneficios derivados de estas tecnologías. Finalmente, los usuarios finales, las personas que consumen las predicciones de la inteligencia artificial, por ejemplo, los comerciales, dispondrán de mucha más información a la hora de tomar sus decisiones. Esto permitirá, entre otras cosas, detectar errores en tiempo real, acelerar los procesos y generar confianza en esta tecnología.

EXPAI ofrece una herramienta que permite entender el razonamiento de los modelos de IA. Creemos que la transparencia aporta valor a diferentes niveles dentro de las empresas

Javier Rando, uno de los fundadores de la startup y alumni UPF, había trabajado previamente con el grupo de investigación de la Universidad especializado en detectar y mitigar los peligros de la inteligencia artificial. A este ámbito, se lo conoce como Algorithmic Fairness. Algunos de los escándalos más conocidos son el algoritmo de selección de personal que Amazon tuvo que retirar porque era machista o la herramienta que se utilizaba para ayudar a los jueces en EEUU para decidir si una persona debía permanecer en prisión preventiva y que discriminaba a las personas afroamericanas.

A todo ello, hay que sumar la experiencia del equipo fundador trabajando con inteligencia artificial en el ámbito empresarial y las limitaciones que se han encontrado. Un ejemplo que siempre contamos es la creación de un sistema de detección de clientes que abandonaban una compañía. Después de meses de desarrollo fue descartado por el equipo comercial porque no entendían sus predicciones.

Los peligros, desde nuestro punto de vista, son diversos. Por un lado, existe la posibilidad de que los algoritmos funcionen mejor para algunos grupos de nuestros datos. En caso de que estos grupos vengan determinados por características personales como la etnia o el género, es cuando hablamos de discriminación. Pero incluso cuando no trabajamos con personas, estas diferencias en el funcionamiento pueden llevar a grandes errores y decisiones subóptimas. Por otra parte, la opacidad de los modelos de IA puede generar reticencia a esta tecnología en los usuarios finales y en los clientes, que ponga en riesgo el desarrollo de la operativa de una compañía.

La opacidad de los modelos de IA puede generar reticencia a esta tecnología en los usuarios finales y en los clientes, que ponga en riesgo el desarrollo de la operativa de una compañía

Cuando un científico de datos crea un algoritmo (también conocido como modelo) puede elegir entre hacer uno muy sencillo (por ejemplo, una regresión o un árbol de decisión), hasta hacer uno extremadamente complejo como una red neuronal, dependiendo de la tarea que desea resolver. Estos modelos aprenderán a replicar un comportamiento en función de unos datos de entrenamiento. Pongamos un ejemplo: disponemos de todos los clientes que han abandonado y se han quedado en nuestra compañía en los últimos cinco años. Con esta información, podemos entrenar un algoritmo de inteligencia artificial que prediga qué clientes actuales tienen un mayor riesgo de darse de baja. En este proceso de entrenamiento, el algoritmo ajusta sus parámetros internos para aprender patrones en los datos sin que nadie le especifique qué debe hacer exactamente, es decir, sin indicarle reglas previas, simplemente utilizando los datos.

El científico de datos tendrá muchas maneras para medir si el modelo devuelve resultados adecuados o no; pero, al final, las operaciones que se realizan dentro del algoritmo acaban siendo tan complejas que una persona humana no puede comprender "los razonamientos" que se producen dentro del modelo y tan sólo podrá ver el resultado: se irá o no de la compañía. Nuestro objetivo es acompañar estas predicciones del razonamiento que ha seguido el modelo para generar confianza y acelerar la toma de decisiones.

Nuestro trabajo se centra en conseguir que los modelos sean transparentes creando un puente entre la academia y la industria. Elegimos las mejores técnicas de explicabilidad que se han desarrollado en el ámbito académico y hacemos una implementación que pueda ser consumida y entendida de una manera sencilla por la industria. Se trata de técnicas que son capaces de extraer el razonamiento del modelo a diferentes niveles para que podamos entender su funcionamiento a escala global y para cada una de sus predicciones.

En EXPAI no trabajamos directamente en la evaluación y detección de sesgos, sino que ofrecemos una serie de herramientas que pueden ser de utilidad para las empresas durante el desarrollo para detectar funcionamientos dispares entre grupos de datos.

La inteligencia artificial, como muchas tecnologías incipientes, genera ciertas preocupaciones entre la población en general. Un factor muy importante es la dificultad para entender cómo funciona e incluso para saber exactamente qué es y para qué sirve. De hecho, muchas personas, cuando piensan en inteligencia artificial, lo primero que les pasa por la cabeza es una película de ciencia ficción en la que un robot inteligente ha puesto en riesgo la humanidad.

Muchas personas, cuando piensan en inteligencia artificial, lo primero que les pasa por la cabeza es una película de ciencia ficción en la que un robot inteligente ha puesto en riesgo la humanidad. Pero la realidad es que nos encontramos lejos de eso

Pero la realidad es que aún nos encontramos lejos de este tipo de inteligencia y lo que mucha gente no sabe es que ya hay numerosos sistemas más sencillos que utilizan inteligencia artificial en el día a día con el objetivo de hacernos la vida un poco más sencilla.

En EXPAI somos optimistas y creemos que un uso responsable de la inteligencia artificial que asegure su transparencia puede tener un impacto muy positivo en nuestras vidas.

Tener gente que viene de diferentes campos de estudio lo único que hace es enriquecer cualquier empresa. Por un lado, tenemos el equipo técnico, que se encarga principalmente del desarrollo del producto y que está formado por nosotros, ambos graduados en Ingeniería Matemática en Ciencia de Datos. Y, por otro lado, tenemos a Carlos Soler, profesor asociado de la UPF, que se encarga de los asuntos operativos y comerciales de la empresa.

A pesar de ser un proyecto que nace al margen de la Universidad, desde el primer momento nos hemos sentido acompañados por un equipo humano maravilloso que trabaja para que la comunidad universitaria tenga más posibilidades de éxito en relación con nuestra actividad emprendedora. Poder formar parte de "En residencia en el Área Talleres" ha supuesto una gran ayuda. Para empezar, nos ha facilitado un espacio desde donde podemos conocer y estar en contacto con otras empresas que están en situaciones similares a la nuestra; nos ha cedido una sala para poderla hacer nuestra y poder tener un lugar físico donde encontrarnos y donde ir a trabajar, y nos ha dado un montón de recursos externos para poder salir adelante con EXPAI.

Participar en el 4YFN fue otra gran oportunidad que nos brindó la UPF. La presencia en un congreso de este nivel fue una gran ocasión para conocer el ecosistema y dar a conocer nuestra propuesta de valor. La respuesta fue realmente buena y conseguimos establecer contacto con empresas importantes.

Actualmente, ya tenemos el producto en el mercado y nos encontramos en el proceso de captación de los primeros clientes. EXPAI ha recibido una acogida positiva en el mercado. El relevante impacto de una campaña de comunicación en medios de comunicación y el galardón como finalista en la categoría de Investigación y Desarrollo de Inteligencia Artificial en la reciente edición del Advanced Factories ha facilitado que en este momento tengamos una decena de empresas que ya están testeando de manera gratuita el valor que les aporta el servicio ya operativo.

Mirar el futuro en el mundo de las startups es siempre incierto. Actualmente, nuestro objetivo es conseguir los primeros clientes que nos permitan aumentar el equipo para continuar mejorando nuestra solución de manera orgánica.

Efectivamente, emprender es un camino complicado. El equipo fundador hace más de un año que trabaja sin remuneración, pero con la convicción de que esto puede salir adelante. Además, algunos de nosotros seguimos estudiando y trabajando, lo que supone sacrificar también parte del tiempo libre. A todo ello, hay que sumar factores humanos como cambios en el equipo, problemas personales, etc.

La experiencia en global es muy positiva y por eso seguimos hoy aquí, con mucha ilusión de seguir aprendiendo y creciendo.