Un guardarraíl que evita accidentes con la IA

Pruebe a formular dos veces la misma pregunta a ChatGPT. Comprobará que las respuestas que devuelve no son exactamente las mismas, quizá ni siquiera se parezcan. Esa aleatoriedad se debe a que los modelos de inteligencia artificial (IA) son, por definición, no deterministas: operan sobre probabilidades, no sobre reglas fijas. Cuando esa impredecibilidad se traslada a un agente conversacional de una entidad bancaria que asesora a un cliente sobre inversión financiera, el escenario deja de ser anecdótico y se vuelve crítico. La start-up Alinia, fundada a finales de 2023 por Carlos Muñoz y Ariadna Font, modera el comportamiento de los asistentes de IA en función de las políticas y la regulación del sector de las empresas que los despliegan.

La nueva tecnología, cuenta Muñoz por videollamada, permite desarrollar asistentes virtuales que, por ejemplo, acompañen a un paciente en un proceso posoperatorio. En casos como este —o en el de la inversión financiera— las compañías deben asegurarse de que las recomendaciones del sistema se ajustan estrictamente a los marcos normativos. “Ese es el problema que atacamos”, sintetiza el emprendedor valenciano de 31 años.

Alinia evalúa en tiempo real la interacción entre un usuario y un agente de IA. Cuando detecta una situación de riesgo, la tecnología desarrollada por la start-up bloquea la entrada de la pregunta en el sistema o, como segunda barrera, el envío de la respuesta al usuario. Actúa, así, como un guardarraíl frente a los peligros que plantea la propia arquitectura de estos modelos, concebidos para generar una respuesta o ejecutar una acción por defecto, explica Muñoz.

Font, la otra cofundadora, nació en Barcelona hace 51 años. Tiene un doctorado en Ingeniería Computacional y una trayectoria profesional en empresas tecnológicas punteras: siete años en IBM desarrollando el programa Watson, la plataforma de IA de la compañía estadounidense, y otros tres en Twitter, en los que lideró un departamento para un uso ético de esta tecnología. Hasta que Elon Musk compró la compañía y “aquello se cerró de golpe”, relata en la misma conversación. Su salida de Twitter coincidió en el tiempo con la llegada de ChatGPT a las pantallas de los usuarios, a finales de 2022. “Por fin”, recuerda “la gente podía tocar y beneficiarse de la tecnología que hacía tiempo cultivábamos en el laboratorio”. Pero pensó: “Se van a estrellar porque la IA puede causar daños que no se esperan”. Ahí surgió su inquietud de encontrar el modo de “ayudar a las empresas a navegar este nuevo mundo; no solo diciéndoles lo que hacen mal, sino ayudándolos a hacerlo bien”.

Muñoz, abogado, trabajaba en cuestiones regulatorias relacionadas con la IA en Hugging Face, una compañía estadounidense que apuesta por el desarrollo en código abierto de los grandes modelos de lenguaje. Cuando se conocieron, siendo ambos ponentes en un MBA que imparte el Instituto de Inteligencia Artificial de Alicante, a los dos los rondaba en la cabeza la idea de emprender. La primera financiación, de 2,4 millones de dólares, llegó nada más empezar, a finales de 2023. En diciembre del año pasado cerraron la segunda por 7,5 millones de dólares. En total, 8,4 millones de euros.

La start-up cuenta hoy con 12 empleados y los cofundadores comparten que los clientes con los que trabajan son en un 70% europeos y el resto de Estados Unidos.