El sector financiero se pregunta cómo solucionar uno de los problemas más comunes en los algoritmos generativos que asisten a sus usuarios en el día a día.
Los robots de inteligencia artificial (IA) generativa cometen errores que muchas veces van más allá de simplemente proporcionar información falsa o sin ser de fuente confiable. Es decir, tienen una tendencia a “alucinar”, como lo llaman los especialistas.
“Los modelos no siempre garantizan veracidad de la información que proporcionan, esto son las llamadas alucinaciones, o sea respuestas erróneas, imprecisas o incluso completamente inventadas. Se deben a que los modelos son entrenados con grandes (muy grandes) volúmenes de información, y de allí aprenden patrones y asociaciones con esa información que puede aun ser insuficiente, obsoleta o inconsistente, y dado que no tienen ‘comprensión’, realmente no saben lo que están diciendo”, explica Pablo Velan, CTO y socio de N5.
En esta línea, el directivo detalla que ante preguntas ambiguas o sin contexto suficiente, la capacidad de interpolación y extrapolación de la AI para responder entra en juego y hará generalizaciones o suposiciones incorrectas. Esto puede no ser una preocupación para quienes usan las herramientas como mera diversión. Sin embargo, puede generar grandes problemas para las empresas, donde las decisiones precisas son cruciales. Así, una herramienta creada para ayudar y facilitar de diversas maneras se convierte en un modelo perjudicial.
Según los análisis de la startup Vectara, la tasa de alucinación de los Chatbots oscila entre un 3% hasta un 27%. Asimismo, Velan reflexiona sobre si existe una “cura” y señala que hay algoritmos que evitan este tipo de errores al no estar conectados a Internet, ya que son entrenados dentro de fuentes de información cerradas, por lo cual son capacitados solo con datos del banco o fintech en cuestión.
¿Es posible un producto a gran escala sin alucinaciones?
La IA Generativa llegó para quedarse en la vida diaria de las personas y las compañías, tanto que en el mundo fintech ya fue valorada en 1,12 billones de dólares en 2023: además, el rápido crecimiento de sus tasas sugiere que llegará a los 4,37 billones de dólares para 2027, según un reporte de Market.us. Es por esto por lo que el sector financiero se plantea cómo se puede sortear las alucinaciones de la IA en los productos.
“En N5, creamos ‘Fin Skys’ (Financial Self-Contained Artificial Intelligence), las primeras generaciones de IAs hiper verticales para el sector financiero, que responden de manera correcta aproximadamente el 99% de las veces. Para conseguir esto implementamos un modelo distribuido con múltiples IA alimentadas con datos de cada institución trabajando en conjunto, validando input, proceso y output de cada consulta que realice el usuario el cual garantiza que nuestra IA responde con información precisa, y propia, totalmente aislada de información de terceros”, detalla Velan.
Así, las soluciones conocidas como AIfred, Pep y Singular, pueden sortear esta dificultad que preocupaba al sector financiero, al tiempo que con sus capacidades diferenciadas pueden garantizar que todas las funcionalidades sean atendidas plenamente, desde responder dudas y consultas hasta vender productos, cobrar deudas, asesorar sobre inversiones o planificación fiscal de forma proactiva. Esto es posible porque priorizaron una base sólida, segura y confiable para que la IA demuestre todo lo que tiene para ofrecerle al sector financiero
Al poder integrarse en cualquier sistema core, CRM y/o BPM de la institución, estos algoritmos poseen independencia de datos para máxima seguridad, lo que reduce notablemente la cantidad de alucinaciones. Enfocadas en asistir a la industria financiera, las Fin Skys buscan solucionar los desafíos únicos de esta industria.
Como toda herramienta en plena evolución y crecimiento, la IA también tendrá que enfrentarse a diferentes barreras y malestares propios. Afortunadamente, los expertos tecnológicos están atentos a sus cambios y listos para dar respuesta a cualquier obstáculo que aparezca en el camino.
