Tecnología de bloqueo de errores de alucinación incluida
BankSalad ha desarrollado una tecnología para validar y controlar los errores que pueden surgir durante el proceso de transacciones financieras realizadas por agentes de inteligencia artificial (IA).
La empresa anunció el 15 de octubre que ha solicitado tres patentes relacionadas con tecnologías de control de la toma de decisiones y la ejecución de acciones de agentes de IA financiero.
Esta tecnología se enfoca en bloquear los riesgos potenciales que pueden surgir cuando un agente de IA utiliza servicios financieros en nombre de los consumidores.
Específicamente, para prevenir el fenómeno de "alucinación" —cuando la IA genera información que no se corresponde con la realidad—, la empresa desarrolló tecnologías en tres áreas: △determinación del objetivo de ejecución △validación de valores △control de ejecución.
En primer lugar, desarrolló una tecnología que analiza la situación crediticia durante el proceso de revisión preliminar de préstamos para identificar clientes que pueden obtener financiamiento con tasas de interés más bajas que las actuales. Este método funciona entrenando el modelo de predicción de IA con resultados reales de evaluación de crédito para mejorar la precisión de las decisiones.
También desarrolló una tecnología de validación para evitar errores cuando la IA analiza información de productos financieros y beneficios personalizados. Utiliza fórmulas de cálculo según regulaciones financieras, como la relación de deuda a ingresos (DSR) y la relación préstamo-valor (LTV), para validar cruzadamente los valores calculados por la IA.
La solución incluye una función que suspende la ejecución de transacciones financieras desfavorables para el cliente. El agente de IA verifica la precisión de la información ingresada y los valores antes de ejecutar el servicio financiero, y controla que la transacción no se realice si se detectan errores.
Un portavoz de BankSalad declaró: "BankSalad considera un principio fundamental que los agentes de IA financiero no solo proporcionen beneficios económicos a los clientes, sino que también validen y controlen los errores para garantizar que puedan utilizar el servicio de manera segura. A través de esto, continuaremos desarrollando servicios de IA financiero confiables en los que los clientes puedan confiar plenamente".
* Este artículo ha sido traducido por IA.