Modelo de decisión que comprende texto e imágenes, proporcionando resultados estructurados mediante probabilidades, opciones y puntuaciones
Sin generación de texto, aumenta velocidad y eficiencia con una rapidez 43 veces superior a GPT-6
Kakao anunció el 6 de noviembre la presentación de su modelo multimodal de desarrollo propio 'Kanana-2-v-Decide' en la plataforma de código abierto global Hugging Face, diseñado para respaldar la toma de decisiones de inteligencia artificial.
El modelo de decisión se diferencia de los modelos de lenguaje grandes (LLM) convencionales, que responden a las preguntas de los usuarios con oraciones completas. Este modelo proporciona resultados de decisión en formatos estructurados como probabilidad (Noul), opción (Choice) y puntuación (Score). Al estar diseñado para que los resultados se utilicen inmediatamente, reduce la necesidad de extraer conclusiones adicionales de respuestas en lenguaje natural. Esta característica lo hace especialmente útil para agentes de inteligencia artificial que realizan múltiples tareas secuenciales según las solicitudes del usuario.
Kakao desarrolló este modelo basándose en 'Kanana-2-v-3b', su modelo de lenguaje multimodal de desarrollo propio. Comprende tanto texto como imágenes y proporciona resultados en tres formatos distintos: probabilidad, opción y puntuación. Esto permite su aplicación en diversos servicios que requieren decisiones, tales como clasificación de consultas de clientes (por ejemplo, determinar si un producto dañado debe ser reemplazado), selección de herramientas para agentes de IA y evaluación de imágenes de productos.
Kakao implementó una arquitectura basada en incrustación (embedding) que representa preguntas y opciones como 'vectores' (conjuntos de números) para comparar similitudes. Esta estructura permite una utilización flexible incluso cuando hay muchas categorías de clasificación. Además, los vectores de opciones idénticas se pueden almacenar y reutilizar, lo que reduce la carga computacional y los retrasos en la respuesta durante solicitudes repetidas.
El modelo registró un tiempo de respuesta promedio inferior a 0,04 segundos en base a una unidad de procesamiento gráfico (GPU) H200, alcanzando una velocidad 43 veces superior a la de GPT-6 Luna.
El modelo logró el mejor desempeño entre los modelos comparados tanto en el conjunto de datos de evaluación propio 'Kanana Decision Bench' como en el conjunto de datos de evaluación pública 'Decision Index'. Los modelos de comparación incluyen 'Decision-1' de Microsoft, 'Zeb' de TypeSafe AI, 'pplx-decider-v1.1-27B' de Perplexity y 'Solar Decide' de Upstage.
Kakao aplicó la licencia 'Kanana Open License' al modelo, que permite tanto usos de investigación como aplicaciones comerciales. Esto permite que investigadores y empresas nacionales e internacionales lo utilicen para desarrollar diversos servicios de agentes de IA.
Kakao planea aplicar el modelo en proyectos internos como búsqueda web y clasificación automática de categorías de productos, mejorando continuamente su desempeño en entornos de servicio real. La compañía tiene como objetivo futuro integrar búsqueda y toma de decisiones en un único modelo para avanzar tecnológicamente.
Choi Dong-jin, líder de resultados del modelo de IA aplicado de Kakao, declaró: "La presentación de este modelo es significativa ya que amplía la base para aplicar los últimos avances en tecnología de IA a servicios reales". Agregó: "Continuaremos proporcionando experiencias de IA que los usuarios puedan percibir en su vida cotidiana a través de la mejora tecnológica y la divulgación".
Por su parte, Kakao está ampliando el rango de aplicaciones de sus modelos de IA de desarrollo propio. Tras presentar como código abierto el modelo de lenguaje ligero 'Kanana Nano 2.1B' en febrero del año anterior, la empresa publicó cuatro modelos de lenguaje pequeños en julio de este año, seguidos de dos versiones del modelo 'Kanana-2-embedding', que analiza el significado de las preguntas de usuarios y documentos para buscar información relacionada. Con la adición de este modelo de decisión, Kakao está asegurando la tecnología de búsqueda de información y toma de decisiones necesarias para agentes de IA.
* Este artículo ha sido traducido por IA.