Krafton presenta 'Raon-1 Mini', su modelo de lenguaje de 30 mil millones de parámetros desarrollado internamente con mayor eficiencia de costos

  • Desarrollado completamente por Krafton desde el diseño hasta el entrenamiento...publicado como código abierto para uso comercial

  • Desempeño superior comparado con modelos equivalentes internacionales...fortalezas en conversación en coreano y capacidades de agentes de IA

  • Solo 4 mil millones de los 30 mil millones de parámetros totales están activos...aumenta la velocidad de respuesta y reduce costos de inferencia

Krafton presentó el 21 de octubre la versión preliminar de 'Raon-1 Mini', su modelo de lenguaje grande (LLM) de 30 mil millones de parámetros desarrollado internamente. Imagen de evaluación comparativa de Raon-1 Mini con modelos equivalentes internacionales. [Foto=Krafton]
Krafton presentó el 21 de octubre la versión preliminar de 'Raon-1 Mini', su modelo de lenguaje grande (LLM) de 30 mil millones de parámetros desarrollado internamente. Imagen de evaluación comparativa de Raon-1 Mini con modelos equivalentes internacionales. [Foto=Krafton]


Krafton ha presentado como código abierto un modelo de lenguaje grande (LLM) desarrollado internamente por su división de inteligencia artificial, ampliando así sus capacidades de desarrollo de modelos de IA propios. A partir de esta base, la empresa planea desarrollar modelos de IA de alta eficiencia que puedan ser utilizados en diversos sectores industriales.

Krafton presentó el 21 de octubre la versión preliminar de 'Raon-1 Mini', su modelo de lenguaje grande (LLM) con un tamaño de 30 mil millones (30B) de parámetros desarrollado internamente.

La versión preliminar de Raon-1 Mini es un LLM en el cual Krafton ejecutó el proceso completo, desde el diseño del modelo hasta el entrenamiento desde cero. Soporta tanto inglés como coreano.

Krafton diseñó su arquitectura de modelo propietaria combinando una estructura de mezcla de expertos (MoE) que activa solo los 4 mil millones (4B) de parámetros necesarios del total de 30 mil millones, junto con su tecnología de atención lineal desarrollada internamente. A través de esto, la empresa logra velocidades de respuesta rápidas y costos de inferencia bajos, consiguiendo simultáneamente alto desempeño y eficiencia de inferencia.

Krafton lanzó la marca de modelo de IA 'Raon' en abril de este año y ha publicado como código abierto cuatro modelos de IA: un modelo de lenguaje de voz, un modelo de conversación de voz en tiempo real, un modelo de conversión de texto a voz y un codificador de visión. Raon-1 Mini Preview es el modelo de lenguaje grande que servirá como base para los futuros modelos de IA que Krafton desarrollará. La empresa lo publicó en Hugging Face bajo la licencia Apache 2.0.

Con este desarrollo, Krafton ha adquirido la capacidad técnica para diseñar desempeño y eficiencia de inferencia según los requisitos de diversos campos de aplicación de IA.

Raon-1 Mini Preview logró un desempeño superior en comparación con modelos del mismo tamaño procedentes del extranjero. En algunos indicadores, se acercó a los principales modelos nacionales. En particular, destaca por sus sólidas capacidades de conversación natural en coreano, enfatizándose su capacidad de seguimiento de instrucciones precisas tales como formato específico y configuración de personajes. El seguimiento de instrucciones es una capacidad esencial para el uso de agentes que ejecuten tareas de múltiples pasos de forma autónoma.

Krafton señaló la eficiencia de costos como la ventaja competitiva de este LLM. Un representante de Krafton declaró: "A medida que la utilización de inteligencia artificial se expande por toda la industria, consideramos que no solo el desempeño, sino la relación rendimiento-costo en entornos de uso real es lo que determina la competitividad de un modelo. Por esta razón, desarrollamos el modelo considerando la utilidad práctica más que simples puntuaciones de evaluación comparativa".

Krafton planea actualizar continuamente Raon-1 Mini para mejorar su desempeño antes de presentar la versión oficial. En el lanzamiento de la versión oficial, también publicará un informe técnico detallado que describa el proceso de entrenamiento del modelo y su desempeño final.

Lee Kang-wook, CAIO de Krafton, señaló: "La presentación de Raon-1 Mini es el resultado de desarrollar independientemente un modelo de lenguaje competitivo a través de la experiencia acumulada en investigación y desarrollo de inteligencia artificial durante más de cinco años en Krafton. Como modelo de lenguaje con excelente relación calidad-precio, que mejora el desempeño a la vez que reduce la carga de costos, ampliaremos el alcance del uso de IA en diversos sectores industriales".

Krafton también está aplicando los resultados de su investigación propia en inteligencia artificial en sus videojuegos. En junio pasado, la empresa implementó en Battlegrounds 'PUBG Ally', un compañero de IA desarrollado conjuntamente con Nvidia, iniciando un servicio beta. Este sistema permite a los usuarios comunicarse por voz con personajes de IA mientras recopilan objetos y desarrollan estrategias conjuntamente.





* Este artículo ha sido traducido por IA.