KT celebra rueda de prensa el 27 de octubre en el edificio West de Gwanghwamun, Seúl
El servicio se lanzará el 30 de octubre; la empresa apunta primero al mercado B2B y luego se expandirá hacia consumidores individuales
KT presentó 'TokenFactory', una plataforma que permite utilizar más de 500 modelos de inteligencia artificial nacionales e internacionales desde un único lugar, además de gestionar el consumo y los costos asociados. La empresa de telecomunicaciones busca aprovechar la experiencia acumulada en conectividad, facturación y seguridad para enfrentar la demanda de transformación hacia inteligencia artificial (IA).
KT reveló el 27 de octubre en el edificio West de Gwanghwamun, distrito de Jongno en Seúl, la plataforma de IA 'KT TokenFactory', que ofrece en un único servicio la selección de modelos de IA, gestión de costos y funciones de confiabilidad y seguridad. El lanzamiento del servicio está programado para el 30 de octubre. Inicialmente, la plataforma se dirigirá a clientes empresariales que requieren utilizar múltiples modelos de IA con una gestión eficiente de costos, con planes de expandirse posteriormente hacia consumidores individuales.
Según KT, TokenFactory es una plataforma que centraliza la selección de modelos de IA, registro, consulta de uso, gestión de costos y procesamiento de pagos en un único lugar. Permite que las empresas seleccionen modelos según su propósito específico, calidad requerida, presupuesto y nivel de seguridad. La solución se enfoca en reducir la carga operativa que enfrentan las organizaciones cuando sus empleados deben implementar y gestionar múltiples modelos de forma independiente.
Las funcionalidades clave incluyen selección automática de modelos de IA y reducción de costos. El 'Auto Model Router' desarrollado internamente por KT selecciona el modelo más apropiado analizando integralmente el tipo de pregunta, grado de complejidad, calidad requerida y costo. La plataforma aplica modelos ligeros para tareas simples y modelos de alto rendimiento para análisis complejos. KT informó que esta tecnología alcanzó el primer lugar en el benchmark global 'RouterArena'.
La plataforma también incorpora tecnología de compresión de prompts que reduce los tokens utilizados en las consultas. Esta técnica refleja las características del idioma coreano y elimina expresiones repetitivas innecesarias, manteniendo el significado de la pregunta y la calidad de la respuesta mientras reduce el volumen de procesamiento. Según KT, esta funcionalidad puede lograr una reducción de hasta el 25% en el uso de tokens.
La seguridad de datos se garantiza mediante servicios de inferencia que utilizan infraestructura nacional. KT ofrece inferencia a través de sus centros de datos, utilizando modelos propios de IA y modelos de código abierto nacionales e internacionales, con el objetivo de mitigar las preocupaciones sobre soberanía de datos relacionadas con servicios de IA extranjeros.
La plataforma también implementa tecnología 'guardrail' que examina tanto las entradas como las salidas de IA. Verifica si las preguntas ingresadas por clientes contienen información personal, datos sensibles o expresiones dañinas, además de inspeccionar las respuestas generadas por el sistema de IA. KT planea expandir esta funcionalidad para permitir configuraciones más granulares de detección y niveles de bloqueo adaptados al entorno operativo y requisitos de seguridad específicos de cada cliente.
Para asegurar la disponibilidad de modelos, KT colabora con 'OpenRouter', una plataforma global de intermediación de modelos de IA. A través de esta alianza, la empresa ha asegurado acceso a más de 500 modelos de IA globales. Ambas compañías tienen planes de integrar modelos globales de OpenRouter con la infraestructura nacional de KT y modelos de IA soberana. KT también explorará canales para distribuir internacionalmente los modelos de IA que proporciona en el mercado nacional.
La empresa también ampliará su base de colaboradores. Planea fortalecer las asociaciones no solo con empresas especializadas internacionales como Oralce, Cast AI y Typeform, sino también con participantes del consorcio 'AI For All', incluyendo Upstage y Daum, para construir un ecosistema de socios sólido.
Park Sang-won, vicepresidente ejecutivo y jefe de la División de Negocios de Transformación de IA (AX) de KT, señaló: "El mercado de IA se está expandiendo rápidamente en torno a la competencia de quién pueda ofrecer a los usuarios herramientas para utilizar IA de manera más fácil y eficiente. KT utilizará TokenFactory, que expande las capacidades acumuladas en conectividad, facturación y protección del negocio de telecomunicaciones hacia servicios de IA, como base para apoyar la transformación digital de clientes hacia IA y convertirse en una plataforma central en este mercado".
* Este artículo ha sido traducido por IA.