Más allá de modelos de IA: competencia en eficiencia…Las tres operadoras de telecomunicaciones avanzan en el 'mercado de tokens'

  • LG Uplus acomete el mercado B2B del próximo año con su 'receta de optimización de tokens'

  • KT presenta Token Factory y SKT apuesta por Token Gateway…comienza la competencia real

Estrategia de tokens de las tres operadoras de telecomunicaciones[Foto=Ajou Economy]
Estrategia de tokens de las tres operadoras de telecomunicaciones[Foto=Ajou Economy]
Las tres operadoras de telefonía móvil (SK Telecom, KT y LG Uplus) están enfocando su atención en los tokens, elemento clave en el cálculo de inteligencia artificial (IA). Las operadoras están reuniendo sus capacidades de conectividad y gestión, consolidadas en el sector de las telecomunicaciones, para asegurar nuevas fuentes de ingresos en la era de la IA.

LG Uplus realizó el 12 de este mes un estudio relacionado con la "receta de optimización de tokens de IA" y anunció su entrada en el negocio de tokens de IA el próximo año. LG Uplus abordará el mercado mediante alianzas con socios colaboradores e implementación de infraestructura propia durante 2027.

El token es la unidad básica de datos consumida en el proceso de hacer preguntas a un modelo de IA y obtener respuestas. Con la expansión del uso de IA, el aumento de modelos de inferencia y agentes de IA, el consumo de tokens se ha disparado, y las empresas ahora buscan la "eficiencia" para utilizar la IA de manera apropiada según sus objetivos comerciales.

Las operadoras de telecomunicaciones enfatizaron que pueden aplicar sus capacidades de infraestructura acumuladas en procesos de optimización empresarial al mercado de tokens de IA. Sang-yeop Lee, Director de Tecnología (CTO) de LG Uplus, declaró: "Las operadoras de telecomunicaciones han realizado trabajos de optimización en campos como frecuencias y tráfico", y agregó: "Esta experiencia también contribuirá al negocio de tokens".

El CTO señaló: "Hemos completado la validación de optimización de tokens en numerosos servicios reales, más allá de la eficiencia teórica", enfatizando que "podremos reducir el 'costo total' de los tokens".

En la etapa de "model routing", que conecta con el modelo de IA más adecuado, se logró reducir el costo de procesamiento de consultas generales en un 25% y el costo de agentes de codificación en más del 30%. En el área de codificación, donde el consumo de tokens es más severo, se redujo en un 90%. También se logró éxito en la reducción de peso de modelos de IA. El tamaño del modelo de IA on-device propio se redujo de 2,4 a 3 gigabytes (GB) existentes a 800 megabytes (MB), aproximadamente una tercera parte.

También presentó una estrategia de "Chip-Mix". Colabora con unidades de procesamiento gráfico (GPU) de Nvidia y AMD, así como con Furioxa AI, empresa nacional de semiconductores de IA, para validar dispositivos de procesamiento neuronal (NPU). El CTO señaló: "Tenemos previsto mejorar la eficiencia dividiendo y distribuyendo tareas que requieren muchos cálculos y tareas donde el ancho de banda es importante".

SK Telecom y KT también están lanzando plataformas de tokens para abordar el mercado. SKT está presentando un gateway de tokens. El núcleo de su estrategia es conectar de manera orgánica la telefonía (principal negocio de SKT), servicios de IA e infraestructura de IA para asegurar el liderazgo en la economía de tokens.

En particular, se enfoca en el papel de monitoreo que gestiona los patrones de uso de IA de los clientes y los conecta con el modelo de IA e infraestructura óptimos. Presentó también un plan de crear un motor de crecimiento unificado mediante la integración de múltiples capacidades, incluyendo 23 millones de clientes que pueden conectarse a través de demanda de IA y un sistema de pago seguro.

KT también presentó recientemente "Token Factory". Token Factory es un método que integra y proporciona modelos de IA nacionales e internacionales. Ofrece un enfoque donde el registro, confirmación de costos, gestión de costos y pago se procesan en un único lugar, proporcionando modelos según las necesidades del cliente.

KT aplicó su tecnología de model routing de IA desarrollada internamente, "Auto Model Router", para optimizar modelos y redujo la carga de costos y el tiempo de respuesta mediante tecnología de compresión de prompts. KT ha confirmado un efecto de ahorro de aproximadamente el 25% a través de este método. Desde su lanzamiento el mes pasado, está proporcionando aproximadamente 70 tipos de modelos de IA, con planes de expandirse a más de 500 modelos en el futuro.




* Este artículo ha sido traducido por IA.