Las tres empresas firman MOU en el evento Nvidia AI Day del 9 de noviembre; integran NPU nacional con GPU de Nvidia
Iniciativa dentro de la cooperación NV Link Fusion entre el ministerio de Ciencia y Tecnología y Nvidia
SK Telecom (SKT) y Rebellion se asocian con Nvidia para construir una infraestructura de inteligencia artificial soberana de estilo coreano. El plan es desarrollar un sistema de computación integrado que conecte unidades de procesamiento gráfico (GPU) y unidades de procesamiento de redes neuronales (NPU) para mejorar el rendimiento de la inferencia y reducir significativamente el consumo de energía.
El Ministerio de Ciencia y Tecnología anunció el 9 de noviembre que las tres empresas firmaron un memorándum de entendimiento (MOU) con este contenido durante el evento "Nvidia AI Day" celebrado en COEX, Seúl. Este acuerdo se promociona como parte de la iniciativa de vinculación de NPU nacional basada en la tecnología NV Link Fusion, que ha sido objeto de discusión entre el ministerio y Nvidia.
Las tres empresas construirán un sistema de computación de inteligencia artificial heterogéneo utilizando la tecnología NV Link Fusion de Nvidia. Planean conectar la NPU de próxima generación "R200" en desarrollo por Rebellion a través de NV Link Fusion de Nvidia y aplicar MGX (estándar de bastidor de servidor de Nvidia) para completar un sistema integrado de GPU y NPU a nivel de bastidor de servidor.
Con el centro de gravedad reciente de la industria de la inteligencia artificial desplazándose del desarrollo de modelos hacia la inferencia, la eficiencia energética y la reducción de costos en centros de datos de IA (AIDC) se han convertido en cuestiones críticas. En consecuencia, las tres empresas aplicarán el método de "inferencia dividida", en el que diferentes semiconductores se encargan de las etapas de prefill (análisis de preguntas) y decode (generación de respuestas) del proceso de inferencia.
La estrategia consiste en que la etapa de prefill, que requiere un gran volumen de cálculos, sea manejada por la GPU de alto rendimiento de Nvidia, mientras que la etapa de decode, que genera respuestas secuenciales, sea manejada por la NPU de Rebellion, maximizando así la velocidad de procesamiento computacional y la eficiencia energética.
Jung Suk-geun, director de tecnología (CTO) de SKT, explicó: "Tiene significado validar la viabilidad de una infraestructura de inteligencia artificial soberana de estilo coreano que combina las fortalezas de las GPU y NPU para mejorar el rendimiento de la inferencia y la eficiencia energética".
El Ministerio de Ciencia y Tecnología también tiene la intención de expandir el ecosistema de infraestructura en los sectores público y privado en línea con sus políticas de promoción de IA soberana y semiconductores de inteligencia artificial de fabricación nacional. Lee Do-gyou, director de la División de Política de Tecnología de la Información y Comunicaciones del Ministerio de Ciencia y Tecnología, enfatizó: "Continuaremos apoyando la creación de un ecosistema para que las empresas coreanas de NPU puedan desafiar y tener éxito en el mercado global".
* Este artículo ha sido traducido por IA.