"La solución para superar el límite de memoria es HBF"... Google también se fija en la próxima generación de memoria para IA

  • Surge HBF para superar los límites de DRAM... SK Hynix y SanDisk presentan estándar

  • Google DeepMind: "El mercado de chips de inferencia de IA crecerá 10 veces en 10 años"

Fotografía del vicepresidente de SK Hynix, Lim Ui-cheol, durante su intervención [Foto=SK Hynix]
Fotografía del vicepresidente de SK Hynix, Lim Ui-cheol, durante su intervención [Foto=SK Hynix]

La tecnología de memoria de alto ancho de banda flash (HBF) está emergiendo como una solución de próxima generación para resolver el cuello de botella de memoria (Memory Wall) que se dispara en la era de la inteligencia artificial. Particularmente, el interés de la industria crece tras el énfasis de Google DeepMind en considerar HBF como "la solución de memoria óptima para la era de la inferencia de IA".

Durante el Congreso Mundial de Memoria FMS 2026, el evento más importante sobre memoria que se celebró en California el 6 de agosto (hora local), SK Hynix, Google DeepMind y SanDisk realizaron un panel de discusión conjunta bajo el tema "Superando el límite de memoria con HBF".

Esto sucedió luego de que SK Hynix y SanDisk presentaran el primer estándar de HBF el 4 de agosto, en lo que representa una ocasión en la que empresas de servicios de IA y fabricantes de memoria discuten conjuntamente la dirección de la comercialización.

HBF es una nueva capa de memoria ubicada entre DRAM de ultravelocidad (HBM) y SSD de gran capacidad. Su característica distintiva es que implementa velocidades de transmisión de datos tan altas como el HBM mientras que permite expandir significativamente la capacidad basándose en tecnología de nand flash. No se trata de reemplazar el HBM, sino de combinarse junto a él para complementar la capacidad de memoria insuficiente.

La participación de Google DeepMind, que desarrolla y opera directamente modelos de IA, reviste una importancia especial. Al mencionar públicamente la necesidad de HBF una empresa de demanda real, en lugar de solo empresas proveedoras de tecnología de memoria, se ha reforzado la posibilidad de expansión futura del mercado.

Xiaowei Ma, investigador de Google DeepMind, diagnosticó que la industria de IA se está moviendo rápidamente desde un enfoque centrado en el entrenamiento (Training) hacia uno centrado en la inferencia (Inference). Proyectó que el tamaño del mercado de chips para inferencia de IA crecerá más de 10 veces entre 2024 y 2034, y señaló que la estructura de memoria existente por sí sola será insuficiente para soportar este crecimiento.

Explicó que, a medida que aumentan rápidamente los parámetros de los modelos de IA y se expande la IA multimodal que procesa imágenes, videos y audio, además de que el procesamiento de caché KV se dispara conforme las conversaciones se alargan, surge la necesidad de asegurar simultáneamente tanto capacidad de memoria como ancho de banda.

Ma señaló: "Anteriormente existía una relación de conflicto: si se aumentaba la capacidad de memoria, el ancho de banda disminuía, y si se elevaba el ancho de banda, aumentaban el costo y el consumo de energía". Agregó que "HBF es una nueva alternativa que permite garantizar simultáneamente un alto ancho de banda y una eficiencia energética superior en comparación con el almacenamiento existente".

SanDisk enfatizó la rentabilidad de HBF en sistemas de inferencia de IA. El vicepresidente Rajiv Nair señaló que aplicar HBF permite gestionar eficientemente el caché KV, lo que eleva la tasa de reconocimiento KV (KV Aware) del sistema más del doble, acortando en consecuencia el tiempo de generación de tokens y reduciendo el uso de GPU y los costos operativos. Añadió que, al basarse en nand flash, HBF posee características no volátiles que mantienen los datos incluso cuando se apaga la alimentación, permitiendo almacenar datos a largo plazo. En entornos con alto porcentaje de lectura como la inferencia de IA, también se pueden superar suficientemente los problemas de durabilidad de nand flash.

SK Hynix enfatizó que para la comercialización de HBF es necesario llevar a cabo innovaciones en todo el sistema, no solo en la memoria misma.

Lim Ui-cheol, vicepresidente de SK Hynix, declaró: "La nand flash tiene limitaciones estructurales de largo tiempo de latencia (Latency) y bajo rendimiento en escritura". Añadió que "es necesario un enfoque de codiseño (Co-design) que diseñe conjuntamente hardware y software, como prefetching, memoria de ventana móvil (Moving Window Memory) y arquitectura de memoria híbrida".

Continuó enfatizando: "Para utilizar adecuadamente HBF en sistemas de IA reales, es necesario que diversos actores del ecosistema, incluyendo empresas de diseño xPU, desarrolladores de LLM e ingenieros de software, trabajen juntos para establecer un estándar de alto nivel de completitud".

Antes de esto, SK Hynix y SanDisk lanzaron un consorcio de estandarización HBF en febrero, y tras seis meses presentaron el primer estándar oficial. Ese estándar se basa en apilamiento de nand de 8 y 16 capas, soportando una capacidad máxima de 512 gigabytes (GB), y especifica que el ancho de banda se divide en tres niveles, implementable desde 0,4 terabytes por segundo (TB/s) hasta 3,0 TB/s. Actualmente, el consorcio cuenta con la participación de SK Hynix, SanDisk, Google y Tensorcell, entre otros.




* Este artículo ha sido traducido por IA.