En la era de la inferencia, solo HBM tiene limitaciones de capacidad
Apunta a eficiencia de costos con nueva capa basada en NAND
SK Hynix proyecta que la tecnología de Flash de Ancho de Banda Alto (HBF) presentada en "FMS 2026" permitirá, una vez comercializada, colocar un gran pool de memoria de lectura cerca del acelerador de inteligencia artificial (IA), lo que posibilitará procesar más consultas con la misma GPU y reducir el consumo de energía y el costo total de propiedad.
Según informó la industria de semiconductores el 6 de agosto, los expertos del sector evalúan la estrategia HBF de SK Hynix como un intento de resolver el cuello de botella en la infraestructura de inferencia de IA mediante la reorganización de las capas de memoria. Este enfoque va más allá de la competencia por mejorar el desempeño de HBM, ya que implica insertar una nueva capa entre HBM y SSD.
HBF es una memoria basada en NAND. Sin embargo, difiere de los SSD convencionales. La tecnología consiste en configurar NAND en un paquete apilado similar al HBM y fortalecer la estructura de lectura paralela para colocarse cerca del acelerador de IA. La especificación presentada por SK Hynix y SanDisk ofrecen capacidades de hasta 512 GB y ancho de banda de 0,4 a 3,0 TB/s.
Los expertos internacionales destacan especialmente la mejora en capacidad. HBM es rápido, pero su capacidad instalable es limitada y conlleva un costo considerable. En la inferencia de grandes modelos de lenguaje, el peso del modelo y la caché KV crecen continuamente. A medida que aumenta el número de usuarios, también aumentan los datos que deben almacenarse y recuperarse dentro de la misma GPU.
La publicación especializada Tom's Hardware evaluó HBF como una nueva capa de memoria para inferencia de IA. Destacó como ventaja la posibilidad de colocar un gran pool de memoria, difícil de proporcionar económicamente solo con HBM, cerca del procesador. Sin embargo, consideró que es difícil superar el HBM en términos de latencia.
Esta limitación determina el uso potencial de HBF, según los analistas. HBM se encargará de los datos que requieren acceso más rápido. HBF cumple un rol complementario al respaldar datos de lectura intensiva que requieren gran capacidad. La observación es que HBF se utilizará primero para inferencia antes que para entrenamiento de IA, por esta razón.
EE Times también consideró HBF como complementario en lugar de sustituto del HBM. Aunque la velocidad de escritura y durabilidad son menos favorables que el HBM, la estructura se adapta bien a tareas de inferencia centradas en lectura. La evaluación indica que al colocar el modelo de IA en HBF y utilizar HBM como una caché de alta velocidad, es posible reducir la barrera de memoria de una manera diferente.
Para SK Hynix también existen efectos de sinergia empresarial. La compañía es una potencia en HBM y también cuenta con operaciones en NAND. HBF es un producto que puede integrar ambas áreas en una única solución de infraestructura de IA. Esto significa que el espacio de memoria que la empresa ocupa dentro del sistema del cliente puede ampliarse comparado con vender solo HBM.
Kim Cheon-seong, jefe de división de SK Hynix, declaró en FMS 2026: "Con la rápida expansión del uso de IA, nos encontramos en un momento que requiere un rediseño integral de la estructura de procesamiento de datos en general". Esta es la razón por la cual HBF es reconocida como una tecnología que redefine los límites entre memoria y almacenamiento.
* Este artículo ha sido traducido por IA.