HBF: la memoria flash que podría darle TBs a las GPUs de IA

El estándar High Bandwidth Flash (HBF) acaba de ser presentado oficialmente por SanDisk y SK hynix, y promete resolver uno de los cuellos de botella más críticos en los sistemas de IA: la falta de memoria de alta capacidad cerca del procesador. En pocas palabras, HBF combina la velocidad de la memoria HBM con la capacidad masiva del almacenamiento NAND 3D, todo en un solo paquete.

¿Qué es HBF y por qué importa?

HBF (High Bandwidth Flash) es una especificación abierta, publicada a través del Open Compute Project (OCP), lo que significa que no es propiedad exclusiva de ninguna empresa. Cualquier fabricante puede adoptarla. La idea central es crear una nueva capa de memoria que esté entre el HBM (rápido pero caro y de baja capacidad) y el almacenamiento tradicional (barato pero lento).

Los puntos clave del estándar inicial:

• Capacidad: hasta 512 GB por paquete, usando stacks de 8 o 16 dies NAND especializados
• Ancho de banda: tres grados, desde ~0.4 TB/s hasta 3.0 TB/s
• Interfaz: UCIe (Universal Chiplet Interconnect Express), el mismo estándar que están adoptando Intel, AMD y otros
• No volatilidad: a diferencia del HBM, los datos no se pierden al apagar el sistema

Para comparar: un stack de HBM4 ofrece hasta 64 GB y 2 TB/s de ancho de banda. HBF puede dar 8 veces más capacidad y, en su versión más rápida, superar ese ancho de banda.

¿Para qué tipo de trabajo sirve HBF?

El caso de uso principal es la inferencia de inteligencia artificial. Cuando un modelo de lenguaje grande (LLM) como GPT-4 o Llama 3 está en producción respondiendo miles de solicitudes, necesita cargar enormes cantidades de parámetros en memoria. Con HBM solo hay 64 GB disponibles por stack; con HBF podrías tener 512 GB a una velocidad todavía muy competitiva.

Esto es especialmente relevante para:

• Centros de datos que corren modelos de IA de gran escala
• Sistemas de inferencia en tiempo real
• Cargas de trabajo donde la latencia importa menos que la capacidad total de memoria

HBF no reemplaza al HBM en términos de latencia; el flash sigue siendo más lento para accesos aleatorios. Pero para inferencia, donde los patrones de acceso son más predecibles, la diferencia puede ser aceptable.

¿Quién está detrás y quién lo va a adoptar?

Aquí está la parte más interesante —y también la más incierta. Desde que SanDisk y SK hynix anunciaron su colaboración en 2025, solo Google y Tenstorrent han mostrado interés formal en el consorcio HBF.

Notablemente ausentes: AMD, Broadcom, Intel, Nvidia, Marvell, Micron, Qualcomm, Samsung y Western Digital. Eso es prácticamente todo el ecosistema de semiconductores para IA. Sin el respaldo de Nvidia —que domina el mercado de GPUs para IA— el futuro de HBF como estándar masivo es una pregunta abierta.

Dicho esto, el hecho de que Google esté interesado no es menor. Si los TPUs de Google adoptan HBF, eso podría ser suficiente para crear un mercado propio.

¿Qué tan complejo es fabricar un paquete HBF?

Sacar 400 GB/s de ancho de banda de un solo paquete de 512 GB no es trivial. SanDisk planea usar 16 dies HBF con múltiples arreglos de lectura/escritura en paralelo, conectados mediante una interfaz UCIe corriendo a hasta 64 GT/s con 64 líneas. El die base que coordina todo esto será un chip bastante complejo.

Esto también significa que el costo de producción inicial será elevado, y que la tecnología tardará varios años en madurar y bajar de precio.

¿Qué significa HBF para el mercado tech en México?

En el corto plazo, HBF no va a llegar a las tiendas. Esta tecnología está diseñada para aceleradores de IA en centros de datos, no para laptops ni PCs de escritorio. Sin embargo, hay implicaciones indirectas que sí afectan al mercado mexicano:

1. GPUs de consumo: si HBF se adopta en aceleradores de IA, la presión por aumentar la VRAM en GPUs de consumo (como las RTX 5000 o RX 9000) podría disminuir. Los fabricantes podrían mantener 16-24 GB de GDDR7 en tarjetas de gama alta por más tiempo.
2. Precios de NAND: SK hynix es uno de los principales proveedores de memoria NAND y DRAM del mundo. Si desvía capacidad de producción hacia dies HBF especializados, podría haber efectos en el precio de SSDs y RAM convencional. Para un negocio en Culiacán o Sinaloa que compra componentes al mayoreo, vale la pena monitorear los precios de componentes en los próximos 12-18 meses.
3. Adopción empresarial: empresas mexicanas que consumen servicios de IA en la nube (Google Cloud, en particular) podrían beneficiarse indirectamente de infraestructura más eficiente.

Por ahora, si estás armando una estación de trabajo o un servidor local para IA en México, la recomendación sigue siendo clara: GPUs con VRAM alta (RTX 4090, RTX 5090 cuando lleguen) o sistemas con HBM como las opciones enterprise de AMD e Intel. HBF es tecnología del futuro —probablemente 2027-2028 para ver primeras implementaciones reales.

¿Cuándo veremos productos HBF en el mercado?

La especificación acaba de publicarse y aún no está disponible oficialmente en el OCP. Los pasos siguientes son:

• Publicación formal en el OCP
• Que más fabricantes se unan al consorcio
• Desarrollo de prototipos y muestras de ingeniería
• Producción piloto y validación

Esperamos ver los primeros sistemas con HBF no antes de 2027, y a precios accesibles para el mercado empresarial mexicano, probablemente hasta 2029-2030.

HBF es una apuesta técnicamente sólida para resolver el problema de memoria en IA, pero su éxito depende de que los grandes jugadores —especialmente Nvidia— decidan adoptarla. Por lo pronto, es una tecnología a seguir de cerca si trabajas en infraestructura de datos o simplemente te interesa saber hacia dónde va el hardware del futuro.

Vía Tom's Hardware