Revolución en la memoria para IA: Raja Koduri se une a SanDisk para impulsar la nueva tecnología HBF que promete hasta 4 TB de VRAM en tarjetas gráficas
La memoria flash de alto ancho de banda (HBF) apunta a redefinir el futuro del cómputo acelerado por IA en centros de datos y en el edge
La industria de la inteligencia artificial está a punto de dar un salto disruptivo en materia de memoria. SanDisk ha anunciado la incorporación de Raja Koduri, histórico arquitecto gráfico en Apple, AMD e Intel, a su Consejo Técnico Asesor para desarrollar High Bandwidth Flash (HBF™), una nueva arquitectura de memoria flash que podría permitir tarjetas gráficas con hasta 4 TB de VRAM, revolucionando el procesamiento de IA tanto en centros de datos como en dispositivos edge.
El anuncio, confirmado por la propia compañía y por Koduri en redes sociales, llega junto a la designación del legendario profesor David Patterson —co-creador del diseño RISC y premio Turing 2017— como presidente del consejo asesor.
Qué es HBF y por qué importa
HBF no es un reemplazo directo de la actual High Bandwidth Memory (HBM), sino un complemento pensado para escalar capacidad a bajo coste, manteniendo un ancho de banda competitivo. Según la nota oficial de SanDisk, HBF puede ofrecer entre 8 y 16 veces más capacidad que la HBM, sin disparar los costes energéticos o económicos.
Para lograrlo, HBF utiliza:
Memoria flash 3D NAND BiCS con unión directa CMOS to Array (CBA).
16 núcleos de memoria apilados mediante TSVs (through-silicon vias).
Un die lógico capaz de acceder a subarrays de flash en paralelo.
Configuraciones diseñadas para evitar deformaciones en obleas de gran altura.
¿Qué impacto tendrá en la IA?
Koduri lo resume así:
“El rendimiento de los modelos de IA depende de tres factores: capacidad de cálculo (FLOPs), capacidad de memoria (bytes) y ancho de banda (bytes/segundo). HBF mejora la capacidad de memoria en todos los frentes: por euro, por vatio y por milímetro cuadrado.”
Excited to partner with Sandisk.
When we began HBM development our focus was improving bandwidth/watt and bandwidth/mm^2 (both important constraints for mobile), while maintaining competitive capacity with the incumbent solutions. With HBF the focus is to increase memory…
Esta arquitectura está diseñada específicamente para cargas de inferencia, donde las GPUs procesan modelos previamente entrenados en tiempo real, como en chatbots, visión por ordenador o asistentes en el edge. Según David Patterson:
“HBF podría jugar un papel crucial en centros de datos para IA, al permitir cargas de inferencia a gran escala antes impensables, y además, podría reducir el coste de las nuevas aplicaciones de IA que hoy son inviables.”
HBF frente a HBM y otras soluciones
A continuación, una tabla comparativa entre las tecnologías de memoria más avanzadas para IA:
Tecnología
Capacidad máxima estimada
Ancho de banda
Consumo
Tipo de uso
Fabricantes clave
HBM3e
Hasta 128 GB por GPU
~1,2 TB/s
Alto
Entrenamiento de modelos grandes
SK hynix, Micron, Samsung
GDDR6X
Hasta 24–48 GB
~1 TB/s
Medio
Juegos, IA ligera
Micron, NVIDIA
HBF
Hasta 4 TB (y creciendo)
Alto (no revelado, pero competitivo)
Bajo a medio
Inferencia, edge, análisis a gran escala
SanDisk
¿Y qué hay del software?
Koduri también destacó que la arquitectura se desarrollará con estándares abiertos, lo que podría facilitar su adopción por parte de fabricantes de hardware, desarrolladores de aceleradores personalizados y startups de IA. HBF busca integrarse en una era en la que los modelos de IA no solo se entrenan en la nube, sino que también se despliegan en el edge: coches, móviles, fábricas inteligentes o incluso auriculares XR.
Próximos pasos
Aunque SanDisk no ha revelado aún una fecha exacta de lanzamiento para los primeros módulos HBF, el desarrollo cuenta con la infraestructura técnica de la propia compañía y de socios estratégicos en IA, y se espera que llegue primero al segmento profesional.
Para Raja Koduri, HBF marca el regreso a una visión centrada en cómo la arquitectura de memoria puede habilitar nuevos paradigmas de computación, tal como hizo con Polaris, Vega y Arc en su paso por AMD e Intel.
“HBF está listo para revolucionar la IA en el edge al equipar dispositivos con capacidades de memoria que antes sólo estaban en el centro de datos. Esto cambiará radicalmente dónde y cómo se realiza la inferencia de IA”, afirma Koduri.
Conclusión
La irrupción de High Bandwidth Flash representa una nueva frontera en el diseño de arquitecturas para inteligencia artificial. Si cumple lo que promete, puede cambiar el equilibrio entre coste, capacidad y rendimiento en tareas de inferencia, permitiendo que los modelos más avanzados se ejecuten más cerca del usuario final, desde un coche hasta un teléfono. En esta nueva era, Raja Koduri y David Patterson tienen un papel protagonista.
