HBM8 fournira jusqu'à 64 To/s de bande passante — Publication de la feuille de route mémoire jusqu'en 2038

Présentation détaillée du laboratoire sud-coréen KAIST et Tera Feuille de route de la mémoire HBM jusqu'en 2038, notamment HBM4, HBM5, HBM6, HBM7 et HBM8. Chaque norme offre des gains significatifs en termes de débit, de densité et d'efficacité énergétique pour les centres de données et les clusters d'IA.

HBM4, qui fera ses débuts en 2026, offrira jusqu'à Débit de 2 To/s par pilejusqu'à 48 Go par module, et sera déjà utilisé dans NVIDIA Rubin и AMD Instinct MI400La version HBM4e augmentera la vitesse à 10 Gbps et jusqu'à 64 Go par pile à 80 W.

Suivant suit HBM5, conçu pour 2029 : 4 To/s par pile, 80 Go de capacité et 100 W de puissance. La première à le recevoir sera l'architecture NVIDIA Feynman. Il est suivi de HBM6, ce qui doublera le débit à 8 To/s et augmentera la capacité à 120 Go par pile, en utilisant refroidissement par immersion et empile jusqu'à 20 cristaux.

HBM7 et HBM8, attendu pour 2034-2038, portera les caractéristiques à l’extrême. HBM7 offrira 24 To/s par pile, 192 Go de mémoire et jusqu'à 160 W de courant, et HBM8 atteindra 64 To/s et 240 Go par module, utilisant interposeurs double face et TSV coaxiaux.

Ont également été présentés HBF (Flash à large bande passante) — une pile NAND pour LLM pouvant fonctionner en tandem avec HBM7 pour fournir jusqu'à 1 To de mémoire supplémentaire par pile. Elle se connecte directement à HBM avec un débit de 2 To/s.

Le HBM8 utilisera un refroidissement intégré via un interposeur en verre, ouvrant la voie à des systèmes dotés de 5 à 6 To de mémoire par package. L'adoption de ces solutions débutera avec Rubin, MI400 et Feynman, avec un pic attendu au milieu des années 2030.