NVIDIA prévoit d'accélérer les SSD à 100 millions d'IOPS pour les charges de travail d'IA
NVIDIA travaille avec des partenaires pour créer des SSD avec des performances allant jusqu'à 100 millions d'IOPSpour remédier au goulot d’étranglement des systèmes modernes de formation et d’inférence de l’IA. C'est ce qu'a annoncé le directeur de Silicon Motion, Wallace Kuo, dans une interview accordée à Tom's Hardware.
Les accélérateurs modernes tels que le NVIDIA B200 ont une bande passante mémoire HBM3E allant jusqu'à 8 To/s, qui est bien plus rapide et plus efficace en termes de latence que les SSD modernes. Même les SSD PCIe 5.0 x4 phares peuvent atteindre un maximum de 14,5 Go/s et 2 à 3 millions d'IOPS pour des lectures aléatoires de blocs de 4 Ko ou 512 octets. Cependant, les modèles d'IA utilisent des accès aux données fréquents et de faible ampleur, où une faible latence est plus importante que le débit.
Kioxia développe déjà un SSD basé sur XL-Flash capable d'atteindre 10 millions d'IOPS à 512 B d'opérations, et prévoit de commercialiser l'appareil au second semestre 2026, en synchronisation avec la plateforme NVIDIA Vera Rubin. Cependant, Atteindre la barre des 100 millions d'IOPS sur un seul SSD nécessite soit des supports de stockage entièrement nouveaux, soit des matrices de plusieurs disques.
Selon Kuo, l'alternative précédente sous la forme d'Intel Optane aurait été idéale, mais la technologie est fermée, et l'industrie devra désormais rechercher un nouveau type de mémoire non volatile. Parmi les candidats figurent la mémoire Flash à large bande passante de SanDisk, la XL-NAND de Kioxia et les solutions expérimentales de Micron. Cependant, Aucun d’entre eux n’offre encore l’équilibre souhaité entre vitesse, coût et consommation d’énergie.
