NVIDIA dévoile DGX Station, un supercalculateur de bureau pour les développeurs d'IA
entreprise NVIDIA annoncé Station DGXnouveau Superordinateur de bureau pour les développeurs d'IA, qui vous permettra de lancer Grands modèles de langage (LLM) localement. Cet appareil est plus puissant que DGX Spark (anciennement connu sous le nom de Projet CHIFFRES) et est destiné à scientifiques, chercheurs et data scientists.
La station DGX est alimentée par le GB300 Grace Blackwell Ultra Superpuce de bureau, y compris Processeur Grace à 72 cœurs и GPU Blackwell Ultra, connecté via NVLink-C2C с avec un débit de 900 Go/s. Cette puce prend en charge 496 Go de RAM LPDDR5X и 288 Go HBM3e GPU-mémoire, qui vous permet d'exécuter des modèles avec 200 milliards de paramètres.
Superchip Blackwell Ultra fournit Augmentation de 1,5x des FLOPS de l'IA par rapport à un Blackwell ordinaire, et Optimisation FP4 réduit la charge sur la mémoire. Intégré SSD NVMe 1 ou 4 To offre un accès rapide aux données et Adaptateur réseau NVIDIA ConnectX-7 SmartNIC soutient le Ethernet 10GbE.
Le système fonctionne sur Système d'exploitation NVIDIA DGX (modifié Ubuntu) et prend en charge Migration du LLM du développement sur site vers le cloud. La station DGX sera mise en vente à la fin du 2025 de l'année par l’intermédiaire de fabricants tiers.
Pour ceux qui recherchent une solution économique, RTX 5090 vous permet de courir modèles jusqu'à 30 milliards de paramètres, mais son prix dépasse 4000 XNUMX $. Même le RTX 4060 Ti 16 Gojustificatif LLM jusqu'à 14 milliards de paramètresvaleur environ 1000 $.
