Caratteristiche
Le prestazioni, l'efficienza operativa e l'affidabilità dell'architettura sono state le principali considerazioni nel progettare la soluzione rack.
Elevata larghezza di banda HBM3e
La soluzione rack usa la tecnologia HBM3e per fornire larghezza di banda HBM3e totale da 20,7 TB nel dominio NVLink con 72 GPU. In questo modo, il sistema può elaborare modelli di intelligenza artificiale di grandi dimensioni e gestire enormi quantità di dati scientifici.
Elevata larghezza di banda di rete
La soluzione rack vanta connettività di rete ad alta velocità tramite adattatori DPU NVIDIA BlueField-3 o schede SuperNIC ConnectX-8. Questa architettura integrata offre potente larghezza di banda aggregata in tutto il rack, assicurando un flusso di dati senza interruzioni per carichi di lavoro di IA su larga scala.
Capacità di memoria di sistema di grandi dimensioni
Il sistema usa un'architettura di memoria unificata dotata di memoria LPDDR5X con supporto ECC (Error Correcting Code) direttamente integrata nel processore NVIDIA Grace, Fornendo fino a 17,3 TB di memoria di sistema per rack.
Funzionalità hot-swap ed elevata capacità di memorizzazione dati
Ogni vassoio di elaborazione supporta unità E1.S ad alta velocità, per la gestione temporanea dei dati in locale. Grazie alla funzione hot-swap è possibile aggiungere, rimuovere o sostituire unità SSD senza spegnere il vassoio di elaborazione.
Lightpath Diagnostics (LPD)
Lightpath Diagnostics (LPD) fornisce i LED per facilitare l'individuazione dei problemi. Per ulteriori informazioni su Lightpath Diagnostics (LPD), vedere Risoluzione dei problemi in base ai LED di sistema e al display di diagnostica.