Recursos
Desempenho, eficiência operacional e confiabilidade da malha foram as principais considerações no projeto da solução de rack.
Alta largura de banda HBM3e
A solução de rack utiliza a tecnologia HBM3e para entregar um total de 20,7 TB de HBM3e em um domínio NVLink com 72 GPUs. Isso permite que o sistema processe instantaneamente grandes modelos de IA e manipule dados científicos maciços.
Alta largura de banda de rede
A solução de rack oferece rede de alta velocidade por meio de adaptadores NVIDIA BlueField-3 DPU ou ConnectX-8 SuperNICs. Essa arquitetura integrada fornece enorme largura de banda agregada em todo o rack, garantindo um fluxo de dados contínuo para cargas de trabalho de IA em grande escala.
Grande capacidade de memória do sistema
O sistema adota uma arquitetura de memória unificada, com memória LPDDR5X e código de correção de erro (ECC) incorporados diretamente ao processador NVIDIA Grace. Isso oferece até 17,3 TB de memória do sistema por rack.
Capacidade de armazenamento de dados grande e recurso de hot-swap
Cada bandeja de computação aceita unidades SSD E1.S de alta velocidade, proporcionando armazenamento temporário de dados localizados. Com o recurso hot-swap, você pode incluir, remover ou substituir unidades de estado sólido sem desligar a bandeja de computação.
Sistema de diagnósticos Lightpath
O diagnóstico de Lightpath fornece LEDs para ajudar no diagnóstico de problemas. Para obter mais informações sobre o diagnóstico de Lightpath, consulte Solução de problemas pelos LEDs do sistema e exibição de diagnósticos.