無與倫比的端對端加速運算平台
NVIDIA HGX B300 整合 NVIDIA Blackwell Ultra GPU 與高速互連技術,將資料中心推向加速運算和生成式 AI 的新時代。作為頂尖的加速擴充平台,以 NVIDIA Blackwell 為基礎的 HGX 系統專為最嚴苛的生成式 AI、資料分析和 HPC 工作負載而設計。
HGX B300 提供新一代 AI 效能,在 Llama 3.1 405B 等模型上的推論效能比前一代 NVIDIA Hopper™ 提升高達 11 倍。它採用搭載自訂 Blackwell Tensor Core 技術的第二代 Transformer 引擎和 TensorRT™-LLM 最佳化技術,可加速大型語言模型的推論,同時透過 8 位元浮點 (FP8) 和新的精度,將訓練速度提升高達 4 倍。
第五代 NVLink 具備 1.8TB/s 的 GPU 對 GPU 互連、InfiniBand 網路和 NVIDIA Magnum IO™ 軟體,進一步強化了這項突破,確保企業和大規模 GPU 運算叢集的高效率擴充。