Supermicro基於NVIDIA GH200超級晶片的伺服器平台透過緊密整合的CPU和GPU提高了AI工作負載性能,並採用了最新的DPU網路和通訊技術
加州聖荷西2023年10月26日 /美通社/ — Supermicro, Inc.(納斯達克股票代碼:SMCI)為AI、雲端、儲存和 5G/邊緣領域的全方位 IT 解決方案製造商,近日發表了基於NVIDIA MGX參考架構的業界最廣泛GPU系統新產品組合之一,而這些系統搭載最新的NVIDIA GH200 Grace Hopper和NVIDIA Grace CPU超級晶片。新的模組化架構旨在標準化緊湊型1U和2U機箱內的AI基礎設施和加速運算,同時為當前和未來的GPU、DPU及CPU提供極高的靈活性和擴充性。Supermicro的先進液冷技術實現了高密度的硬體配置,例如搭載整合了高速連結技術的2個NVIDIA GH200 Grace Hopper超級晶片的1U 2節點配置。Supermicro每月可透過世界各地的製造廠交付數千個機櫃級AI伺服器,並確保隨插即用的相容性。
Supermicro總裁暨執行長梁見後表示:「Supermicro是推動現今AI革命的公認領導企業,並正透過助力資料中心轉型,以實現將AI用於處理多項工作負載的承諾。對我們來說,為正在快速發展的AI技術帶來高度模組化、可擴充性及通用性的系統至關重要。Supermicro基於NVIDIA MGX的解決方案不但證明我們的Building Block伺服器解決方案能使我們迅速將最新系統引進市場,在產業中也是具備極高工作負載最佳化性能的解決方案。透過與NVIDIA合作,我們正在協助加速合作企業產品上市時間,並助其在開發新AI應用程式的同時簡化部署作業及降低對環境的影響。這一系列新伺服器採用了針對AI最佳化的最新產業技術,包括NVIDIA GH200 Grace Hopper 超級晶片、BlueField和PCIe 5.0 EDSFF插槽。」
了解更多關於Supermicro基於NVIDIA MGX系統的產品:https://www.supermicro.com/mgx
註冊並觀看Supermicro MGX 研討會:https://www.brighttalk.com/webcast/17278/598459
NVIDIA超大規模和高速運算副總裁Ian Buck表示:「NVIDIA和Supermicro長期以來持續合作,共同打造了一些最高性能的人工智慧系統。NVIDIA MGX模組化參考設計搭配Supermicro在伺服器領域的專業,將創造搭載了我們的Grace和Grace Hopper超級晶片的新一代人工智慧系統,以造福全球的客戶和產業。」
Supermicro NVIDIA MGX 平台概覽
Supermicro的NVIDIA MGX平台旨在提供一系列應對未來AI技術需求的伺服器。這個新產品系列解決了AI伺服器所會面臨的獨特散熱、能耗和硬體挑戰。
新的Supermicro NVIDIA MGX伺服器產品線包括:
- ARS-111GL-NHR – 1個NVIDIA GH200 Grace Hopper超級晶片,氣冷
- ARS-111GL-NHR-LCC – 1個NVIDIA GH200 Grace Hopper 超級晶片,液冷
- ARS-111GL-DHNR-LCC – 2個NVIDIA GH200 Grace Hopper 超級晶片,2個節點,液冷
- ARS-121L-DNR – 2個節點各有2個NVIDIA Grace CPU 超級晶片,共288個核心
- ARS-221GL-NR – 2U機箱中配置1個NVIDIA Grace CPU 超級晶片
- SYS-221GE-NR – 搭載雙路第四代Intel Xeon 可擴充處理器,以及最多4個NVIDIA H100 Tensor Core或4個NVIDIA PCle GPU
每個MGX平台都可透過NVIDIA BlueField®-3 DPU 及/或 NVIDIA ConnectX®-7互連實現高效能InfiniBand或乙太網路傳輸。
硬體規格
Supermicro的1U NVIDIA MGX 系統最多可配備2個NVIDIA GH200 Grace Hopper 超級晶片,包含2個NVIDIA H100 GPU和2個NVIDIA Grace CPU。每個系統為CPU提供480GB LPDDR5X記憶容量,以及為GPU提供96GB的HBM3或144GB的HBM3e記憶容量。記憶體一致,高頻寬、低延遲的NVIDIA-C2C互連技術可實現以每秒900GB的速度將CPU、GPU和記憶體進行連結,是PCIe 5.0的7倍。該系統的模組化架構提供多個PCIe 5.0 x16 FHFL插槽,以容納用於雲端和資料管理的DPU,同時支援額外的GPU、網路和儲存擴充。
具備2個NVIDIA GH200 Grace Hopper 超級晶片的1U 2節點設計及Supermicro成熟的Direct-to-Chip液冷解決方案可以降低營運支出(OPEX)超過40%,同時提高運算密度,簡化大型語言模型(LLM)叢集和高速運算應用的機櫃級部署。
2U機箱設計的Supermicro NVIDIA MGX平台支援NVIDIA Grace和x86架構的CPU,並可配置最多4個全尺寸資料中心GPU,如NVIDIA H100 PCIe、H100 NVL或L40S。該平台也提供三個用於I/O連接的額外PCIe 5.0 x16插槽,以及八個可熱插拔的EDSFF儲存裝置插槽。
Supermicro提供了NVIDIA網路,能保護並加速其MGX平台上的人工智慧運行作業。這包括NVIDIA BlueField-3 DPU,它能提供2倍的200Gb/s連接速度以加速用戶到雲端和資料儲存的存取——與ConnectX-7適配器,是能於GPU伺服器之間提供最高400Gb/s的InfiniBand或乙太網路連接速度的組合。
開發人員可以迅速運用這些新系統與NVIDIA軟體服務來處理各種不同產業的工作負載。該軟體服務包含NVIDIA AI Enterprise這是一款企業級軟體,能夠驅動NVIDIA AI平台並簡化生成式人工智慧、電腦視覺、語音人工智慧等生產就緒應用的開發和部署。此外,NVIDIA HPC軟體開發套件提供了推動科學運算進步所需的基本工具。
Supermicro NVIDIA MGX系統的各方面都旨在提高效率,包含從智慧散熱設計到零件選擇。NVIDIA Grace 超級晶片CPU擁有144個核心,相較於現今產業標準的x86 CPU,其每瓦效能提高了2倍。特定的Supermicro NVIDIA MGX系統可在1U機箱中配置2個節點,能夠搭載最多包括共288個核心的2組Grace CPU超級晶片,能在超大規模及邊緣資料中心提供突破性的運算密度和能源效率。
了解更多訊息,請參考Supermicro NVIDIA MGX Systems網頁:https://www.supermicro.com/mgx
關於Super Micro Computer, Inc.
Supermicro(納斯達克股票代碼:SMCI)為應用最佳化全方位 IT 解決方案的全球領導者。Supermicro 的成立據點及營運中心位於美國加州聖荷西,致力為企業、雲端、AI和 5G 電信/邊緣 IT 基礎架構提供領先市場的創新技術。我們是全方位 IT 解決方案製造商,提供伺服器、AI、儲存、物聯網、交換器系統、軟體及支援服務。Supermicro的主機板、電源和機箱設計專業進一步動了我們的發展與產品生產,為全球客戶實現了從雲端到邊緣的下一代創新。我們的產品皆由企業內部團隊設計及製造(在美國、亞洲及荷蘭),透過全球化營運提供規模生產及展現絕佳效率,透過最佳化設計,不但降低總體擁有成本(TCO),還能透過先進的綠色運算技術來減少對環境的衝擊。屢獲殊榮的 Server Building Block Solutions® 產品組合,讓客戶可以自由選擇這些具高度彈性、可重複使用且極為多元的建構式組合系統,我們支援各種外形尺寸、處理器、記憶體、GPU、儲存、網路、電源和散熱解決方案(空調、自然氣冷或液冷),因此能為客戶的工作負載與應用提供最佳的效能。
Supermicro、Server Building Block Solutions 和 We Keep IT Green 皆為 Super Micro Computer, Inc. 的商標和/或註冊商標。
所有其他品牌、名稱和商標皆為其各自所有者之財產。