測試結(jié)果：

1、基于1個2U的存儲節(jié)點以及1個客戶端和2個客戶端的測試結(jié)果顯示，可以輕松滿足模型ResNet-50的訓(xùn)練需求，單客戶端能夠支持的GPU卡的數(shù)量最高達到240塊，帶寬23.6GiB/s，在存儲節(jié)點硬件采用DPU+JBOF, CPU和內(nèi)存都不是很強（AI 控成本）的前提下，依然領(lǐng)先參與測試的所有廠商方案，位居世界第一。具體的測試結(jié)果數(shù)據(jù)如下：

通過上述測試數(shù)據(jù)測算，ExponTech WADP使用一個2U的存儲節(jié)點，在配置4個客戶端的場景下，可以支持超過700塊 A100 GPU訓(xùn)練卡和約400塊 H100 GPU訓(xùn)練卡的訓(xùn)練需求，穩(wěn)定提供70+GiB/s的帶寬，逼近存儲節(jié)點網(wǎng)絡(luò)帶寬極限。ExponTech WADP也可以支持擴展到更多的2U存儲節(jié)點，形成大規(guī)模高性能存儲集群，支持超大規(guī)模的AI訓(xùn)練場景。

2、MLPerf? Storage v2.0測試新推出的檢查點(Checkpoint)工作負載專門針對分布式擴展系統(tǒng)中大型語言模型(LLM)的訓(xùn)練場景，重點優(yōu)化訓(xùn)練過程的備份與恢復(fù)速度。ExponTech WADP方案在Llama3-8B模型的實際測試數(shù)據(jù)位于全球領(lǐng)先水平。

ExponTech WADP方案的實測寫帶寬16.9GiB/s, 略低于JINIST(采用Huawei OceanStor A800方案)的19.4GiB/s以及ANL(采用開源DAOS方案)的18.1GiB/s, 位居世界第三。但是值得注意的是，ExponTech WADP方案采用的存儲硬件配置遠低于前兩者，使用的物理盤容量僅為前兩者的1/5, 展現(xiàn)了極為優(yōu)異的存儲軟件棧效率。如果以Checkpoint寫入帶寬/容量來計算寫入效率，ExponTech WADP排名將遙遙領(lǐng)先居第一。

亮點總結(jié)：

超高密度與能效，僅使用單臺2U JBOF設(shè)備搭載DPU作為存儲節(jié)點，硬件配置規(guī)格遠低于其他的測試方案，展示出了超高的容量密度，性能密度和能效。

超高性能表現(xiàn)，在硬件規(guī)格非常低的前提下，依然展示了超高性能表現(xiàn)，在Resnet50模型訓(xùn)練測試中，單客戶端支持的GPU卡數(shù)和帶寬排世界第一，Llama3模型的Checkpoint寫入帶寬排世界第三，但使用了最少的SSD盤數(shù)，以Checkpoint寫入帶寬/容量來計算寫入效率，ExponTech WADP方案排名將遙遙領(lǐng)先居第一，展示了WADP存儲軟件極為高效的硬件利用效率。

極致I/O效率，多輪測試均穩(wěn)定保持96%以上的GPU平均利用率（AU）。

彈性擴展能力，WADP分布式軟件架構(gòu)可并行擴展到1024個節(jié)點，實現(xiàn)存儲容量，IOPS和帶寬的同步并行擴展，同時保持穩(wěn)定的微秒級時延。

可擴展網(wǎng)絡(luò)驗證，四臺NVIDIA Spectrum-X交換機搭建兩層RoCE網(wǎng)絡(luò)，擁塞控制表現(xiàn)優(yōu)異。結(jié)合ExponTech WADP分布式存儲軟件，方案可橫向擴展至超大規(guī)模AI訓(xùn)練/推理場景。

存儲效率倍增，ScaleFlux CSD5000 SSD提供透明數(shù)據(jù)壓縮/解壓縮，在零性能損耗、無額外資源消耗前提下實現(xiàn)存儲容量與效率倍增。

首次參與即在MLPerf? Storage v2.0 AI Storage基準測試中取得優(yōu)異成績，這一成就不僅彰顯了華瑞指數(shù)云ExponTech存儲技術(shù)的強勁實力，更標志著華瑞指數(shù)云ExponTech在業(yè)界又達成了一個關(guān)鍵里程碑。此次測試延續(xù)了WADP（以其子產(chǎn)品WDS名義）在2023年創(chuàng)下的SPC-1基準測試世界紀錄，印證了其在企業(yè)關(guān)鍵業(yè)務(wù)（SPC-1：全球存儲性能委員會）與AI工作負載（MLPerf Storage）領(lǐng)域的雙重競爭力，是目前全球唯一的一個能夠在SPC-1和MLPerf Storage上都能夠測試出頂級成績的分布式存儲軟件，成為真正覆蓋全場景的企業(yè)級AI統(tǒng)一平臺。在未來企業(yè)把AI工作負載與企業(yè)關(guān)鍵業(yè)務(wù)進行結(jié)合，實現(xiàn)AI能力在企業(yè)業(yè)務(wù)流程中全面落地的過程中，ExponTech WADP平臺將發(fā)揮出更加全面的價值。

未來，華瑞指數(shù)云ExponTech將在AI大模型領(lǐng)域持續(xù)深耕，不斷突破性能極限，打造全球領(lǐng)先的AI數(shù)據(jù)平臺，為企業(yè)賦能新質(zhì)生產(chǎn)力。在統(tǒng)一的數(shù)據(jù)平臺產(chǎn)品上同時承載企業(yè)的核心生產(chǎn)系統(tǒng)和 AI 數(shù)據(jù)管道，幫助企業(yè)把核心生產(chǎn)數(shù)據(jù)與 AI 能力相結(jié)合，實現(xiàn) AI 在企業(yè)級場景的快捷落地。近期，華瑞指數(shù)云ExponTech將正式發(fā)布ExponTech WADP的最新版本，一款融合支持企業(yè)級生產(chǎn)業(yè)務(wù)和AI訓(xùn)練推理業(yè)務(wù)，面向企業(yè)級AI的統(tǒng)一數(shù)據(jù)平臺底座產(chǎn)品，歡迎持續(xù)關(guān)注。

關(guān)于MLPerf?

MLPerf?是影響力最廣的國際AI 性能基準評測，由圖靈獎得主大衛(wèi)?帕特森（David Patterson）聯(lián)合谷歌、斯坦福大學(xué)、哈佛大學(xué)等頂尖學(xué)術(shù)機構(gòu)共同發(fā)起成立，并于2023年推出 MLPerf? Storage 基準性能測試，旨在公平公正且公開透明的統(tǒng)一基準來衡量 AI 工作負載的存儲系統(tǒng)性能。目前，MLPerf? Storage 基準測試的最新版本為 v2.0，包含2類工作負載的測試：訓(xùn)練（Training）和檢查點（Checkpointing），支持兩種模擬加速器（A100 和 H100），并涵蓋五種典型的模型訓(xùn)練負載：3D-UNet，ResNet-50，CosmoFlow和Llama3。這些負載覆蓋了順序讀取、隨機讀取、小文件讀取等多種 I/O 場景，能夠全面評估存儲系統(tǒng)在不同場景下的吞吐量和延遲性能。

關(guān)于SPC-1

SPC-1（全球存儲性能委員會）是企業(yè)級存儲領(lǐng)域最權(quán)威的Benchmark評測，是一個專注于存儲行業(yè)供應(yīng)商性能評測的中立機構(gòu)。旨在評估存儲系統(tǒng)處理復(fù)雜請求和大規(guī)模數(shù)據(jù)的能力，對IO吞吐量、讀寫響應(yīng)時間敏感度、工作負載動態(tài)變化、存儲容量利用率、用戶多樣化、數(shù)據(jù)持久性等多種數(shù)據(jù)特征進行嚴苛考量。

分享到

songjy

相關(guān)推薦