“每美元性能”指標(biāo)

MLPerf被稱(chēng)為比較基準(zhǔn),實(shí)際上進(jìn)行直接比較可能很復(fù)雜。從相對(duì)簡(jiǎn)單的硅片到有著昂貴存儲(chǔ)的復(fù)雜堆棧式芯片,如今的處理器和系統(tǒng)架構(gòu)可謂千差萬(wàn)別。從“每美元性能”角度來(lái)看,往往最能夠說(shuō)明問(wèn)題。

Graphcore的IPU-POD16是一個(gè)5U的系統(tǒng),標(biāo)價(jià)149,995美元。如前所述,它由4個(gè)IPU-M2000加速器以及行業(yè)標(biāo)準(zhǔn)主機(jī)服務(wù)器構(gòu)成。每個(gè)IPU-M2000由4個(gè)IPU處理器構(gòu)成。MLPerf中使用的NVIDIA DGX-A100 640GB是一個(gè)6U機(jī)盒,標(biāo)價(jià)約為300,000美元(基于市場(chǎng)情報(bào)和公布的經(jīng)銷(xiāo)商定價(jià)),有8個(gè)DGX A100芯片。IPU-POD16的價(jià)格是它的一半。在這個(gè)系統(tǒng)中,IPU-M2000的價(jià)格和一個(gè)DGX A100 80GB的價(jià)格是一樣的,或者在更細(xì)的層次上,一個(gè)IPU的價(jià)格是它的四分之一。

在MLPerf比較分析中,Graphcore采用了嚴(yán)格監(jiān)管的封閉分區(qū)的結(jié)果,并針對(duì)系統(tǒng)價(jià)格對(duì)其進(jìn)行了歸一化。對(duì)于ResNet-50和BERT,很明顯Graphcore系統(tǒng)提供了比NVIDIA產(chǎn)品更好的每美元性能。在IPU-POD16上進(jìn)行ResNet-50訓(xùn)練的情況下,Graphcore的每美元性能是NVIDIA的1.6倍。在BERT上,Graphcore的每美元性能是NVIDIA的1.3倍。Graphcore系統(tǒng)的經(jīng)濟(jì)性可以更好地幫助客戶(hù)實(shí)現(xiàn)其AI計(jì)算目標(biāo),同時(shí),由于IPU專(zhuān)為AI構(gòu)建的架構(gòu)特點(diǎn),Graphcore系統(tǒng)還可以解鎖下一代模型和技術(shù)。

分享到

zhupb

相關(guān)推薦