在硬件層面,浪潮服務器NF5488M6是業(yè)內(nèi)同類產(chǎn)品當中首先突破CPU-GPU間通道免中繼設計的AI服務器,通信延遲有了大幅度降低。2個最先進的Intel IceLake處理器和8個A100 GPU相得益彰,可以提供強大的AI計算力。為了實現(xiàn)穩(wěn)定快捷的數(shù)據(jù)吞吐,浪潮服務器NF5488M6擁有最高可達10TB的RDIMM/LRDIMM/BarlowPass DDR4 3200MT/s內(nèi)存配置,同時采用8塊NVMe SSD實現(xiàn)CPU直通設計,進一步降低了I/O延遲。另外,此款浪潮服務器配有4張200Gb/s Infiniband網(wǎng)卡,支持多節(jié)點線性擴展,通過GPU Direct RDMA實現(xiàn)大規(guī)模集群極致互聯(lián),提供強大的AI算力。
在軟件層面,浪潮服務器NF5488M6通過GPU硬件拓撲對GPU的輪詢調(diào)度進行優(yōu)化,使單卡至多卡性能達到了近似線性擴展,同時配置浪潮領先的算力資源管理平臺AIStation,使浪潮服務器NF5488M6得以實現(xiàn)生產(chǎn)、調(diào)度一站式算力平臺,充分釋放AI計算力。
此外,浪潮服務器NF5488M6支持業(yè)內(nèi)最成熟廣泛的AI開發(fā)生態(tài),完美支持TensorFlow、PyTorch、MXnet、飛槳等業(yè)界主流深度學習框架,并結合GPU Tensor Core 單元的計算特征,通過自研通道壓縮算法成功可實現(xiàn)模型的極致性能優(yōu)化,在精度無損的情況下顯著提升AI訓練性能。
作為領先的算力基礎設施供應商,浪潮在多年的發(fā)展過程中積累了豐富的經(jīng)驗和技術體系,此次推出的浪潮服務器NF5488M6就是其經(jīng)驗和技術的沉淀,為用戶帶來可靠高效的算力支撐。在未來的發(fā)展當中,浪潮將繼續(xù)密切關注行業(yè)發(fā)展,以客戶應用為導向研發(fā)高新產(chǎn)品。