在硬件層面，浪潮服務器NF5488M6是業(yè)內同類產品當中首先突破CPU-GPU間通道免中繼設計的AI服務器，通信延遲有了大幅度降低。2個最先進的Intel IceLake處理器和8個A100 GPU相得益彰，可以提供強大的AI計算力。為了實現(xiàn)穩(wěn)定快捷的數(shù)據(jù)吞吐，浪潮服務器NF5488M6擁有最高可達10TB的RDIMM/LRDIMM/BarlowPass DDR4 3200MT/s內存配置，同時采用8塊NVMe SSD實現(xiàn)CPU直通設計，進一步降低了I/O延遲。另外，此款浪潮服務器配有4張200Gb/s Infiniband網卡，支持多節(jié)點線性擴展，通過GPU Direct RDMA實現(xiàn)大規(guī)模集群極致互聯(lián)，提供強大的AI算力。
在軟件層面，浪潮服務器NF5488M6通過GPU硬件拓撲對GPU的輪詢調度進行優(yōu)化，使單卡至多卡性能達到了近似線性擴展，同時配置浪潮領先的算力資源管理平臺AIStation，使浪潮服務器NF5488M6得以實現(xiàn)生產、調度一站式算力平臺，充分釋放AI計算力。
此外，浪潮服務器NF5488M6支持業(yè)內最成熟廣泛的AI開發(fā)生態(tài)，完美支持TensorFlow、PyTorch、MXnet、飛槳等業(yè)界主流深度學習框架，并結合GPU Tensor Core 單元的計算特征，通過自研通道壓縮算法成功可實現(xiàn)模型的極致性能優(yōu)化，在精度無損的情況下顯著提升AI訓練性能。
作為領先的算力基礎設施供應商，浪潮在多年的發(fā)展過程中積累了豐富的經驗和技術體系，此次推出的浪潮服務器NF5488M6就是其經驗和技術的沉淀，為用戶帶來可靠高效的算力支撐。在未來的發(fā)展當中，浪潮將繼續(xù)密切關注行業(yè)發(fā)展，以客戶應用為導向研發(fā)高新產品。
