IPU帶來的優(yōu)勢有很多,最核心的點就在于,將負載分離和卸載(Offload),原本都由CPU來完成的工作,有一部分遷移到了IPU上,IPU負責運行云服務商的管理軟件,以及網(wǎng)絡和存儲功能,CPU全交給用戶運行業(yè)務代碼,而且,IPU在安全性、性能和效率上會有較大提升。
上圖是Facebook在生產(chǎn)環(huán)境中,運行微服務時候的CPU周期的分布情況,藍色的部分是編排之類的開銷,而灰色部分是真正用于運行業(yè)務邏輯的部分,看來真正給用戶業(yè)務用的部分占比非常低。
而IPU要做的就是默默地扛下這些開銷。
優(yōu)化過的IPU具有加速功能,更擅長處理存儲協(xié)議,壓縮,解壓縮,加密校驗等事務,由于CPU不用管這些了,所以,云服務提供商可以把整個CPU都給用戶。
英特爾的IPU提供存儲管理功能,而要管理的硬盤不在服務器內(nèi)部,而是在通過網(wǎng)絡連接的外部共享存儲上,這里說的是所有硬盤都不在服務器上,甚至連系統(tǒng)啟動盤也不在服務器內(nèi)部,創(chuàng)建云主機的時候才在共享存儲上創(chuàng)建個虛擬的NVMe固態(tài)盤。
這種服務器上沒有硬盤的架構被稱作是Diskless架構,服務器架構得以簡化,意味著成本降低,整個存儲的管理無需CPU進行任何干預,意味著CPU開銷的降低。而且,英特爾表示無需擔心性能表現(xiàn),時延和抖動都非常低,性能很高。
英特爾提到,目前業(yè)內(nèi)在用的IPU主要都是基于FPGA來打造的,但趨勢是都在往ASIC方案上轉型,兩者各有優(yōu)勢,英特爾選擇的技術路線是:兩個都要!
英特爾的IPU既有基于FPGA的方案,也有基于ASIC的方案。
第一款是Oak Springs Canyon,它基于Intel的Agilex FPGA和Xeon-D片上處理器,Agilex FPGA擁有業(yè)界領先的功率、效率和性能。Oak Springs Canyon支持PCIe Gen 4 x16、2 x 100Gbit以太網(wǎng),并且可通過Intel OFS來進行一些定制化開發(fā)。
第二款IPU叫Mount Evans,英特爾表示,Mount Evans是與云服務商共同設計的,擁有同類產(chǎn)品中最好的數(shù)據(jù)包處理引擎。
Mount Evans包含左側的IO子系統(tǒng)和右側計算子系統(tǒng)兩部分。
網(wǎng)絡部分用ASIC芯片進行數(shù)據(jù)包處理,ASIC面向特定負載而設計,在執(zhí)行效率上比FPGA要高得多。性能方面,其200Gbit/sec全雙工網(wǎng)絡可以支持最多四臺至強主機。支持的ROCEv2可以提供更強的網(wǎng)絡傳輸性能。
計算部分使用的是16個ARM Neoverse N1核心,此外,計算部分還配有Lookaside加密與壓縮引擎,該引擎源自英特爾的QAT技術。
有人說Mount Evans最大的亮點是用上了ARM核心,對于英特爾來說,或許是最合理的選擇吧。
評論
英特爾雖然是DPU領域的新人,但一入場就帶著自己的思考:比如,英特爾認為IPU是更合理的叫法,比如說,在FPGA方案和ASIC方案上的全面布局,并且認為兩種方案將長期共存。
IPU(DPU)這類產(chǎn)品起源于超大規(guī)模數(shù)據(jù)中心,最早大范圍應用的就是AWS的Nitro,憑借專用設備Offload替代昂貴的通用處理器,從而帶來更大的額外收益,而隨著英特爾入局這一領域,或?qū)⒏淖僆PU(DPU)超大規(guī)模數(shù)據(jù)中心專屬的局面。
Guido認為,IPU適合任何擁有類似于云的數(shù)據(jù)中心的客戶,并非必須是大型云,也可以是小型云和企業(yè)數(shù)據(jù)中心,只要運營模式類似于云,IPU就非常適合。
單單是在超大規(guī)模數(shù)據(jù)中心應用已經(jīng)決定了IPU有龐大市場規(guī)模,如果未來進一步普及,IPU的市場規(guī)模必然會引起更大關注,Guido表示,雖然市場上有一些創(chuàng)新公司,但總體上,IPU還是大公司主導的市場。
提起英特爾,普通人首先能想到的是CPU,英特爾有許多方案都是圍繞至強而打造的,而英特爾的IPU則不是英特爾至強的專屬,雖然面向英特爾面向IPU有一些優(yōu)化,但沒有任何綁定關系,保持了很好的開放性。
從本質(zhì)上來講,IPU釋放了CPU的工作負擔,在一定工作負載下,可以減少CPU和服務器的采購量,但在數(shù)據(jù)爆炸和計算需求不斷增加的背景下,對CPU的需求還會繼續(xù)增長,英特爾也完全不擔心IPU業(yè)務會影響CPU業(yè)務。
這種不必要的擔心就好比當年VMware虛擬化技術剛開始流行時的擔憂,有人說一臺服務器虛擬化成多臺服務器,是否就意味著減少服務器的采購量,但事實證明,虛擬化推動著服務器市場的發(fā)展和技術進步。
英特爾目前沒有公布IPU的技術演進路線,但可以肯定的是,未來肯定會將Hypervisior也放到IPU來運行,從而給用戶交付更足量的通用CPU資源,英特爾的專家表示已經(jīng)在進行一些探索,未來也不排除在IPU上集成x86核心的可能。