SK海力士表示,GDDR內(nèi)存在AI和大數(shù)據(jù)場景中用的非常多

在CPU加GPU的組合方案中運行某些運算,使用GDDR6-AiM的方案比使用DRAM的方案快16倍,究其原因在于,SK海力士的PIM減少了到CPU和GPU的數(shù)據(jù)遷移動作,而且,還減少了80%的電量消耗。

GDDR6-AiM的工作電壓是1.25V,而SK海力士現(xiàn)有GDDR6的工作電壓是1.35V。

SK海力士沒有透露用的是什么處理指令,也沒有透露處理單元在內(nèi)存里是如何分布的。而三星基于MRAM的PIM技術公布的信息更多一些,眾所周知,MRAM比DRAM的速度更快,而且運行時更省電。

EE Times上的一篇文章提到了更多細節(jié):

下圖展示了CPU處理數(shù)據(jù)的各個過程中的功耗情況,如圖可見,把數(shù)據(jù)從DRAM挪到CPU緩存的操作需要的功耗最高。

下圖是神經(jīng)網(wǎng)絡運算中使用的典型數(shù)學運算,在計算多輸出神經(jīng)元運算時,選擇了矩陣的乘法和加法。

單輸出 vs 多輸出的神經(jīng)元運算

文章表示,如果把負責這些運算的電路添加到內(nèi)存中,數(shù)據(jù)就不需要再傳輸?shù)教幚砥?,在?nèi)存中就能進行運算并將運算結果發(fā)送給處理器。

文章表示,如果在RNN等吃內(nèi)存的場景中使用內(nèi)置了計算電路的DRAM,那么性能和電源效率將顯著提高,當需要處理的數(shù)據(jù)量越來越大時,PIM將成為突破現(xiàn)有計算機性能瓶頸的重要手段。

SK海力士希望GDDR6 AiM芯片能用于機器學習、高性能計算、大數(shù)據(jù)計算和存儲應用等領域。

SK海力士的相關負責人表示,SK海力士將圍繞GDDR6-AiM建立新的內(nèi)存解決方案生態(tài)系統(tǒng),與SAPEON合作,引入一種新的神經(jīng)網(wǎng)絡技術。

在AI芯片中使用GDDR6-AiM內(nèi)存技術,對于最大化數(shù)據(jù)運算效率,降低成本,提高能效方面的表現(xiàn)表示期待。

分享到

zhupb

相關推薦