在演講中,針對馮諾依曼存算分離架構(gòu)設(shè)計中,因為存力、算力不均衡發(fā)展所導(dǎo)致的訪存墻的問題,馮丹院長論述并介紹了PCM、RRAM、MRAM等新型非易失存儲介質(zhì)的特點,及其通過存算一體方式,破解訪存墻問題的可行性。馮丹院長介紹了存算一體的原理及其與基于傳統(tǒng)DRAM內(nèi)存存內(nèi)計算技術(shù)的對比。

馮丹院長指出:存算一體原理簡單,但是在工程實踐中,還有很多的難題需要解決,如單元陣列線電阻與寄生電容的RC延遲問題,IR drop效應(yīng),也就是電流通過電阻時產(chǎn)生的壓降問題,這些問題需要借助模擬和仿真軟件進(jìn)行判斷和研究,為此,華中科技大學(xué)做出了“ PIMTorch ” 存算一體仿真軟件 。

該軟件可以支持對架構(gòu)設(shè)計方案的快速探索與驗證,可以對“器件-陣列-架構(gòu)”跨層次協(xié)同評估、優(yōu)化進(jìn)行支撐;支持快捷方便的存算一體架構(gòu)設(shè)計與驗證。在此,馮丹院長也分享了該軟件用于陣列內(nèi)磨損不均衡、C2C變化性下的訓(xùn)練、陣列單元有效電壓等問題的仿真驗證結(jié)果。

“我們的陣列級和算法級實驗證明了所提出方法的準(zhǔn)確性、性能和通用性。對于節(jié)點分析模型和自定義迭代模型,分別可實現(xiàn)232.9和63.2倍的加速比。我們設(shè)計的通用、穩(wěn)健和高性能的模擬器能夠供系統(tǒng)架構(gòu)師在廣闊的早期架構(gòu)設(shè)計空間中快速探索最優(yōu)設(shè)計方案?!彼f。

在演講中,馮丹院長詳細(xì)論述了基于陣列分區(qū)的行列協(xié)同時序優(yōu)化機(jī)制,以及IR drop的低開銷分區(qū)補(bǔ)償方法。新的機(jī)制可以有效提升存內(nèi)計算系統(tǒng)性能,而新的方法則可以提升推理準(zhǔn)確度,減少計算迭代次數(shù)。

馮丹院長表示:PIMTorch存算一體仿真軟件可用于芯片設(shè)計,也可以結(jié)合電路特性做一些優(yōu)化的辦法,從而推動技術(shù)發(fā)展、普及和實用化,加速AI的現(xiàn)代化進(jìn)程。

希望有更多的公司們能夠關(guān)注到存算一體化的發(fā)展和進(jìn)程!

分享到

songjy

相關(guān)推薦