韓國初創(chuàng)公司Panmnesia正在開發(fā)一種技術(shù)，可以在多個服務(wù)器之間連接數(shù)百個內(nèi)存設(shè)備。 Panmnesia支持CXL 3.1標準，該標準解決了遠程內(nèi)存池化和PCIe 6.0互連問題，使基于CPU和GPU的服務(wù)器能夠共享外部內(nèi)存，并與其自身...

朱 朋博2024-08-02業(yè)界動態(tài)

說到顯卡，算力固然重要，懂行的AI專家也都知道顯存的重要性，尤其是HBM在處理復雜AI模型和大數(shù)據(jù)集時的關(guān)鍵作用。 然而，現(xiàn)代顯卡內(nèi)置的顯存容量有限，常常限制了它們在AI訓練和高性能計算中的表現(xiàn)。 為了解決這個問題，有一家公司想通過PCIe...

朱 朋博2024-07-08AI與大模型

韓國的Panmnesia公司在2023年閃存峰會（FMS）上也展示了池化的CXL內(nèi)存系統(tǒng)解決方案，該方案同時包含軟件和硬件。 在閃存峰會的現(xiàn)場演示中，該系統(tǒng)運行了類似Meta的推薦應(yīng)用，結(jié)果發(fā)現(xiàn)，其性能比基于RDMA的系統(tǒng)快了三倍以上。 據(jù)...

朱 朋博2023-08-16AI與大模型