說到顯卡，算力固然重要，懂行的AI專家也都知道顯存的重要性，尤其是HBM在處理復(fù)雜AI模型和大數(shù)據(jù)集時的關(guān)鍵作用。 然而，現(xiàn)代顯卡內(nèi)置的顯存容量有限，常常限制了它們在AI訓(xùn)練和高性能計算中的表現(xiàn)。 為了解決這個問題，有一家公司想通過PCIe...

朱 朋博2024-07-08AI與大模型

本期我們圍繞CXL相關(guān)熱點話題開展大咖對話，邀請MemVerge技術(shù)專家做客直播間。

張 妮娜2024-07-06網(wǎng)絡(luò)與安全

本文參考自“從云到端，AI產(chǎn)業(yè)的新范式（2024）”，通常單臺傳統(tǒng)服務(wù)器價格在1萬美金以內(nèi)，而搭載8張H100算力卡的DGX H100AI服務(wù)器價值量可達40萬美金（300萬人民幣左右）。 處理器性能不斷提升，“內(nèi)存墻”成為計算機系統(tǒng)的瓶頸...

張 妮娜2024-06-24業(yè)界動態(tài)

CXL誕生的基礎(chǔ)是為了解決CPU內(nèi)存和附加設(shè)備內(nèi)存的互聯(lián)，實現(xiàn)資源共享，得到最大的性能提升。隨著數(shù)據(jù)大規(guī)模超算、AI、5G、云技術(shù)、邊緣計算、自動駕駛等蓬勃發(fā)展，未來的數(shù)據(jù)存在指數(shù)級的增長且要求實時計算。 從2019年的CXL 1.0，CX...

張 妮娜2024-06-02業(yè)界動態(tài)

近日，英特爾展示了下一代數(shù)據(jù)中心x86處理器——英特爾至強6，作為合作伙伴的美光展示了搭配至強6使用的CXL內(nèi)存模塊CZ120。 在英特爾Vision大會現(xiàn)場，來自ServerTheHome的Eric Smith介紹了關(guān)于CZ12...

朱 朋博2024-04-16業(yè)界動態(tài)

英偉達最近GTC大會發(fā)布了系列重磅產(chǎn)品，除了芯片和NIM軟件外，在連接能力上繼NVLink和NVLink-C2C還發(fā)布了X800 系列交換機，為AI訓(xùn)練量身定制，進一步加速各種數(shù)據(jù)中心中AI、云、數(shù)據(jù)處理和高性能計算應(yīng)用。主要還是...

崔 歡歡2024-03-28先進存力

2023年12月15日，英特爾發(fā)布代號為Emerald Rapids的第五代英特爾至強可擴展處理器，更多的核心，更大的緩存，全新的芯片底層架構(gòu)，相較于年初發(fā)布的第四代又有了更多提升。 第五代至強的核心數(shù)從原來的最高60核提高到了64核，而L...

朱 朋博2023-12-18云計算

全新英特爾至強可擴展處理器為關(guān)鍵工作負載帶來更高性能、安全性和效率，并降低總體擁有成本

朱 朋博2023-12-15業(yè)界動態(tài)

韓國的Panmnesia公司在2023年閃存峰會（FMS）上也展示了池化的CXL內(nèi)存系統(tǒng)解決方案，該方案同時包含軟件和硬件。 在閃存峰會的現(xiàn)場演示中，該系統(tǒng)運行了類似Meta的推薦應(yīng)用，結(jié)果發(fā)現(xiàn)，其性能比基于RDMA的系統(tǒng)快了三倍以上。 據(jù)...

朱 朋博2023-08-16AI與大模型

最近，美光宣布其首款CXL 2.0內(nèi)存擴展模組工程樣品已經(jīng)正式可用，這些模塊可為服務(wù)器提供更容易獲取的，低成本的DRAM內(nèi)存。 最新一代AMD和英特爾服務(wù)器處理器分別提供12和8通道的內(nèi)存子系統(tǒng)，提供高達460.8 – 370.2 GB/s...

朱 朋博2023-08-16先進存力