伴隨著DeepSeek的橫空出世,AI浪潮席卷全國,千行萬業(yè)正在加速智能化躍遷。華為北京總經(jīng)理張東亞在活動致辭中表示,面向政府、教育、金融、零售、互聯(lián)網(wǎng)、交通、制造等行業(yè),昇騰AI云服務已經(jīng)成為超過600家創(chuàng)新先鋒企業(yè)的數(shù)字化轉型伙伴。
CloudMatrix 384 超節(jié)點定義下一代AI基礎設施
隨著大模型訓練和推理對算力需求的爆炸式增長,傳統(tǒng)計算架構已難以支撐AI技術的代際躍遷,超節(jié)點架構的誕生不僅是技術的突破,更是以工程化創(chuàng)新開辟AI產(chǎn)業(yè)的新路徑。
華為云創(chuàng)新性地推出采用全對等互聯(lián)架構的CloudMatrix 384超節(jié)點。這項技術創(chuàng)新跳出單點技術限制,走向系統(tǒng)性、工程性的創(chuàng)新算力架構,直面通信效率瓶頸、內存墻制約、可靠性短板三大技術挑戰(zhàn)。通過新型高速互聯(lián)總線實現(xiàn)384 張卡互聯(lián)成為一個超級云服務器,最高提供300Pflops的算力規(guī)模,比業(yè)界同類產(chǎn)品領先67%。華為云副總裁黃瑾表示,華為云CloudMatrix 384超節(jié)點具備MoE親和、以網(wǎng)強算、以存強算、長穩(wěn)可靠、朝推夜訓、即開即用六大領先技術優(yōu)勢,以系統(tǒng)架構創(chuàng)新重新定義新一代AI基礎設施。
穩(wěn)定的AI算力供給,離不開可靠的數(shù)據(jù)中心載體。大會期間,華為云數(shù)據(jù)中心全球DC運維首席專家謝峰分享了華為云CloudMatrix 384超節(jié)點機房質量挑戰(zhàn)與思路。他表示,通算平穩(wěn)發(fā)展,AI智算快速發(fā)展,數(shù)據(jù)中心在空間、供電、散熱和運維等方面面臨著更多挑戰(zhàn)。其一,AI集群超大規(guī)模組網(wǎng)帶來的光鏈路可靠性挑戰(zhàn);其二,AI集群功率快速增長和毫秒級功率波動,帶來供電的可靠性挑戰(zhàn);其三,AI集群超高密度散熱帶來的水質安全和水力平衡挑戰(zhàn)。華為云數(shù)據(jù)中心通過產(chǎn)品化實現(xiàn)快速交付、低成本、低PUE,并開展鋰電預測、液冷預測等智能化實踐,構筑起綠色低碳、穩(wěn)定可靠、安全可信的云數(shù)據(jù)中心。
AI創(chuàng)新應用實踐落地,加速行業(yè)智能化發(fā)展
面向AI時代,華為云CloudMatrix 384超節(jié)點的架構創(chuàng)新更好地滿足了企業(yè)的智能化需求,已成為各領域企業(yè)加速AI應用落地的共同選擇。
硅基流動基于CloudMatrix 384超節(jié)點昇騰云服務,率先實現(xiàn)了DeepSeek-R1推理服務的持續(xù)升級。硅基流動聯(lián)合創(chuàng)始人&首席產(chǎn)品官胡健表示,硅基流動與華為云聯(lián)合攻關實現(xiàn)了技術突破。通過采用大規(guī)模專家并行方案進行DeepSeek-R1部署,以多專家負載均衡和極致通信優(yōu)化,實現(xiàn)高吞吐、高性能。在保證單用戶20TPS水平前提下,單卡Decode吞吐突破1920 Tokens/s,為客戶提供長期穩(wěn)定服務。
當前AI技術已在多個學科領域實現(xiàn)應用,助力科學發(fā)現(xiàn)突破。中國科學院自動化研究所研究員李林靜表示,AI賦能科研,成為全球科技發(fā)展的制高點,且亟需從作坊模式轉向平臺化建設,而平臺化建設的核心是構建面向科學研究的基座大模型?;贑loudMatrix 384超節(jié)點的大模型后訓練,支撐不同訓練范式時穩(wěn)定和擴展性強,為AI模型的迭代升級提供了可靠的算力保障,能有效支持基座模型持續(xù)優(yōu)化。
在AI浪潮中,保險行業(yè)也在經(jīng)歷從人治向數(shù)據(jù)化治理的轉型。大家保險信息科技部總經(jīng)理郝曉波表示,AI化轉型其實是數(shù)字化轉型的延伸,敏捷化的AI戰(zhàn)略可能是傳統(tǒng)行業(yè)的最佳實踐策略。大家保險依托華為云算力、AI平臺等,建設企業(yè)AI中臺、業(yè)務應用,覆蓋智能營銷、風控投資等核心場景,推動了保險業(yè)務的持續(xù)增長,共同構筑起AI時代的保險生態(tài)。
AI正帶來巨大的產(chǎn)值,并重塑各行業(yè)的生產(chǎn)方式。德勤中國合伙人劉曉羽表示,德勤基于華為昇騰云+DeepSeek進行AI場景化咨詢與實施,通過專業(yè)調優(yōu),幫助客戶一站式構建AI Native應用,從而實現(xiàn)企業(yè)的降本增效和高質量發(fā)展。
AI技術的飛速演進正深刻重塑著產(chǎn)業(yè)格局。華為云以超節(jié)點架構筑起智能時代的算力基石,堅持做好行業(yè)數(shù)字化的“云底座”和“使能器”,以自主創(chuàng)新的技術筑牢AI算力底座,攜手更多客戶伙伴加速AI應用落地,共建AI創(chuàng)新生態(tài)。