華為董事、ICT產(chǎn)品與解決方案總裁 楊超斌

中國工程院院士、中國商飛首席科學家吳光輝在致辭中提到，中國商飛將繼續(xù)基于昇騰AI，擴大合作范圍，進一步將智能化賦予飛機的設(shè)計、制造、運營、維護、管理等各個環(huán)節(jié)。

中國工程院院士、中國商飛首席科學家吳光輝

激發(fā)技術(shù)創(chuàng)新：以原生技術(shù)促進原生生態(tài)

昇騰生態(tài)走向原生驅(qū)動，離不開每一位客戶、伙伴及開發(fā)者的共同努力。目前，昇騰已累計培養(yǎng)3萬多名原生開發(fā)貢獻者，20多家伙伴及客戶原生打造了100多個核心大算子，孵化了40多個原生大模型以及50多個大模型應(yīng)用。華為昇騰計算業(yè)務(wù)總裁張迪煊表示，昇騰AI將堅持深耕基礎(chǔ)軟硬件，演進訓推解決方案，以原生技術(shù)促進原生生態(tài)。

昇騰計算業(yè)務(wù)總裁張迪煊

昇騰訓練解決方案始終圍繞“高性能、高可用、高易用”的方向持續(xù)創(chuàng)新，滿足模型長穩(wěn)高效的訓練需求。

● 昇騰獨創(chuàng)NB2.0通信算法，將帶寬利用率從40%提升到了60%以上，通信算子的執(zhí)行耗時下降40%以上。 

● CCAE集群自治引擎提供跨域全棧管理能力，訓前支持健康狀態(tài)檢測和預(yù)防性維護，訓練中支持400+典型故障的動態(tài)隔離，保障訓練任務(wù)的穩(wěn)定運行。 

● 昇騰率先實現(xiàn)Step級的CKPT保存技術(shù)，可以做到萬億模型訓練任務(wù)分鐘級續(xù)訓，保障大規(guī)模集群下的月級穩(wěn)定訓練。

● MindSpore持續(xù)提升動靜統(tǒng)一能力，以1套API使能2種模式開發(fā)，讓開發(fā)者忽略動靜態(tài)圖開發(fā)差異。 

● 全新發(fā)布昇騰分布式加速套件MindSpeed 1.0，預(yù)置100+模型、60+加速算法及10余種微調(diào)算法，使能從預(yù)訓練到增量訓練全流程加速。

昇騰推理解決方案秉承開放、快速部署、極致性能的原則，在有效吞吐、服務(wù)化和部署等能力上持續(xù)升級，實現(xiàn)更高的AI落地經(jīng)濟性。

● 昇騰提供了包含PD分離在內(nèi)的業(yè)界領(lǐng)先的推理加速技術(shù)，充分利用設(shè)備資源，降低企業(yè)AI落地成本；通過訓推同架構(gòu)的算子和模型支持，實現(xiàn)“零”算子適配開發(fā)，小時級完成模型從訓練到推理的轉(zhuǎn)換，推理應(yīng)用天級上線。

● 在算力部署上，昇騰提供包含單機和多機推理在內(nèi)的軟硬件部署能力，面向未來萬億參數(shù)、百萬級長序列的需求，昇騰將圍繞領(lǐng)先的胖節(jié)點技術(shù)，持續(xù)升級推理解決方案。

● 推理引擎MindIE持續(xù)升級關(guān)鍵特性，支持自適應(yīng)PD分離，面向多模態(tài)理解和視頻生成提供新套件支持，加快大模型靈活部署。

昇騰堅定圍繞原生，以基礎(chǔ)軟硬件為技術(shù)錨點激發(fā)原生創(chuàng)新，為伙伴及開發(fā)者提供算力、NRE、MDF及社區(qū)貢獻等權(quán)益激勵，促進商業(yè)共贏，為AI產(chǎn)業(yè)持續(xù)發(fā)展注入原動力。

激發(fā)行業(yè)創(chuàng)新：加速千行萬業(yè)數(shù)智化升級

面向大模型領(lǐng)域，昇騰AI圍繞業(yè)務(wù)場景構(gòu)筑領(lǐng)先的推理解決方案，攜手伙伴共促行業(yè)數(shù)智化升級?，F(xiàn)場，華為聯(lián)合科大訊飛、交通銀行、釘釘、360等在內(nèi)的21家伙伴和客戶，基于昇騰AI基礎(chǔ)軟硬件平臺共同發(fā)布大模型推理行業(yè)解決方案，覆蓋互聯(lián)網(wǎng)、金融、政府、政務(wù)、制造、媒資、交通等行業(yè)，全面使能大模型應(yīng)用迅速融入各類業(yè)務(wù)場景。

大模型推理行業(yè)解決方案發(fā)布

在金融領(lǐng)域，昇騰AI憑借優(yōu)異的性能表現(xiàn)和靈活的部署方式，為金融機構(gòu)提供了強大的AI計算能力，為金融科技的持續(xù)發(fā)展注入新動能。會上，金融信創(chuàng)生態(tài)實驗室、北京金融科技產(chǎn)業(yè)聯(lián)盟重磅發(fā)布《昇騰在金融行業(yè)的應(yīng)用與生態(tài)白皮書》，賦能金融行業(yè)智能化發(fā)展。

《昇騰在金融行業(yè)的應(yīng)用與生態(tài)白皮書》發(fā)布

激發(fā)實踐創(chuàng)新：優(yōu)秀原生案例分享

會上，來自不同行業(yè)的伙伴代表均分享了其在昇騰原生開發(fā)的成果實踐。

科大訊飛副總裁、AI工程院院長潘青華表示，基于昇騰AI基礎(chǔ)軟硬件打造的飛星一號平臺，已經(jīng)常態(tài)化高效支撐訊飛星火大模型訓練，星火大模型在昇騰算力上的訓練推理性能也經(jīng)過充分優(yōu)化，普遍達到業(yè)界90%以上，完全基于昇騰算力原生開發(fā)訓練的星火V4.0，在國內(nèi)外中英文12項主流測試集中有8項超過GPT-4Turbo。

科大訊飛副總裁、AI工程院院長潘青華

騰訊PCG事業(yè)群機器學習平臺首席技術(shù)專家袁鐿介紹，騰訊PCG機器學習平臺中心攜手昇騰AI，自研高性能LLM推理引擎，在傳統(tǒng)的算子融合、Continous Batching等推理加速技術(shù)的基礎(chǔ)上，通過顯存優(yōu)化，異步調(diào)度和計算復(fù)用等技術(shù)，在相同精度的推理中，一念框架吞吐相對業(yè)界推理框架提升15%+。

騰訊PCG事業(yè)群機器學習平臺首席技術(shù)專家袁鐿

釘釘副總裁、商業(yè)平臺技術(shù)部總經(jīng)理周鵬表示，智能時代開啟后，釘釘在全場景探索大模型在工作領(lǐng)域的應(yīng)用 ，已經(jīng)在20條產(chǎn)品線、80多個場景全面完成智能化升級。同時，為了幫助企業(yè)更安全、更快速、更低成本的落地大模型，釘釘聯(lián)合昇騰打造了專屬AI一體機，從硬件到軟件深度協(xié)同優(yōu)化，為企業(yè)提供端到端的私有化大模型落地方案，幫助企業(yè)在內(nèi)部管理、研發(fā)生產(chǎn)、產(chǎn)品銷售等業(yè)務(wù)場景實現(xiàn)智能化，目前已經(jīng)孵化了智能問答、知識搜索、會議分析及智能差旅等多種AI應(yīng)用。

釘釘副總裁、商業(yè)平臺技術(shù)部總經(jīng)理周鵬

精英數(shù)智科技股份有限公司副總經(jīng)理、研發(fā)中心總經(jīng)理侯鵬程表示，精英數(shù)智基于昇騰原生打造礦山大模型應(yīng)用——“煤礦大腦”安全管控平臺方案，覆蓋煤礦生產(chǎn)過程中人、機、環(huán)、管四類風險隱患的有效識別、動態(tài)評估和精準防控，包含150+應(yīng)用場景，構(gòu)建全方位、多層次、立體化的煤礦安全風險雙重預(yù)防管理體系，助力煤礦生產(chǎn)提效增安。當前方案已經(jīng)在全國2000多個煤礦實現(xiàn)部署，守護30余萬礦工安全。

精英數(shù)智科技股份有限公司副總經(jīng)理、研發(fā)中心總經(jīng)理侯鵬程

中國科學院香港創(chuàng)新研究院人工智能與機器人創(chuàng)新中心主任劉宏斌指出，CARES Copilot多模態(tài)手術(shù)大模型基于昇騰算力底座，結(jié)合分階段、多科室的海量專業(yè)臨床數(shù)據(jù)集訓練，實現(xiàn)多模態(tài)的手術(shù)數(shù)據(jù)理解。該模型已應(yīng)用于手術(shù)規(guī)劃、氣管鏡檢查、具身超聲全自動機器人系統(tǒng)等場景，目前已經(jīng)在各大醫(yī)院臨床測試中取得良好效果

?中國科學院香港創(chuàng)新研究院人工智能與機器人創(chuàng)新中心主任劉宏

大時代將迎來新機遇，昇騰一直是千行萬業(yè)智能化道路上的堅實伙伴，為企業(yè)提供創(chuàng)新動力，讓我們攜手奮進，迎接變化，創(chuàng)造可能，共同邁向數(shù)智未來！

songjy