華為董事、ICT產(chǎn)品與解決方案總裁 楊超斌

中國(guó)工程院院士、中國(guó)商飛首席科學(xué)家吳光輝在致辭中提到，中國(guó)商飛將繼續(xù)基于昇騰AI，擴(kuò)大合作范圍，進(jìn)一步將智能化賦予飛機(jī)的設(shè)計(jì)、制造、運(yùn)營(yíng)、維護(hù)、管理等各個(gè)環(huán)節(jié)。

中國(guó)工程院院士、中國(guó)商飛首席科學(xué)家吳光輝

激發(fā)技術(shù)創(chuàng)新：以原生技術(shù)促進(jìn)原生生態(tài)

昇騰生態(tài)走向原生驅(qū)動(dòng)，離不開(kāi)每一位客戶(hù)、伙伴及開(kāi)發(fā)者的共同努力。目前，昇騰已累計(jì)培養(yǎng)3萬(wàn)多名原生開(kāi)發(fā)貢獻(xiàn)者，20多家伙伴及客戶(hù)原生打造了100多個(gè)核心大算子，孵化了40多個(gè)原生大模型以及50多個(gè)大模型應(yīng)用。華為昇騰計(jì)算業(yè)務(wù)總裁張迪煊表示，昇騰AI將堅(jiān)持深耕基礎(chǔ)軟硬件，演進(jìn)訓(xùn)推解決方案，以原生技術(shù)促進(jìn)原生生態(tài)。

昇騰計(jì)算業(yè)務(wù)總裁張迪煊

昇騰訓(xùn)練解決方案始終圍繞“高性能、高可用、高易用”的方向持續(xù)創(chuàng)新，滿(mǎn)足模型長(zhǎng)穩(wěn)高效的訓(xùn)練需求。

● 昇騰獨(dú)創(chuàng)NB2.0通信算法，將帶寬利用率從40%提升到了60%以上，通信算子的執(zhí)行耗時(shí)下降40%以上。 

● CCAE集群自治引擎提供跨域全棧管理能力，訓(xùn)前支持健康狀態(tài)檢測(cè)和預(yù)防性維護(hù)，訓(xùn)練中支持400+典型故障的動(dòng)態(tài)隔離，保障訓(xùn)練任務(wù)的穩(wěn)定運(yùn)行。 

● 昇騰率先實(shí)現(xiàn)Step級(jí)的CKPT保存技術(shù)，可以做到萬(wàn)億模型訓(xùn)練任務(wù)分鐘級(jí)續(xù)訓(xùn)，保障大規(guī)模集群下的月級(jí)穩(wěn)定訓(xùn)練。

● MindSpore持續(xù)提升動(dòng)靜統(tǒng)一能力，以1套API使能2種模式開(kāi)發(fā)，讓開(kāi)發(fā)者忽略動(dòng)靜態(tài)圖開(kāi)發(fā)差異。 

● 全新發(fā)布昇騰分布式加速套件MindSpeed 1.0，預(yù)置100+模型、60+加速算法及10余種微調(diào)算法，使能從預(yù)訓(xùn)練到增量訓(xùn)練全流程加速。

昇騰推理解決方案秉承開(kāi)放、快速部署、極致性能的原則，在有效吞吐、服務(wù)化和部署等能力上持續(xù)升級(jí)，實(shí)現(xiàn)更高的AI落地經(jīng)濟(jì)性。

● 昇騰提供了包含PD分離在內(nèi)的業(yè)界領(lǐng)先的推理加速技術(shù)，充分利用設(shè)備資源，降低企業(yè)AI落地成本；通過(guò)訓(xùn)推同架構(gòu)的算子和模型支持，實(shí)現(xiàn)“零”算子適配開(kāi)發(fā)，小時(shí)級(jí)完成模型從訓(xùn)練到推理的轉(zhuǎn)換，推理應(yīng)用天級(jí)上線。

● 在算力部署上，昇騰提供包含單機(jī)和多機(jī)推理在內(nèi)的軟硬件部署能力，面向未來(lái)萬(wàn)億參數(shù)、百萬(wàn)級(jí)長(zhǎng)序列的需求，昇騰將圍繞領(lǐng)先的胖節(jié)點(diǎn)技術(shù)，持續(xù)升級(jí)推理解決方案。

● 推理引擎MindIE持續(xù)升級(jí)關(guān)鍵特性，支持自適應(yīng)PD分離，面向多模態(tài)理解和視頻生成提供新套件支持，加快大模型靈活部署。

昇騰堅(jiān)定圍繞原生，以基礎(chǔ)軟硬件為技術(shù)錨點(diǎn)激發(fā)原生創(chuàng)新，為伙伴及開(kāi)發(fā)者提供算力、NRE、MDF及社區(qū)貢獻(xiàn)等權(quán)益激勵(lì)，促進(jìn)商業(yè)共贏，為AI產(chǎn)業(yè)持續(xù)發(fā)展注入原動(dòng)力。

激發(fā)行業(yè)創(chuàng)新：加速千行萬(wàn)業(yè)數(shù)智化升級(jí)

面向大模型領(lǐng)域，昇騰AI圍繞業(yè)務(wù)場(chǎng)景構(gòu)筑領(lǐng)先的推理解決方案，攜手伙伴共促行業(yè)數(shù)智化升級(jí)。現(xiàn)場(chǎng)，華為聯(lián)合科大訊飛、交通銀行、釘釘、360等在內(nèi)的21家伙伴和客戶(hù)，基于昇騰AI基礎(chǔ)軟硬件平臺(tái)共同發(fā)布大模型推理行業(yè)解決方案，覆蓋互聯(lián)網(wǎng)、金融、政府、政務(wù)、制造、媒資、交通等行業(yè)，全面使能大模型應(yīng)用迅速融入各類(lèi)業(yè)務(wù)場(chǎng)景。

大模型推理行業(yè)解決方案發(fā)布

在金融領(lǐng)域，昇騰AI憑借優(yōu)異的性能表現(xiàn)和靈活的部署方式，為金融機(jī)構(gòu)提供了強(qiáng)大的AI計(jì)算能力，為金融科技的持續(xù)發(fā)展注入新動(dòng)能。會(huì)上，金融信創(chuàng)生態(tài)實(shí)驗(yàn)室、北京金融科技產(chǎn)業(yè)聯(lián)盟重磅發(fā)布《昇騰在金融行業(yè)的應(yīng)用與生態(tài)白皮書(shū)》，賦能金融行業(yè)智能化發(fā)展。

《昇騰在金融行業(yè)的應(yīng)用與生態(tài)白皮書(shū)》發(fā)布

激發(fā)實(shí)踐創(chuàng)新：優(yōu)秀原生案例分享

會(huì)上，來(lái)自不同行業(yè)的伙伴代表均分享了其在昇騰原生開(kāi)發(fā)的成果實(shí)踐。

科大訊飛副總裁、AI工程院院長(zhǎng)潘青華表示，基于昇騰AI基礎(chǔ)軟硬件打造的飛星一號(hào)平臺(tái)，已經(jīng)常態(tài)化高效支撐訊飛星火大模型訓(xùn)練，星火大模型在昇騰算力上的訓(xùn)練推理性能也經(jīng)過(guò)充分優(yōu)化，普遍達(dá)到業(yè)界90%以上，完全基于昇騰算力原生開(kāi)發(fā)訓(xùn)練的星火V4.0，在國(guó)內(nèi)外中英文12項(xiàng)主流測(cè)試集中有8項(xiàng)超過(guò)GPT-4Turbo。

科大訊飛副總裁、AI工程院院長(zhǎng)潘青華

騰訊PCG事業(yè)群機(jī)器學(xué)習(xí)平臺(tái)首席技術(shù)專(zhuān)家袁鐿介紹，騰訊PCG機(jī)器學(xué)習(xí)平臺(tái)中心攜手昇騰AI，自研高性能LLM推理引擎，在傳統(tǒng)的算子融合、Continous Batching等推理加速技術(shù)的基礎(chǔ)上，通過(guò)顯存優(yōu)化，異步調(diào)度和計(jì)算復(fù)用等技術(shù)，在相同精度的推理中，一念框架吞吐相對(duì)業(yè)界推理框架提升15%+。

騰訊PCG事業(yè)群機(jī)器學(xué)習(xí)平臺(tái)首席技術(shù)專(zhuān)家袁鐿

釘釘副總裁、商業(yè)平臺(tái)技術(shù)部總經(jīng)理周鵬表示，智能時(shí)代開(kāi)啟后，釘釘在全場(chǎng)景探索大模型在工作領(lǐng)域的應(yīng)用 ，已經(jīng)在20條產(chǎn)品線、80多個(gè)場(chǎng)景全面完成智能化升級(jí)。同時(shí)，為了幫助企業(yè)更安全、更快速、更低成本的落地大模型，釘釘聯(lián)合昇騰打造了專(zhuān)屬AI一體機(jī)，從硬件到軟件深度協(xié)同優(yōu)化，為企業(yè)提供端到端的私有化大模型落地方案，幫助企業(yè)在內(nèi)部管理、研發(fā)生產(chǎn)、產(chǎn)品銷(xiāo)售等業(yè)務(wù)場(chǎng)景實(shí)現(xiàn)智能化，目前已經(jīng)孵化了智能問(wèn)答、知識(shí)搜索、會(huì)議分析及智能差旅等多種AI應(yīng)用。

釘釘副總裁、商業(yè)平臺(tái)技術(shù)部總經(jīng)理周鵬

精英數(shù)智科技股份有限公司副總經(jīng)理、研發(fā)中心總經(jīng)理侯鵬程表示，精英數(shù)智基于昇騰原生打造礦山大模型應(yīng)用——“煤礦大腦”安全管控平臺(tái)方案，覆蓋煤礦生產(chǎn)過(guò)程中人、機(jī)、環(huán)、管四類(lèi)風(fēng)險(xiǎn)隱患的有效識(shí)別、動(dòng)態(tài)評(píng)估和精準(zhǔn)防控，包含150+應(yīng)用場(chǎng)景，構(gòu)建全方位、多層次、立體化的煤礦安全風(fēng)險(xiǎn)雙重預(yù)防管理體系，助力煤礦生產(chǎn)提效增安。當(dāng)前方案已經(jīng)在全國(guó)2000多個(gè)煤礦實(shí)現(xiàn)部署，守護(hù)30余萬(wàn)礦工安全。

精英數(shù)智科技股份有限公司副總經(jīng)理、研發(fā)中心總經(jīng)理侯鵬程

中國(guó)科學(xué)院香港創(chuàng)新研究院人工智能與機(jī)器人創(chuàng)新中心主任劉宏斌指出，CARES Copilot多模態(tài)手術(shù)大模型基于昇騰算力底座，結(jié)合分階段、多科室的海量專(zhuān)業(yè)臨床數(shù)據(jù)集訓(xùn)練，實(shí)現(xiàn)多模態(tài)的手術(shù)數(shù)據(jù)理解。該模型已應(yīng)用于手術(shù)規(guī)劃、氣管鏡檢查、具身超聲全自動(dòng)機(jī)器人系統(tǒng)等場(chǎng)景，目前已經(jīng)在各大醫(yī)院臨床測(cè)試中取得良好效果

?中國(guó)科學(xué)院香港創(chuàng)新研究院人工智能與機(jī)器人創(chuàng)新中心主任劉宏

大時(shí)代將迎來(lái)新機(jī)遇，昇騰一直是千行萬(wàn)業(yè)智能化道路上的堅(jiān)實(shí)伙伴，為企業(yè)提供創(chuàng)新動(dòng)力，讓我們攜手奮進(jìn)，迎接變化，創(chuàng)造可能，共同邁向數(shù)智未來(lái)！

songjy