IDC所定義的智算服務(wù)是指以GPU、FPGA、ASIC等AI專用算力為主的基礎(chǔ)設(shè)施服務(wù),主要包括智算集成服務(wù)、智算基礎(chǔ)設(shè)施即服務(wù)(AI Infrastructure as a service, 簡稱AI IaaS)。智算集成服務(wù)主要是指廠商在幫助客戶建設(shè)私有智算基礎(chǔ)設(shè)施過程中提供的咨詢、集成、開發(fā)、運(yùn)維等專業(yè)和管理服務(wù);AI IaaS是指供應(yīng)商以租賃形式為客戶提供一站式智能算力服務(wù),并由供應(yīng)商提供后續(xù)的運(yùn)營及運(yùn)維保障。其中AI IaaS市場(chǎng)又分為面向生成式AI的GenAI IaaS和Other AI IaaS(如傳統(tǒng)渲染、仿真、視聯(lián)網(wǎng)推理等業(yè)務(wù)場(chǎng)景)兩個(gè)細(xì)分市場(chǎng)。
市場(chǎng)概況
新舊動(dòng)能快速切換,面向GenAI的算力支出已經(jīng)成為智算服務(wù)市場(chǎng)主陣地:以AI IaaS市場(chǎng)為例,GenAI IaaS市場(chǎng)經(jīng)歷短短的一年半發(fā)展時(shí)間,市場(chǎng)規(guī)模已經(jīng)超過Other AI IaaS市場(chǎng),占比AI IaaS市場(chǎng)達(dá)58%。智算集成市場(chǎng),增量新建的智算中心均是以GenAI的未來需求為導(dǎo)向而設(shè)計(jì)的。
頭部客戶飽和式投入,智能算力支出快速增長:頭部客戶智能力算力支出在2024年迎來大幅度增長。如頭部基礎(chǔ)大模型公司整體算力規(guī)模向10EFlops進(jìn)發(fā),最大單集群規(guī)模已經(jīng)升級(jí)到256臺(tái)服務(wù)器(H系列);自動(dòng)駕駛客戶更是迎來新一輪算力軍備競(jìng)賽,如理想汽車,截至2023年9月,云端算力規(guī)模僅750PFlops,到2024年11月,云端算力規(guī)模已達(dá)到6830PFlops。
互聯(lián)網(wǎng)業(yè)務(wù)向GenAI融合,GenAI IaaS推理算力支出快速增長:2024上半年,GenAI開始向行業(yè)落地,尤其是互聯(lián)網(wǎng)行業(yè)(主要是互聯(lián)網(wǎng)音視頻、游戲、教育)在GenAI與業(yè)務(wù)的融合實(shí)踐方面一馬當(dāng)先,GenAI IaaS推理算力支出快速增長。2023年,客戶在GenAI IaaS上的推理支出占比僅為5%,2024上半年,這一推理支出占比已經(jīng)上升到23%。
智算中心建設(shè)提速,專業(yè)服務(wù)和商業(yè)化運(yùn)營成為關(guān)注重點(diǎn):據(jù)不完全統(tǒng)計(jì),上半年智算中心項(xiàng)目已過百,但其中相當(dāng)數(shù)量仍處于規(guī)劃/開工/在建等狀態(tài)。相關(guān)項(xiàng)目中:
智算服務(wù)市場(chǎng)不斷吸引新入玩家:社會(huì)各類資本通過各種合作方式以彌補(bǔ)自身的不足,以搶抓時(shí)代的黃金機(jī)會(huì)點(diǎn)。一是傳統(tǒng)企業(yè)通過資本布局跨界而來,如并購NV系精英合作伙伴、與有技術(shù)沉淀的服務(wù)商共建等方式以彌補(bǔ)自身技術(shù)的不足;二是業(yè)界的各類ICT企業(yè)通過算力納管、整合生態(tài)、算力共建等方式,謀求以輕資產(chǎn)、重解決方案能力在智算服務(wù)市場(chǎng)立足。
市場(chǎng)格局
智算集成服務(wù)市場(chǎng):
智算集成服務(wù)市場(chǎng)在2024上半年逐漸迎來爆發(fā),市場(chǎng)格局繼續(xù)維持一超多強(qiáng)特征,頭部以及中腰部玩家憑借技術(shù)優(yōu)勢(shì)擴(kuò)大市場(chǎng)份額。其中,華為智算集成服務(wù)為客戶提供算力集成解決方案,覆蓋數(shù)據(jù)中心Facility集成、IT基礎(chǔ)設(shè)施集成等,包括咨詢規(guī)劃、集成部署及輔助運(yùn)營的全周期服務(wù);此外,針對(duì)AI開發(fā)門檻高、模型遷移開發(fā)能力不足等通用挑戰(zhàn),華為為客戶推出AI計(jì)算使能、AI計(jì)算優(yōu)化等專業(yè)服務(wù),助力“建好、管好、用好”算力集群;本期H3C重點(diǎn)推動(dòng)傲飛算力平臺(tái)落地,為政企、智算中心集群提供多元異構(gòu)算力支持,滿足最終用戶不同AI負(fù)載和業(yè)務(wù)場(chǎng)景需求;百度繼續(xù)依托芯片、算力、軟件等基礎(chǔ)設(shè)施以及產(chǎn)業(yè)鏈優(yōu)勢(shì),參與西北等多個(gè)地區(qū)智算中心項(xiàng)目建設(shè);中國電信憑借“息壤”算力網(wǎng)絡(luò)平臺(tái)、算網(wǎng)/機(jī)房資源以及相關(guān)算力模型開發(fā)經(jīng)驗(yàn),本期在私有化智算集群項(xiàng)目中有所建樹,排名上升至第四;中國電子云圍繞CECSTACK一體化算力平臺(tái),在北京、石家莊、武漢等地完成多個(gè)智算項(xiàng)目交付,同時(shí)在商業(yè)客戶和高校市場(chǎng)實(shí)現(xiàn)突破,目前算力規(guī)模已超過3300P。
AI IaaS市場(chǎng)
客戶需求向GenAI轉(zhuǎn)移,Other AI IaaS市場(chǎng)規(guī)模逐步縮減,繼續(xù)延續(xù)之前的市場(chǎng)格局。GenAI IaaS市場(chǎng),云巨頭快速調(diào)整,引發(fā)市場(chǎng)變局.阿里云在2024年快速調(diào)整市場(chǎng)策略,市場(chǎng)份額躍居市場(chǎng)第一,一是內(nèi)部快速調(diào)整釋放出大量資源向客戶側(cè)供給;二是借助優(yōu)秀的資本布局聚焦算力消耗大戶;三是技術(shù)體系快速適配Gen-AI時(shí)代,憑借優(yōu)秀的技術(shù)功底獲得頭部客戶認(rèn)可。運(yùn)營商在今年大舉發(fā)力智算市場(chǎng),紛紛建立萬卡級(jí)智算中心,中國電信作為率先落地的服務(wù)商,上海及北京萬卡智算中心已經(jīng)商用,率先在市場(chǎng)取得突破。同時(shí),省公司亦在積極響應(yīng)客戶對(duì)于GenAI IaaS需求,通過外部合作擴(kuò)充智能算力規(guī)模,市場(chǎng)份額躍居市場(chǎng)第五。新勢(shì)力服務(wù)商在2024上半年的表現(xiàn)呈現(xiàn)兩級(jí)分化,以商湯科技為代表的技術(shù)實(shí)力派,成功立足市場(chǎng),商湯科技繼續(xù)保持市場(chǎng)第三位置。并行科技、首都在線、藍(lán)耘科技等公司的GenAI IaaS業(yè)務(wù)亦取得了高速增長。
IDC中國企業(yè)級(jí)研究部研究經(jīng)理?xiàng)钛蟊硎荆?/strong>回顧IDC在2023H2的預(yù)測(cè),我們已經(jīng)對(duì)智算服務(wù)市場(chǎng)的增長充分樂觀,而從2024年市場(chǎng)的實(shí)際情況來看,我們過往的預(yù)測(cè)仍偏于保守,智算服務(wù)市場(chǎng)以遠(yuǎn)超預(yù)期的增速在高速成長。從智算服務(wù)的增長態(tài)勢(shì)來看,IDC認(rèn)為智算服務(wù)市場(chǎng)在未來五年內(nèi)仍將保持超高增速高速成長,一是頭部客戶對(duì)于訓(xùn)練算力的需求仍呈現(xiàn)量級(jí)躍遷的特征,二是從產(chǎn)業(yè)階段和算力結(jié)構(gòu)上來看,GenAI仍處于早期階段,推理側(cè)算力支出仍占較小比例,以終局來看,推理側(cè)算力應(yīng)占到算力支出的6-7成,意味著推理側(cè)算力支出將有百倍以上的增長空間;三是算力成本在逐步下降,2024上半年,IDC觀測(cè)到更多的中腰部組織/企業(yè)在展開GenAI實(shí)踐,未來,大量的中腰部組織/企業(yè)將成為智算服務(wù)市場(chǎng)的優(yōu)質(zhì)增量。GenAI同樣在重塑整個(gè)ICT市場(chǎng)的技術(shù)體系和競(jìng)爭(zhēng)均勢(shì),而智算服務(wù)市場(chǎng)將處于價(jià)值鏈的核心環(huán)節(jié),成為ICT巨頭的必爭(zhēng)之地。