(騰訊云副總裁 李力)

集合優(yōu)勢云產品,打造高性能AI基礎設施

騰訊云智算整合了騰訊云高性能計算HCC、高性能網絡IHN星脈、高性能云存儲、加速框架、容器、向量數據庫、智算套件等騰訊云優(yōu)勢產品,能夠為AI創(chuàng)新輸出性能領先、多芯兼容、靈活部署的智算產品能力。

騰訊云異構計算副總經理宋丹丹介紹,騰訊云HCC高性能計算集群擁有全球領先的算力性能,可以達到比原廠商推薦優(yōu)化19%到30%的性能。HCC可以提供業(yè)界最高的3.2T超高互聯帶寬,算力性能較前代提升高達3倍。

騰訊云智算除了具有領先的性能表現,在部署上也非常靈活,支持公有云、私有云以及分布式云的部署。騰訊專有云TCE研發(fā)負責人王旻表示,不同客戶對彈性、靈活性、數據隱私和自主可控的需求各不相同,智算基礎設施也需要滿足公有云和專有云等多種模式。同時,除了智算能力外,也會給私有化客戶帶來其他一些收益:全面安全合規(guī)、開放兼容,覆蓋智算、通算、超算等多種場景的全棧智能解決方案,行業(yè)云能力,以及騰訊云完整運營/運維的產品與理念。

騰訊云虛擬化產品總經理陳立東介紹了新發(fā)布的AI大模型加速解決方案TACO。其中,TACO-LLM,加速語言生成的效率,可以獲得1.8倍到2.5倍的性能提升,百萬Token推理成本低于0.5美元,運營成本降低超過一倍,并與業(yè)界的開源模型都完成了適配;TACO-DiT是一款專為DiT模型設計的并行推理引擎,旨在解決高清圖像與長時一致性視頻生成中,因輸入序列增長導致的計算量激增問題;面向傳統(tǒng)AI,騰訊云提供qGPU技術提升GPU的利用率。

騰訊云網絡VPC產品負責人王營表示,騰訊云智能高性能網絡IHN星脈面向AI場景,打造超高速規(guī)模網絡。IHN支持超10萬卡的集群,并支持異構網絡接入。

AI時代,場景對存儲的需求也發(fā)生了很大變化。騰訊云存儲產品總經理陳崢表示,騰訊云智算所采用的AIGC云存儲解決方案可實現對AIGC生命周期的全覆蓋,高度匹配大模型的各類存儲需求。在數據采集環(huán)節(jié)騰訊云提供數據遷移服務;數據清洗環(huán)節(jié)和訓練推理環(huán)節(jié),騰訊云通過GooseFS提供分布式緩存能力,可以將數據調度到近計算節(jié)點,加速數據的訪問;數據治理環(huán)節(jié),數據萬象服務可以為海量的預訓練數據和推理數據提供數據質量的保證,確保數據的合規(guī)性,保障大模型輸入和輸出都有可靠的質量。

騰訊云分布式云產品負責人楊志華在分享中表示,騰訊云分布式云的解決方案通過把公有云部署在本地,使得公有云能力可以1:1復制到用戶的本地,并提供高達400種云產品的選擇,既包括常用的計算網絡存儲、數據庫、中間件,也包括眾多的辦公協同、營銷工具。目前,分布式云已有超過20個行業(yè)得到了廣泛的實踐和產品的打磨,幫助企業(yè)構建數據本地化的云平臺。

騰訊云AI企業(yè)級自研分布式向量數據庫接入AI的效率比傳統(tǒng)方案提升10倍,運行穩(wěn)定性高達99.99%。支持千億級向量規(guī)模、500萬并發(fā)吞吐,并且相同成本情況下性能達到業(yè)界的1.5-5倍。

多場景落地,釋放AI生產力

這目前,騰訊云智算服務了90%以上的國內頭部大模型頭部企業(yè),也幫助了一大批IDC廠商走向AIDC轉型,在互聯網企業(yè)、大模型廠商、金融行業(yè)、政企行業(yè)、AI開發(fā)等多個場景,騰訊云智算也在助力客戶加速釋放AI生產力。

元象科技的大語言模型是廣東省2023年第一批通過國家備案的大語言模型,最新版本的MoE模型只用了數百億級別的預算量就可以達到數千億級別的模型效果。元象大模型產品中心總監(jiān)張玥介紹,騰訊云提供的充足的算力、可靠的算力平臺和先進的網絡,有效支持了元象的大語言模型的順利落地,讓大語言模型更好的發(fā)揮了效能。

廣州尚航信息科技股份有限公司深耕算力基礎設施服務領域,提供業(yè)界領先的智算中心、AI算力、云計算。為互聯網、人工智能、政府、新能源等多個行業(yè)提供AIDC綜合服務、AI算力、云綜合服務等,是客戶及合作伙伴最可靠的智算基礎設施服務商。尚航科技與騰訊云戰(zhàn)略合作以來,雙方基于互信共贏的發(fā)展戰(zhàn)略,共筑AI算力底座。尚航科技借助騰訊云技術拓展業(yè)務版圖,打造尚云SunClouds云算力平臺,依托尚航堅實的AIDC基礎設施、GPU算力集群、本地網絡和騰訊云TCE技術,尚航搭建了具有全棧IaaS+PaaS+安全能力的綜合型算力平臺,為眾多行業(yè)客戶提供高效、穩(wěn)定且安全的算力資源。尚航與騰訊云的戰(zhàn)略合作,將為客戶提供更便捷的一站式算力服務體驗,同時也將推動AI算力行業(yè)的發(fā)展。未來期待與更多行業(yè)伙伴攜手,響應國家戰(zhàn)略,助推新質生產力發(fā)展,為數字經濟的發(fā)展貢獻力量。

會上,騰訊云智算還宣布和海南怡和中能實業(yè)投資有限公司、上海燧原科技股份有限公司、廣州尚航信息科技股份有限公司等共建產業(yè)高效能云智算中心。本次合作簽約,將充分發(fā)揮各方優(yōu)勢互補,圍繞研發(fā)、服務、銷售等全領域開展企業(yè)數智化轉型合作和,共同推進云計算和人工智能產業(yè)融合、創(chuàng)新及發(fā)展。

“生成式AI的興起給整個云基礎設施建設提出了更高的要求,隨著騰訊云智算的發(fā)布,我們希望能夠一站式地把高性能計算、高性能存儲、高性能網絡等各方面的優(yōu)勢技術能力,為企業(yè)客戶的AI創(chuàng)新探索,創(chuàng)造更多價值?！彬v訊云副總裁沙開波表示。

崔歡歡