【技術(shù)解析】CPU運(yùn)行大模型工作負(fù)載的探討
隨著人工智能技術(shù)的迅速發(fā)展，大模型（如大規(guī)模語言模型和視覺模型）在各個(gè)領(lǐng)域的應(yīng)用越來越廣泛。然而，這些大模型通常需要大量的計(jì)算資源，尤其是高性能的GPU來支持其訓(xùn)練和推理過程。盡管GPU在并行計(jì)算方面具有顯著優(yōu)勢(shì)，但CPU在某些場(chǎng)景下也能有...
李 祥敬智能算力 第35頁(yè)
聚焦算力產(chǎn)業(yè)，通過深度文字與專業(yè)內(nèi)容，為智算與AI產(chǎn)業(yè)賦能。
李 祥敬
【技術(shù)解析】萬卡集群的企業(yè)布局、技術(shù)挑戰(zhàn)與解決之道
引言 萬卡集群是指由一萬張及以上的計(jì)算加速卡（如GPU、TPU或其他專用AI加速芯片）組成的高性能計(jì)算系統(tǒng)，主要用于訓(xùn)練和推理大型人工智能模型。這種集群通過整合高性能GPU計(jì)算、高性能RDMA網(wǎng)絡(luò)、高性能并行文件存儲(chǔ)、智算平臺(tái)等關(guān)鍵技術(shù)，將...
李 祥敬
【深度觀察】美國(guó)大選引發(fā)的AI事件大盤點(diǎn)，硅谷產(chǎn)生意見分裂，ChatGPT等各大AI公司處理大選時(shí)暴露問題
引言 【算力豹導(dǎo)讀】這是美國(guó)史上最具戲劇性的一屆大選，更是硅谷投資人們共同決定美國(guó)科技未來的時(shí)刻。 美國(guó)大選向來是全球焦點(diǎn)，但今年，藏于幕后的硅谷眾人們一反常態(tài)，走上候選人集會(huì)講臺(tái)，親自推動(dòng)這場(chǎng)大選走向。 微軟創(chuàng)始人比爾·蓋茨（Bill G...
李 祥敬
三位一體戰(zhàn)略 零一萬物以數(shù)字人、AI Infra解決方案拓展ToB市場(chǎng)
11 月 6 日，繼 10 月中旬發(fā)布全球 SOTA 的新旗艦?zāi)Ｐ?Yi-Lightning 之后，零一萬物首度對(duì)外披露了基于 Yi 模型構(gòu)建的一整套大模型 ToB 解決方案。 基于“Infra+大模型+應(yīng)用”三位一體戰(zhàn)略，零一萬物在模型訓(xùn)...
李 祥敬
算力產(chǎn)業(yè)鏈公司2024 Q3三季度財(cái)報(bào)不完全匯總
1、英特爾公布2024年第三季度財(cái)報(bào) 英特爾Q3營(yíng)收為133億美元（約合人民幣947億元），同比下降6%，環(huán)比增長(zhǎng)4%，超出華爾街預(yù)期。同時(shí)，英特爾公布了其56年歷史上最大的季度虧損——166億美元（約合人民幣1182億元），去年同期凈利潤(rùn)...
李 祥敬
【深度觀察】OpenAI最強(qiáng)版本o1意外泄露，奧特曼完整專訪流出：o系列瘋狂迭代
引言 【算力豹導(dǎo)讀】此前OpenAI滿血版o1模型意外泄露，圖片推理能力驚人，o2版本即將發(fā)布。周末插播OpenAI最新消息 – OpenAI的最新版本o1模型，也就是傳說中的”滿血版”，竟然意外泄露了!...
李 祥敬
綠盟科技重磅發(fā)布多款數(shù)據(jù)要素流通安全能力和大模型創(chuàng)新成果
11月1日，以“無界BOUNDLESS · 數(shù)織未來AI同行”為主題的2024 綠盟科技TechWorld智慧安全大會(huì)在北京如約啟幕。會(huì)上，綠盟科技重磅發(fā)布了多款數(shù)據(jù)要素流通安全能力和大模型創(chuàng)新成果。 01?數(shù)智筑基 近年來，綠盟科技持續(xù)加...
李 祥敬
直播預(yù)告 ｜ 走進(jìn)PPIO派歐云，探索分布式云計(jì)算的奧秘
親愛的朋友們，你是否對(duì)云計(jì)算的未來充滿好奇？你是否想深入了解一家在分布式云計(jì)算領(lǐng)域嶄露頭角的公司？ 2024年11月6日，我們將在視頻號(hào)直播間為你帶來一場(chǎng)精彩的直播——走進(jìn)PPIO派歐云。本次直播將由DOIT傳媒旗下專注于算力領(lǐng)域的“算力豹...
李 祥敬
【深度觀察】Decart AI推出Oasis模型：能交互、可玩的Sora，視頻生成模型或?qū)⑦M(jìn)軍游戲圈？
引言 【算力豹導(dǎo)讀】2024年11月3日，兩家初創(chuàng)公司Decart和Etched宣布，他們打造了一款世界上首個(gè)實(shí)時(shí)、可玩、可交互的世界模型——Oasis。 Oasis經(jīng)過了數(shù)百萬小時(shí)游戲視頻的訓(xùn)練，僅接收用戶的鍵盤輸入即可實(shí)時(shí)生成開放世界游...
李 祥敬
xAI Colossus技術(shù)細(xì)節(jié)公開，馬斯克對(duì)超級(jí)計(jì)算機(jī)投入有多大
Colossus超級(jí)計(jì)算機(jī)由馬斯克旗下的人工智能公司xAI推出，其技術(shù)細(xì)節(jié)令人矚目。該超級(jí)計(jì)算機(jī)采用超威電腦（Supermicro）的服務(wù)器，基于NVIDIA HGX H100方案。每個(gè)服務(wù)器中擁有8個(gè)H100 GPU，封裝在Supermi...
李 祥敬