我們看到,英特爾的底層硬件架構層面對于PyTorch、TensorFlow、Python等AI相關的軟件支持度很高。同時,英特爾支持開發(fā)者使用oneAPI、SYCLomatic、OpenXLA等跨平臺的開發(fā)工具。最后,英特爾也關注如何提升AI推理的準確性和可靠性。

第二個,價值最大化。AI的應用最終目的是創(chuàng)造實際價值。因此,企業(yè)需要將最合適的工作負載分配到最合適的平臺上,以優(yōu)化資源利用,降低成本,或者說物盡其用。

唐炯提到,AI的成本結構與傳統(tǒng)云計算有顯著不同,云計算的成本效益來源于CPU的高效調度,即通過將CPU的空閑時間分配給不同用戶來降低單個用戶的成本。而在AI時代,AI加速器工作時幾乎沒有空閑時間,也因此打破了傳統(tǒng)云計算的成本結構。

為了實現(xiàn)價值最大化,需要將不同的AI工作負載分配到最合適的硬件平臺上。例如,某些AI任務可以在云端運行,而另一些任務則更適合在邊緣設備(如工廠、醫(yī)院的本地服務器)或端側設備(如PC、手機)上執(zhí)行。

比如,如果企業(yè)的AI任務主要依賴云計算,云端算力的租賃和購買可能會導致高昂的成本。但如果能夠利用端側設備(如PC、手機)的算力,分擔一部分AI計算任務,可以顯著降低整體云端成本。

第三個,靈活部署。AI解決方案涉及廣泛的軟件和硬件堆棧,需要靈活部署各個模塊來實現(xiàn)高效的跨平臺兼容性和工作負載分配。云、邊和端每個場景的需求和條件不同,而AI解決方案涉及復雜的技術堆棧。因此,在這些異構平臺上的靈活部署AI方案也是一大問題。

事實上,沒有一家企業(yè)能夠獨自提供完整的AI解決方案,通常需要多個供應商合作。因此,英特爾提出了“解構”AI解決方案的概念,將復雜的解決方案拆分成更小的模塊,以便在不同硬件上靈活部署和優(yōu)化。

英特爾中國軟件技術合作事業(yè)部總經(jīng)理唐炯

在AI生態(tài)系統(tǒng)中,不同的專業(yè)廠商有各自專注的領域。通過“解構”,每個合作伙伴可以集中精力于自己的專長領域,既不需要跨越到不擅長的領域,也避免了“重復造輪子”的問題。

唐炯還提到了OPEA(Open Platform for Enterprise AI),OPEA是一個面向企業(yè)級AI的開源平臺,旨在通過整合不同廠商的代碼和模塊,形成一個完整的AI解決方案。

OPEA提供一個開放透明的平臺,允許開發(fā)者和企業(yè)更好地理解自己的貢獻和優(yōu)化點,可以避免因選錯大模型或其他技術而導致重大返工。OPEA已經(jīng)吸引了全球范圍內的頭部ISV和國內廠商的參與,并預計將有更多中國的軟件行業(yè)合作伙伴加入其中。

現(xiàn)在,英特爾正在協(xié)同廣大生態(tài)伙伴以優(yōu)化的性能推動業(yè)務拓展,充分釋放企業(yè)AI潛力。在媒體溝通會上,來自東方國信、海鑫智圣和星環(huán)科技的代表也都分享了在推動AI技術發(fā)展上的實踐。

東方國信是一家專注于大數(shù)據(jù)、云計算和人工智能的軟件公司,服務于通信、金融、工業(yè)等多個領域。東方國信副總裁兼CTO 查禮詳細介紹了東方國信的“幕僚”系列智能應用,涵蓋智能BI系統(tǒng)、智能客服、智能APP和智能數(shù)據(jù)倉庫等。

東方國信與英特爾在前沿計算技術領域有很多合作,尤其是在數(shù)據(jù)庫、大數(shù)據(jù)和生成式AI等方面的合作。他強調了雙方在軟硬件協(xié)同和企業(yè)級AI平臺構建上的努力,并表達了希望繼續(xù)合作,共同推進智能計算發(fā)展的愿景。

海鑫智圣是國內最早從事AI相關業(yè)務的企業(yè)之一,海鑫智圣總經(jīng)理孟凡軍介紹了海鑫智圣在機器視覺(CV)領域的大模型應用,并強調公司致力于通過自建算法框架和推理引擎,結合云、邊、端一體化,實現(xiàn)高效、安全、智能的AI解決方案。

海鑫智圣與英特爾也保持著緊密合作關系,通過英特爾提供的OpenVINO和oneAPI等工具,在至強CPU上提升了AI推理性能,有效解決了云廠商在引入AI算力時的挑戰(zhàn)。

星環(huán)科技自2013年成立以來,專注于大模型、知識庫、向量庫等產(chǎn)品的研發(fā),并在多個行業(yè)積累了豐富的客戶資源。星環(huán)科技生態(tài)合作部總經(jīng)理張雷介紹了星環(huán)科技推出的Hippo向量數(shù)據(jù)庫和TKH產(chǎn)品,并分享了這些產(chǎn)品在企業(yè)部署大模型和知識體系中的應用場景。

此外,張雷詳細介紹了與英特爾合作開發(fā)的無涯·問知AI PC版,這款產(chǎn)品可以解決用戶在云端算力不足和數(shù)據(jù)安全方面的挑戰(zhàn)。它不僅緩解了云端算力的資源瓶頸,還為那些無法或不愿將敏感數(shù)據(jù)上傳至公有云的用戶提供了更安全、靈活的本地AI應用解決方案。

分享到

zhupb

相關推薦