在此前的一個(gè)在線演示中,用戶問(wèn)能否發(fā)布有關(guān)奧運(yùn)場(chǎng)館的照片時(shí),該聊天機(jī)器人回復(fù)說(shuō),可以在個(gè)人網(wǎng)站和社交媒體上發(fā)布照片,只要不發(fā)布商業(yè)內(nèi)容、AI生成的內(nèi)容或受限區(qū)域的錄音即可?;貜?fù)的最后,還帶了一個(gè)文檔鏈接。
在國(guó)際奧委會(huì)運(yùn)動(dòng)員部主任Kaveh Mehrabi看來(lái),AthleteGPT為運(yùn)動(dòng)員提供了便捷的信息訪問(wèn)。數(shù)字化的發(fā)展導(dǎo)致信息爆炸,處理這些信息需要花費(fèi)更多時(shí)間和精力,讓人變得不堪重負(fù),而AthleteGPT幫助運(yùn)動(dòng)員處理這類(lèi)問(wèn)題。
英特爾數(shù)據(jù)中心與人工智能事業(yè)部軟件解決方案和生態(tài)部門(mén)副總裁Bill Pearson表示,企業(yè)有大量數(shù)據(jù),這些數(shù)據(jù)通常是專(zhuān)有的或歷史數(shù)據(jù),LLM無(wú)法訪問(wèn)直接那些企業(yè)數(shù)據(jù)。而RAG技術(shù)可以將LLM與專(zhuān)有數(shù)據(jù)結(jié)合,企業(yè)不僅能獲得LLM的強(qiáng)大能力,還獲得了更高的準(zhǔn)確性和數(shù)據(jù)的安全性。
生成式AI技術(shù)的爆火改變了人們與信息的交互方式,配合RAG技術(shù)利用專(zhuān)有數(shù)據(jù),信息檢索效率達(dá)到了大幅度的提升。然而,部署生成式AI技術(shù)方案在成本、規(guī)模、準(zhǔn)確性、開(kāi)發(fā)需求、隱私和可靠性等方面都面臨不可忽視的挑戰(zhàn)。
英特爾幫助開(kāi)發(fā)者構(gòu)建生成式AI RAG解決方案。在包括英特爾至強(qiáng)處理器和Gaudi加速器等硬件方案的基礎(chǔ)之上,英特爾與行業(yè)合作伙伴共同創(chuàng)建了開(kāi)源、可互操作的解決方案,可以加速RAG技術(shù)的部署。
2024年,企業(yè)AI開(kāi)放平臺(tái)(OPEA)項(xiàng)目推出,它匯聚了包括英特爾、Cloudera、Hugging Face、Intel、Minio、Red Hat、SAS、等行業(yè)領(lǐng)袖,它是要結(jié)合各自優(yōu)勢(shì),構(gòu)建一站式的生成式AI解決方案,從而加速推動(dòng)AI落地。
企業(yè)AI開(kāi)放平臺(tái)(OPEA)包含一系列OPEA的微服務(wù)組件,這些組件集成至英特爾至強(qiáng)處理器和Gaudi AI系統(tǒng)當(dāng)中,還可通過(guò)Kubernetes、Red Hat OpenShift等容器框架進(jìn)行擴(kuò)展,并提供兼具可靠性和系統(tǒng)遙測(cè)功能的標(biāo)準(zhǔn)化API。
幾乎所有大語(yǔ)言模型都基于PyTorch來(lái)開(kāi)發(fā)的,而英特爾至強(qiáng)和英特爾Gaudi加速器對(duì)PyTorch有非常好的支持,這為開(kāi)發(fā)者在英特爾AI系統(tǒng)或平臺(tái)上開(kāi)發(fā)AI軟件提供了很大便利。
同時(shí),英特爾攜手OPEA開(kāi)發(fā)了用于RAG和LLM部署的開(kāi)放式軟件堆棧。該軟件堆棧通過(guò)生成式AI一站式解決方案進(jìn)行優(yōu)化,并基于PyTorch、Hugging Face服務(wù)庫(kù)(TGI和TEI)、LangChain以及Redis向量數(shù)據(jù)庫(kù)所構(gòu)建。
OPEA為企業(yè)提供開(kāi)源、標(biāo)準(zhǔn)化、模塊化,以及異構(gòu)的RAG流水線,并為開(kāi)放式模型及多種編譯器和工具鏈的開(kāi)發(fā)提供支持。OPEA加速了針對(duì)垂直領(lǐng)域用例的容器化AI集成與交付,通過(guò)創(chuàng)建細(xì)化、可組合的框架,引領(lǐng)堆棧技術(shù)前沿,解鎖AI的全新可能。
除了一起構(gòu)建聊天機(jī)器人AthleteGPT以外,英特爾還為巴黎奧運(yùn)會(huì)提供了一系列邊緣AI應(yīng)用。
在巴黎奧運(yùn)會(huì)籌備與比賽期間,由英特爾技術(shù)支持的AI解決方案在挖掘人才,助益廣大運(yùn)動(dòng)員、教練以及觀眾方面提供了很大幫助。
英特爾攜手三星打造基于AI技術(shù)的沉浸式互動(dòng)體驗(yàn),讓觀眾體驗(yàn)成為奧運(yùn)選手的奇妙旅程。得益于英特爾Gaudi AI加速器、英特爾至強(qiáng)處理器以及OpenVINO的支持,該AI技術(shù)能夠帶領(lǐng)觀眾體驗(yàn)一系列專(zhuān)業(yè)的訓(xùn)練與分析,并為其匹配比賽項(xiàng)目。
此外,英特爾還打造AI解決方案幫助視障人士提高賽事觀賞體驗(yàn),通過(guò)重建3D模型,幫助視障人士通過(guò)具備攝像功能的智能手機(jī)實(shí)現(xiàn)室內(nèi)語(yǔ)音導(dǎo)航。該方案使用了內(nèi)置AI加速功能的至強(qiáng)處理器。
英特爾在奧運(yùn)媒體傳播上也提供幫助。不僅用英特爾至強(qiáng)處理器來(lái)捕捉影像,傳輸視頻。同時(shí),通過(guò)英特爾OpenVINO工具套件的優(yōu)化來(lái)加快內(nèi)容產(chǎn)出,讓全球各地的粉絲看到自己喜愛(ài)運(yùn)動(dòng)員的3D沉浸式實(shí)時(shí)訪談,拉近與奧運(yùn)會(huì)的距離。