通用視覺開源平臺OpenGVLab正是基于通用視覺技術體系“書生”(INTERN)打造的。依托“書生”在通用視覺技術上的強勁支撐,OpenGVLab將幫助開發(fā)者顯著降低通用視覺模型的開發(fā)門檻,用更低成本快速開發(fā)用于成百上千種視覺任務、視覺場景的算法模型,高效實現(xiàn)對長尾場景的覆蓋,推動AI技術的規(guī)模化應用。
開放超高性能模型和千萬級精標注數(shù)據(jù)集,降低學界投入成本
OpenGVLab充分繼承了通用視覺技術體系“書生”的技術優(yōu)勢,其開源的預訓練模型具備極高性能。相較于此前公認的最強開源模型(OpenAI 于2021年發(fā)布的CLIP),OpenGVLab的模型可全面覆蓋分類、目標檢測、語義分割、深度估計四大視覺核心任務,在準確率和數(shù)據(jù)使用效率上均取得大幅提升。
基于同樣的下游場景數(shù)據(jù),開源模型在分類、目標檢測、語義分割及深度估計四大任務26個數(shù)據(jù)集上,平均錯誤率分別降低了40.2%、47.3%、34.8%和9.4%;同時,在分類、檢測、分割和深度估計中,僅用10%的下游訓練數(shù)據(jù)就超過了現(xiàn)有其他開源模型。使用此模型,研究人員可以大幅降低下游數(shù)據(jù)采集成本,用極低的數(shù)據(jù)量,即可快速滿足多場景、多任務的AI模型訓練。
同時,OpenGVLab還提供多種不同參數(shù)量、不同計算量的預訓練模型,以滿足不同場景的應用需求。模型庫中列出的多個模型,在ImageNet的微調結果和推理資源、速度等方面,相比之前的公開模型均有不同程度的性能提升。
除了預訓練模型,以百億數(shù)據(jù)總量為基礎,上海人工智能實驗室構建了超大量級的精標注數(shù)據(jù)集,近期將進行數(shù)據(jù)開源工作。超大量級的精標注數(shù)據(jù)集不僅整合了現(xiàn)有的開源數(shù)據(jù)集,還通過大規(guī)模數(shù)據(jù)圖像標注任務,實現(xiàn)了對圖像分類、目標檢測以及圖像分割等任務的覆蓋,數(shù)據(jù)總量級近七千萬。開源范圍涵蓋千萬級精標注數(shù)據(jù)集和十萬級標簽體系。目前,圖像分類任務數(shù)據(jù)集已率先開源,后續(xù)還將開源目標檢測任務等更多數(shù)據(jù)集。
此外,此次開源的超大標簽體系不僅幾乎覆蓋了所有現(xiàn)有開源數(shù)據(jù)集,還在此基礎上擴充了大量細粒度標簽,涵蓋各類圖像中的屬性、狀態(tài)等,極大豐富了圖像任務的應用場景,顯著降低下游數(shù)據(jù)的采集成本。研究人員還可以通過自動化工具添加更多標簽,對數(shù)據(jù)標簽體系進行持續(xù)擴展和延伸,不斷提高標簽體系的細粒度,共同促進開源生態(tài)繁榮發(fā)展。
發(fā)布首個通用視覺評測基準,推動通用視覺模型評測標準統(tǒng)一
伴隨OpenGVLab的發(fā)布,上海人工智能實驗室還開放了業(yè)內首個針對通用視覺模型的評測基準,彌補通用視覺模型評測領域的空白。當前,行業(yè)中已有的評測基準主要針對單一任務、單一視覺維度設計,無法反映通用視覺模型的整體性能,難以用于橫向比較。全新的通用視覺評測基準憑借在任務、數(shù)據(jù)等層面的創(chuàng)新設計,可以提供權威的評測結果,推動統(tǒng)一標準上的公平和準確評測,加快通用視覺模型的產(chǎn)業(yè)化應用步伐。
在任務設計上,全新開放的通用視覺評測基準創(chuàng)新地引入了多任務評測體系,可以從分類、目標檢測、語義分割、深度估計、行為識別5類任務方向,對模型的通用性能進行整體評估。不僅如此,該評測基準新加了僅用測試數(shù)據(jù)集10%數(shù)據(jù)量的評測設定,可以有效評估通用模型在真實數(shù)據(jù)分布下的小樣本學習能力。在測試后,評測基準還會根據(jù)模型的評測結果給出相應的總分,方便使用者對不同的模型進行橫向評測。
隨著人工智能與產(chǎn)業(yè)融合的不斷深入,行業(yè)對人工智能的需求逐漸從單一任務向復雜的多任務協(xié)同發(fā)展,亟需構建開源、開放的體系,以滿足趨于碎片化和長尾化的海量應用需求。
去年7月,上海人工智能實驗室發(fā)布開源平臺體系OpenXLab,涵蓋新一代OpenMMLab和決策AI平臺OpenDILab。此次與商湯科技及高校聯(lián)合發(fā)布通用視覺開源平臺OpenGVLab,不僅能幫助開發(fā)者降低通用視覺模型的開發(fā)門檻,為推動通用視覺技術發(fā)展奠定基礎,也進一步完善了OpenXLab開源體系,促進人工智能的基礎研究和生態(tài)構建。
