(QAnything系統(tǒng)架構(gòu)圖)

值得一提的是,本次開(kāi)源的QAnything是一套完整的RAG系統(tǒng),包括專門優(yōu)化的自研的embedding和rerank模型,微調(diào)后的LLM,優(yōu)化后的推理代碼,向量數(shù)據(jù)庫(kù),以及一個(gè)立即上手可用的前端。所有的算法模型(包括7B大模型+embedding/rerank+OCR)占用顯存不超過(guò)16G。

如今,QAnything已在有道的多個(gè)產(chǎn)品中應(yīng)用,包括有道翻譯文檔問(wèn)答、有道速讀及有道內(nèi)部業(yè)務(wù)的客服系統(tǒng)等。

以有道速讀為例,它是前不久子曰教育大模型最新發(fā)布的創(chuàng)新應(yīng)用成果之一,目前上線在有道翻譯中。針對(duì)大家在日常生活中的閱讀文檔需求,有道速讀內(nèi)置了文檔問(wèn)答、文章摘要、要點(diǎn)解讀、引文口碑和領(lǐng)域綜述五大功能,能夠幫大家更快更準(zhǔn)地獲得信息和對(duì)文檔的理解。而該功能背后的驅(qū)動(dòng)就是QAnything,在大模型技術(shù)的加持下,用戶能夠?qū)崿F(xiàn)快速理解文檔、定位要點(diǎn),實(shí)現(xiàn)1分鐘讀完萬(wàn)字長(zhǎng)文。

“目前,QAnything項(xiàng)目還在不斷迭代,歡迎大家參與開(kāi)發(fā),并給予我們更多反饋。我們希望能幫助有需要的開(kāi)發(fā)者們,和更多伙伴一起推動(dòng)大模型的落地?!本W(wǎng)易有道首席科學(xué)家段亦濤介紹道。

分享到

xiesc

相關(guān)推薦