自然語言理解是人工智能的核心技術(shù)之一,GLUE Benchmark(通用語言理解評估基準)比賽排名是衡量自然語言理解技術(shù)水平的重要指標。比賽設置了自然語言推斷、語義相似度、問答匹配、情感分析等9項任務,最后按平均分綜合排名。達摩院NLP團隊取得了CoLA、MRPC、QQP、WNLI等4個任務的最佳效果,以平均分90.3分位列第一,阿里AI的表現(xiàn)已經(jīng)顯著超越人類水平(87.1分)。
在自然語言理解領(lǐng)域,阿里AI實力雄厚。早在2018年初,阿里AI就在機器閱讀理解頂級賽事SQuAD中打破世界紀錄,首次超越人類成績;在2019年阿里AI也曾登頂GLUE榜單,并于2019年6月在常識QA領(lǐng)域的權(quán)威數(shù)據(jù)集CommonsenseQA中奪冠,還刷新了MS MARCO文本閱讀理解挑戰(zhàn)賽的紀錄,在開放域問答任務上超越人類閱讀水平。
自然語言理解技術(shù)的目的是讓機器理解人類語言,在人工智能研究者的努力下,人類為機器研發(fā)的”基礎語言模型”正不斷演進。Google于2018年底推出的BERT模型是業(yè)界廣泛使用的自然語言預訓練模型,達摩院NLP團隊在BERT的基礎上提出優(yōu)化模型StructBERT,能讓機器更好地掌握人類語法,加深對自然語言的理解。
使用StructBERT模型好比給機器內(nèi)置一個”語法識別器”,使機器在面對語序錯亂或不符合語法習慣的詞句時,仍能準確理解并給出正確的表達和回應,大大提高機器對詞語、句子以及語言整體的理解力。其相關(guān)成果已被國際人工智能領(lǐng)域頂級會議ICLR-2020收錄。
據(jù)悉,這一技術(shù)已廣泛使用于阿里旗下阿里小蜜、螞蟻金服、優(yōu)酷等業(yè)務。阿里達摩院的語言模型和閱讀理解技術(shù)也被用于行業(yè)賦能,推進AI技術(shù)在醫(yī)療、電力、金融等行業(yè)的落地。