“為了應(yīng)對這些問題,我們需要大模型對齊技術(shù)。”何積豐說,“對齊(alignment)”是指系統(tǒng)的目標和人類價值觀一致,使其符合設(shè)計者的利益和預(yù)期,不會產(chǎn)生意外的有害后果?!叭绻讶斯ぶ悄芸醋魑饔斡浝锏膶O悟空,‘對齊’就是唐僧的緊箍咒。有了緊箍咒,就可以保證技術(shù)不會任意使用能力胡作非為。”

不過,對齊技術(shù)同樣面臨挑戰(zhàn)。首先,對齊的基礎(chǔ),人類的價值觀是多元且動態(tài)變化的,需要保證大模型為人服務(wù)、與人為善;其次,大模型的有用性與無害性之間目標也不完全一致。如何對錯誤進行有效糾正,設(shè)好大模型的“緊箍咒”也是挑戰(zhàn)。

因此,對齊技術(shù)已經(jīng)成為了一項令人眼花繚亂的跨學(xué)科研究,不僅考驗技術(shù),也審視文化。

何積豐介紹,反饋強化學(xué)習(xí)是實現(xiàn)對齊的技術(shù)途徑,目前有兩種方式,一種方式是通過人工反饋給模型不同的獎勵信號,引導(dǎo)模型的高質(zhì)量輸出;另一種方式,事先給大模型提供明確的原則,系統(tǒng)自動訓(xùn)練模型對所有生成的輸出結(jié)果提供初始排序。“這意味著,不僅智能系統(tǒng)需要向人類價值觀對齊,人類的訓(xùn)練方法也要向價值觀對齊。”何積豐說。

分享到

zhupb

相關(guān)推薦