圖片來(lái)自網(wǎng)絡(luò)
只要是被應(yīng)用在重要架構(gòu)的AI系統(tǒng)都被視為高風(fēng)險(xiǎn),從重大的基礎(chǔ)設(shè)施、教育/職業(yè)訓(xùn)練、產(chǎn)品的安全配件、招募/員工管理系統(tǒng)、必要的私人與公共服務(wù)、執(zhí)法、移民/庇護(hù)/邊境管制管理,以及司法與民主程序等。
在這些高風(fēng)險(xiǎn)領(lǐng)域嵌入AI系統(tǒng)時(shí),都必須遵守嚴(yán)格的義務(wù),包括經(jīng)過(guò)適當(dāng)?shù)娘L(fēng)險(xiǎn)評(píng)估,擁有高品質(zhì)的訓(xùn)練數(shù)據(jù)集,記錄活動(dòng)利于追蹤,詳細(xì)的文件,適當(dāng)?shù)娜藶楸O(jiān)督,以及高度安全與精確性。
此外,所有遠(yuǎn)程的生物辨識(shí)系統(tǒng),都被列為必須符合嚴(yán)格限制的高風(fēng)險(xiǎn)應(yīng)用,原則上禁止執(zhí)法機(jī)構(gòu)于公共場(chǎng)合中使用相關(guān)系統(tǒng),少數(shù)的例外則可能出現(xiàn)在找尋失蹤兒童、避免緊急的恐怖威脅,或者是用來(lái)偵測(cè)與定位已確定或涉嫌重大刑事案件的犯人,在使用前必須獲得司法機(jī)構(gòu)或其它獨(dú)立機(jī)構(gòu)的授權(quán),且必須限制使用時(shí)間。
有限風(fēng)險(xiǎn)的AI應(yīng)用則具有透明化義務(wù),例如使用者必須知道自己是與聊天機(jī)器人對(duì)話。最小風(fēng)險(xiǎn)的AI應(yīng)用包括AI影音游戲或垃圾郵件過(guò)濾機(jī)制等,歐盟表示,絕大多數(shù)的AI系統(tǒng)都落在這個(gè)類(lèi)別,而該類(lèi)別亦允許人們自由使用,不會(huì)受到新法規(guī)的規(guī)范。
相關(guān)法案將會(huì)在歐洲議會(huì)及歐盟會(huì)員國(guó)采納之后實(shí)施。