Hart Rossman是亞馬遜云科技全球客戶安全技術(shù)支持與服務(wù)副總裁，他的工作以保障服務(wù)的安全為主，同時(shí)推動(dòng)亞馬遜云科技在安全領(lǐng)域的持續(xù)創(chuàng)新和改進(jìn)。

安全工作的領(lǐng)導(dǎo)者一定要了解新技術(shù)

Hart認(rèn)為，作為安全工作的領(lǐng)導(dǎo)者，一定要先了解所要保護(hù)的技術(shù)內(nèi)容才能提供安全保護(hù)。

一位銀行的首席安全官向 Hart表示，他希望他的安全領(lǐng)導(dǎo)者首先是銀行從業(yè)者，其次才是安全從業(yè)者。他雇用了很多安全工作者，但他始終認(rèn)為，只有當(dāng)他們成為行業(yè)專家時(shí)，才能夠做出正確的安全和風(fēng)險(xiǎn)管理決策。

對(duì)于了解機(jī)器學(xué)習(xí)的人來說，生成式AI也不是什么新奇的事物，只是因?yàn)樗鼛砹诵碌幕?dòng)方式而格外引人矚目。事實(shí)上，亞馬遜云科技在這一領(lǐng)域也深耕許久。

Hart認(rèn)為，生成式AI是安全領(lǐng)域的一個(gè)關(guān)鍵時(shí)刻。為了幫助客戶進(jìn)行創(chuàng)新，安全領(lǐng)導(dǎo)者必須深刻理解技術(shù)原理和應(yīng)用場(chǎng)景，并開發(fā)新的安全手段。

眼下，生成式AI的用例還不明確，但客戶和業(yè)務(wù)人員那里或許有更好的答案，了解這些需求可以更好地幫助他們實(shí)現(xiàn)快速創(chuàng)新。

所以，安全工作最大的挑戰(zhàn)就是，既要讓用戶能快速行動(dòng)來實(shí)現(xiàn)創(chuàng)新，同時(shí)又要保持安全，兩者顯然存在一定的矛盾，需要做出權(quán)衡。

Hart表示，為了確保生成式AI技術(shù)的安全應(yīng)用，我們需要更新思維模式，需要重新考慮如何保護(hù)我們的工作負(fù)載、業(yè)務(wù)和創(chuàng)新。

生成式AI安全范圍矩陣與三個(gè)實(shí)踐經(jīng)驗(yàn)

為此，亞馬遜云科技在幾個(gè)月前發(fā)布了生成式AI安全范圍矩陣，它總結(jié)了在安全領(lǐng)域的研究成果，幫助安全領(lǐng)導(dǎo)者、開發(fā)者和審計(jì)員思考生成式AI技術(shù)應(yīng)用場(chǎng)景。

Hart介紹稱，亞馬遜云科技自身在使用范圍矩陣的時(shí)候，也學(xué)到了三項(xiàng)重要的經(jīng)驗(yàn)。

首先，身份和訪問控制的重要性。確保身份和訪問控制的正確性是非常重要的，要遵循“最小權(quán)限原則”，確保沒有人能利用生成式AI服務(wù)獲取他們通常不能訪問的信息。期間會(huì)用到Cedar、Verified Permissions、Amazon IAM和Access Analyzer等技術(shù)。

第二點(diǎn)，與數(shù)據(jù)所有者合作，而不是單獨(dú)進(jìn)行開發(fā)。個(gè)體貢獻(xiàn)者在開發(fā)生成式AI應(yīng)用時(shí)，應(yīng)與數(shù)據(jù)所有者溝通，因?yàn)樗麄兊挠?jì)劃中可能已經(jīng)包含了類似的想法，從而避免重復(fù)工作。此外，個(gè)人貢獻(xiàn)者可以提供反饋，協(xié)助優(yōu)化用例和安全模型，確保項(xiàng)目更好地部署。

第三點(diǎn)，要全面考慮整個(gè)架構(gòu)。在引入新技術(shù)時(shí)，常常會(huì)關(guān)注新技術(shù)的新穎性，容易忽略整體架構(gòu)。生成式AI應(yīng)用不是孤立部署的，而是復(fù)雜系統(tǒng)的一部分，因此需要全面考慮整個(gè)架構(gòu)，確保實(shí)施合適的控制措施，對(duì)整個(gè)基礎(chǔ)設(shè)施和工作流的生命周期進(jìn)行審計(jì)。

亞馬遜云科技面向生成式AI開展的安全工作

除了這些經(jīng)驗(yàn)之談，亞馬遜云科技在產(chǎn)品技術(shù)層面也有很多安全相關(guān)的舉措，在Amazon Nitro、Amazon KMS等技術(shù)的基礎(chǔ)之上，還面向生成式AI相關(guān)服務(wù)做了很多有針對(duì)性的優(yōu)化。

Amazon Bedrock和Amazon SageMaker是亞馬遜云科技在AI方面的重要服務(wù)，都可以簡(jiǎn)化模型的驗(yàn)證和定制過程。其中，Amazon Bedrock可以確保數(shù)據(jù)在傳輸和存儲(chǔ)中是加密狀態(tài)，同時(shí)，搭配Guardrails可以確保模型輸出的安全性。

此外，新公布的安全參考架構(gòu)可以更好地將所有工具進(jìn)行整合。亞馬遜云科技還將各種云服務(wù)和工具整合在一起，以確保生成式AI的安全性和可觀測(cè)性，其中會(huì)涉及到一些安全工具，比如Amazon Maci、Amazon Inspector、Amazon Detector等。

亞馬遜云科技還在利用生成式AI改進(jìn)安全工作流程。比如，基于Amazon Bedrock開發(fā)的支持系統(tǒng)，可以利用生成式AI幫助安全響應(yīng)人員提高效率，可以快速、安全地識(shí)別、分類問題，甚至可以與其他工具和調(diào)查技術(shù)相關(guān)聯(lián)，加快處理的速度。

有了這套系統(tǒng)，在解決安全問題時(shí)，大概平均使用10個(gè)查詢或提示詞即可。Hart表示，我原本不確定它會(huì)如此有用，但結(jié)果安全人員都非常喜歡，它極大加速了他們以高標(biāo)準(zhǔn)調(diào)查和解決問題的速度，這非常棒。

亞馬遜云科技的客戶事件響應(yīng)團(tuán)隊(duì)（CIRT）專門幫助客戶處理在亞馬遜云科技共享責(zé)任模型下發(fā)生的安全事件，在看到Amazon Bedrock和Amazon Q之后，該團(tuán)隊(duì)也在考慮如何利用這些技術(shù)提供更好的響應(yīng)體驗(yàn)，幫助事件響應(yīng)人員更充分了解所調(diào)查的領(lǐng)域。

為了探索如何更好地應(yīng)對(duì)涉及生成式AI系統(tǒng)的安全問題，并研究使用生成式AI提高調(diào)查結(jié)果的方法，亞馬遜云科技提出了一個(gè)心智模型（Mental model），模型包含七個(gè)調(diào)查要素，涉及訪問控制、計(jì)算變更等多個(gè)方面。

安全實(shí)踐要付諸行動(dòng)

最后，Hart強(qiáng)調(diào)說，作為安全工作的領(lǐng)導(dǎo)者，不要把了解到的最佳實(shí)踐停留在紙面上，而是要付諸實(shí)踐，通過部署生成式AI技術(shù)來提高安全操作水平。

亞馬遜云科技提供了工具和經(jīng)驗(yàn)，幫助安全工作的領(lǐng)導(dǎo)者可以更快、更安全地展開創(chuàng)新，并為客戶提供更好的安全保障。

Hart的介紹展示了生成式AI在安全領(lǐng)域的巨大潛力，并提供了具體的實(shí)踐指南，幫助安全專業(yè)人員在快速創(chuàng)新和保持安全之間找到平衡。

zhupb