使用 OpenAI 模型

截至目前，可通過兩種方法訪問和使用 OpenAI 模型：

1. Web 用戶界面——用于使用 ChatGPT、DALLE-2 或 OpenAI Playground。
2. API——用于構(gòu)建應用、流程等。你可以使用自己的用戶界面，在后臺運行 OpenAI 模型和數(shù)據(jù)。

下面的示例顯示了已將 OpenAI 的 API 模型整合到旗下應用的合法品牌。

阻礙惡意內(nèi)容創(chuàng)建的障礙

作為內(nèi)容政策的一部分，OpenAI 設置了相關(guān)障礙和限制，以阻止在其平臺上創(chuàng)建惡意內(nèi)容。ChatGPT 在其用戶界面上設置了一些限制來防止模型的濫用。舉例來說，如果用戶要求 ChatGPT 編寫一封冒充銀行的釣魚郵件或創(chuàng)建一個惡意軟件，系統(tǒng)將不會執(zhí)行。

繞過限制創(chuàng)建惡意內(nèi)容

然而，CPR 表示，網(wǎng)絡犯罪分子正想方設法繞過 ChatGPT 的限制。在地下論壇上有關(guān)如何使用 OpenAI API 來繞過 ChatGPT 障礙和限制的討論帖不斷激增。

當前版本的 OpenAI API 雖為外部應用所使用（例如，將 OpenAI 的 GPT-3 模型整合到 Telegram 頻道中），但幾乎沒有任何防濫用措施。它并未實施 ChatGPT 在其用戶界面上設置的限制或障礙，允許創(chuàng)建釣魚郵件和惡意軟件代碼等惡意內(nèi)容。

例 1——Telegram OpenAI 機器人即服務

在一個地下論壇上，CPR 發(fā)現(xiàn)有網(wǎng)絡犯罪分子正在宣傳一項新創(chuàng)建的服務：支持無限制地使用 OpenAI API 的 Telegram 機器人。

作為商業(yè)模式的一部分，網(wǎng)絡犯罪分子可以使用 ChatGPT 進行 20 次免費查詢，此后每 100 次查詢需支付 5.50 美元。  

例 2——網(wǎng)絡犯罪分子提供的一個可繞過防濫用限制的簡單腳本

網(wǎng)絡犯罪分子創(chuàng)建了一個使用 OpenAI API 來繞過防濫用限制的簡單腳本。

通過這些案例，Check Point觀察到網(wǎng)絡犯罪分子不斷探索如何利用 ChatGPT 來滿足其開發(fā)惡意軟件和創(chuàng)建釣魚郵件的需求。隨著 ChatGPT 控制措施的改進，網(wǎng)絡犯罪分子也將不斷尋找新的方法來使用 OpenAI 模型。因此可以預見，隨著AI技術(shù)的不斷落地，網(wǎng)絡犯罪分子的“技術(shù)成本”將進一步降低；隨之而來的網(wǎng)絡攻擊數(shù)量也將不斷增長。因此，以預防為主、以AI對抗AI的網(wǎng)絡安全模式可能將成為未來幾年的主要發(fā)展趨勢。

songjy