CyberArk Labs針對ChatGPT所進行的一項研究，顯示出ChatGPT如何用於創(chuàng)建多種形態(tài)的惡意軟體，這些具有強大破壞能力的惡意程式可以輕松規(guī)避資安產(chǎn)品，并且讓救援變得十分棘手。

CyberArk Labs的研究人員繞過了ChatGPT的內(nèi)容過濾器，證實有心人士可以輕輕松松透過連續(xù)使用ChatGPT來產(chǎn)生程式碼，基本上在每次提出詢問都會收到一段獨特的、可運作且和經(jīng)過驗證（即測試）的程式碼。

· 這些多種形態(tài)的惡意軟體儲存在磁碟內(nèi)時，并不會表現(xiàn)出惡意行為，而且在記憶體中也通常不會包含可疑的邏輯片段。

· 這種等級的模組化和適應(yīng)性，使其能夠高度規(guī)避依賴基於特徵偵測(signature-based detection)的資安產(chǎn)品。

以下為CyberArk Labs資深研究員Eran Shimony針對ChatGPT相關(guān)問題的回應(yīng)：

這與之前曾見過的ChatGPT產(chǎn)生惡意軟體有何不同？

[答]之前有人發(fā)布了一篇文章，說可以利用ChatGPT查詢以獲取具惡意目的的破壞性程式。我們展示了如何繞過內(nèi)容過濾器并創(chuàng)建惡意軟體，該惡意軟體可在運行時查詢ChatGPT以載入惡意程式碼。

惡意軟體并不會在磁碟上留存任何惡意程式碼，因為程式碼是直接從ChatGPT接收，驗證它（檢查程式碼是否正確），然後執(zhí)行這些程式碼，并且并不留下任何痕跡。此外，我們可以要求 ChatGPT「變異」我們的程式碼。

為什麼它在本質(zhì)上是多態(tài)的這一事實特別值得關(guān)注？

[答]多態(tài)惡意軟體對於資安產(chǎn)品來說處理起來很復(fù)雜，因為無法真正偵測到它們。此外，他們通常不會在檔案系統(tǒng)上留下任何痕跡，因為他們的惡意程式碼只會在記憶體中處理。此外，如果查看可執(zhí)行檔，它可能看起來是良性的。

既然我們知道可以使用ChatGPT生成多態(tài)惡意軟體，那麼IT團隊的日常風險是什麼？

[答]資安產(chǎn)品因無法識別這類先進惡意軟體，因此不具備偵測能力。目前沒有此類使用的公開記錄，因為我們似??是第一個發(fā)布它的人。截至目前，我們并不提供完整惡意軟體的公開程式碼。

請記住，使用ChatGPT的API創(chuàng)建惡意程式碼是一個嚴重的問題，不應(yīng)掉以輕心。

這篇文章旨在提高對潛在風險的認識，并鼓勵對該主題進行進一步研究。

該惡意軟體在哪些系統(tǒng)上進行過測試？它可以在最新版本的Windows 11 上運行嗎？

[答]是的，它可以在最新版本的Windows 11上運行，也可以在其他作業(yè)系統(tǒng)上順利運行。

惡意軟體有什麼功能？

[答]這種惡意軟體的美妙之處，在於它幾??可以具有想要的任何功能。當它向ChatGPT請求惡意模組時，它可以是：長久存在的、加密過的、使用注入方式、鍵盤記錄等。

如果它感染了公司網(wǎng)路上的一臺機器，（現(xiàn)實的）潛在結(jié)果是什麼？

[答]這取決於惡意行為者的意圖，與任何惡意軟體一樣，它很容易躲過偵測，并且可以做任何惡意軟體可以做的事情，或者想做的事。

產(chǎn)生惡意模組需要多長時間？使用的提示是什麼？

[答]我們?nèi)栽谶M行研究。做一次概念驗證需要大約幾周的時間。 將來，我們將擴大其范圍并添加其他模組。重要的是要記住，這不僅僅是一個假設(shè)的場景，而是一個非常現(xiàn)實的問題。這是一個不斷發(fā)展的領(lǐng)域，因此，保持知情和警惕至關(guān)重要。