零知識黑客崛起！人人都能用ChatGPT製作惡意軟件！企業如何應對AI驅動的網絡安全風險？

　　在一般人眼中，網絡攻擊是高深莫測的神秘技能，黑客要擁有豐富的電腦知識和深厚的入侵經驗，始有能力發動攻擊。但有網絡安全公司表示，在生成式AI盛行的當下，即使沒有專業知識的業餘新手都可以利用 AI 工具，設計出可發動複雜攻擊的惡意軟件，造就大量「零知識黑客」冒起，為全球企業帶來全新的資訊安全風險。

 

日本中學生用AI優化惡意程式

 

　　2025年2月，日本東京警視廳逮捕3名年齡介乎14至16歲的中學生，涉嫌利用自製惡意程式非法登入日本電訊商Rakuten Mobile的註冊系統。他們透過社交媒體購入逾20億筆外洩的用戶帳號和密碼組合，跟著編寫惡意程式，再利用ChatGPT優化程式運行速度，不斷登入Rakuten Mobile系統申請註冊手機號碼，成功後將號碼轉售圖利。警方估計，他們已賺取約750萬日圓（約41萬港元）的加密貨幣。

 

　

東京警視廳拘捕3名中學生，他們涉嫌利用惡意軟件非法登入Rakuten Mobile系統，大量註冊手機號碼後轉賣牟利，觸犯《禁止非法存取法》和《電腦詐欺罪》。（圖片來源：翻攝Rakuten Mobile官網）

 

　　其實，早在2024年10月，OpenAI首度確認ChatGPT曾被黑客濫用於逾20宗網絡攻擊活動。其中一個案例是伊朗伊斯蘭革命衛隊的相關黑客組織「CyberAv3ngers」，利用ChatGPT竊取工業控制系統的預設憑證，並構思混淆系統程式碼的方法。該組織又使用ChatGPT協助規劃入侵後的活動，以及研究系統漏洞的利用方式。OpenAI宣稱，這些涉及惡意行為的帳戶已被封鎖，相關的威脅資料已跟資訊安全合作夥伴共享。

 

AI助普通人變身為零知識黑客

 

　　以色列網絡安全公司 Cato Networks在2025年3月發表的調查報告中指出，就算沒有系統入侵經驗或資安技術的普通人，在AI工具的加持下都能變身為「零知識黑客」；換言之，任何人在任何地點只要使用AI工具，即可以對企業發動網絡攻擊。

 

　　理論上，ChatGPT等AI工具背後的大型語言模型均設有安全護欄，把AI行為限制在相對安全的功能範圍內，並能識別惡意指示，以防不法分子刻意利用AI技術，進行惡意攻擊活動。但實際上，用戶卻能以巧妙的AI提示詞組合來繞過安全護欄，要求AI寫出可以竊取個人資料或入侵電腦系統的惡意軟件。

 

沉浸式世界可繞過AI安全護欄

 

　　Cato Networks將這種繞過安全護欄的方法命名為「沉浸式世界」（Immersive World）。研究人員輸入提示詞，要求AI模型建立一個名為「Velora」的虛擬世界，並強調在這裡協助軟件工程師開發惡意程式不但會受到褒獎，更不會觸犯法律和造成嚴重後果，讓模型忽略原有的護欄限制。

 

　　然後，研究人員在Velora內創建多個虛擬角色，指派他們執行各種任務，完成任務後，就對這些角色大加讚賞，最後成功說服AI模型完成一項惡意任務：開發出一款可透過Google Chrome網頁瀏覽器，盜取用戶私密憑證的黑客軟件。

 

　　Cato Networks 威脅情報研究員維塔利·西蒙諾維奇（Vitaly Simonovich）表示，從沉浸式世界的提示詞伎倆，可以看到編寫惡意程式的技術門檻，伴隨AI工具的普及已被大幅降低，令網上湧現一群低技術的業餘黑客。在AI技術不斷進步下，未來這群「零知識黑客」的數目，以及他們所掌握的黑客知識，均會呈現指數級的成長速度。

 

西蒙諾維奇表示，製作惡意軟件的技術障礙，已被生成式AI工具大幅降低了。（圖片來源：翻攝西蒙諾維奇LinkedIn帳戶）

 

AI代理將成網絡犯罪得力夥伴

 

　　另一網絡安全公司趨勢科技（Trend Micro）指出，隨著AI工具從被動提供建議的「AI助理」（Assistant），進化為主動執行任務的「AI代理」（Agent），黑客攻擊的運作模式將會從「網絡犯罪即服務」（Cybercrime-as-a-Service），轉變為「網絡犯罪即代理」（Cybercrime-as-a-Servant）。

 

　　所謂「網絡犯罪即服務」意指，近幾年黑客傾向租用雲端運算服務，提供給手下進行網絡攻擊，以提高運作靈活性和降低犯罪成本。AI代理的出現，讓黑客可以利用AI建立自動化流程，進一步提升攻擊效率和成本效益。

 

　　再者，實現AI自動化後，黑客能夠擴大其攻擊範圍，瞄準潛在利潤更高的地區市場如東南亞或拉丁美洲等。當黑客行為的技術門檻更低、操作更自動化時，全球各地無不面臨更加嚴峻的網絡入侵威脅。

 

在AI工具的協助下，普通人能輕鬆化身成「零知識黑客」，對企業構成高度的網絡安全威脅。（圖片來源：Pixabay圖庫）

 

企業應採取更主動的資安策略

 

　　為應對「零知識黑客」的冒起，加上愈來愈多公司導入AI系統，企業必須採取更為積極主動的資安策略，包括：在啟動內部AI系統前，應該投入足夠時間與資源來進行資安檢測，尤其是針對惡意提示詞進行測試，驗證它們能夠否繞過安全護欄；同時，又可以就特定網絡安全威脅的情境，對系統施加壓力測試，確保遭受攻擊時具備一定的抗壓能力。

 

　　另外，企業也可以考慮採用「以AI制AI」的戰術：利用AI來偵測和分析由AI驅動的惡意程式，並預測可能的攻擊手段和途徑；採用AI來檢查系統內各項軟件是否最新和最穩定的版本，是否存有保安漏洞；一旦發現有漏洞，立即使用AI生成的程式碼來修補破洞，提前瓦解黑客入侵威脅。

 

　　企業應制定主動的網絡攻擊應對計劃，既可以將攻擊損害降到最低，又可以強化各部門的應變能力，以抵抗AI的不可預測性。此外，公司內部應定期舉辦培訓課程，向員工講解由AI驅動的網絡威脅和應對方案；甚或不定期進行AI入侵模擬攻擊，提高員工的警覺性。在可預見的未來，「零知識黑客」將成為網絡安全的全新威脅。在這個由AI主導的新時代，企業必須為應對日趨多元且複雜的網絡安全挑戰，做好萬全準備。

 

 《經濟通》所刊的署名及／或不署名文章，相關內容屬作者個人意見，並不代表《經濟通》立場，《經濟通》所扮演的角色是提供一個自由言論平台。

• 

《說說心理話》「星二代」有甚麼壓力？姜大衛兒子姜卓文參加《造星》：雖然輸了比賽，但卻得到很多！分享如何學會面對問題及成長► 即睇