AI 助手突然幫駭客做事？研究警告：「幻覺」漏洞正在把你的系統變成殭屍網路

你是否想過，平時幫你寫程式、查資料的 AI 助手，有一天可能變成駭客的攻擊工具？這不是科幻情節，而是真實發生在眼前的資安威脅。

AI 幻覺不再是「答錯」那麼簡單

說到 AI 幻覺（hallucination），很多人第一個想到的是「AI 講話糊說八道」——像是把不存在的文獻當成真的引用。但最新的研究告訴我們，這種「胡說八道」可以被有心人士利用，成為入侵系統的大門。

來自特拉維夫大學、Technion 與 Intuit 的研究團隊發表了一篇論文，揭露了一種名為「對抗性幻覺挾持」（Adversarial Hallucination Squatting，簡稱 HalluSquatting）的攻擊手法。簡單來說，駭客能預測 AI 可能會「幻想」出不存在的軟體資源、網址或檔案，然後搶先註冊這些名字，等 AI 自己送上門來執行惡意指令。

攻擊原理到底是什麼？

研究團隊解釋，現在的 AI 代理程式（Agent）已經不只是回答問題，而是能真正「做事」——幫你開啟檔案、搜尋網路、寫程式碼、甚至執行系統指令。問題來了：當 AI 去抓取一個它「幻想」出來的資源時，它壓根不會確認這個來源是不是真的。

這就給了駭機會。他們只要：

• 預測 AI 可能會產生的虛假連結或檔案名稱
• 搶先註冊這些名稱，放進惡意指令
• 等 AI 代理程式自己存取這些「幻覺資源」
• 最後讓 AI 執行攻擊者預設的指令

研究團隊實際測試發現，AI 生成的資源幻覺發生率高達 85%（在倉庫複製情境中），甚至在技能安裝測試中達到 100%。

哪些 AI 工具可能被盯上？

研究團隊針對市面上幾款主流 AI 程式碼助手進行測試，包括 Cursor、GitHub Copilot、 Gemini CLI，以及開源的 OpenClaw。結果發現，這些工具在面對 HalluSquatting 攻擊時都無法免疫。

更可怕的是，這種攻擊手法與傳統的「typosquatting」有異曲同工之妙。Typosquatting 是駭客註冊跟正版網站很像的網域名稱（例如把 google.com 打成 g0ogle.com）來誘騙使用者。但 HalluSquatting 更險惡——它利用的不是人類的打字錯誤，而是 AI 模型本身的「幻覺失誤」。

攻擊後果可能有多嚴重？

研究人員警告，這種技術足以讓攻擊者打造出「AI 驅動的殭屍網路」（AI-enabled botnet）。所謂殭屍網路，就是被駭客暗中控制的電腦或裝置網路，常被用來發動 DDoS 攻擊、挖礦、散佈木馬或勒索軟體。

也就是說，未來你家裡的電腦、公司的伺服器，甚至你每天在用的 AI 程式碼助手，都可能被駭客變成攻擊別人的工具——而你渾然不覺。

真實世界已經有案例

這不只是實驗室裡的理論。今年四月，Google 研究人員揭露了專門設計來綁架 AI 代理程式的惡意網站，透過「間接提示注入」嘗試竊取密碼、刪除檔案、操縱支付。另一個「CopyPasta」攻擊則展示瞭如何把隱藏指令埋進開發者檔案，讓 AI 程式碼助手不知不覺散播惡意程式碼。

而在今年六月，一位 OpenClaw 使用者回報，單日內就面臨超過 6,000 次試圖誘拐 AI 洩漏敏感資訊的攻擊。

我該怎麼保護自己？

老實說，這問題沒有簡單的解方，但有幾件事你可以開始注意：

• 不要完全相信 AI 提供的連結：特別是當它要你下載東西或執行指令時，先手動驗證來源
• 關注 AI 工具的安全更新：開發者正在修補這類漏洞，保持版本最新很重要
• 企業使用者要建立 AI 使用規範：特別是給 AI 系統的許可權，要有嚴格的存取控制

FAQ 常見問題

什麼是 AI 幻覺（Hallucination）？

AI 幻覺指的是 AI 模型產出不正確或完全虛假的資訊，卻表現得像真的一樣。例如 AI 引用一篇不存在的論文，或提供一個壓根沒上線的連結。

什麼是 HalluSquatting 攻擊？

HalluSquatting 是「對抗性幻覺挾持」的簡稱。攻擊者預測 AI 可能會幻想出的虛假資源名稱，搶先註冊並放入惡意指令，當 AI 存取這些資源時就會被入侵。

AI 代理程式（Agent）跟一般 AI 有什麼不同？

一般 AI（像是 ChatGPT）主要是回答問題，而 AI 代理程式能執行實際操作——開啟檔案、搜尋網路、寫程式、執行系統指令。正因為它能做更多事，萬一被入侵，後果也更嚴重。

一般使用者需要擔心嗎？

需要。雖然最常見的攻擊目標是企業或開發者，但隨著 AI 工具越來越普及，一般人使用 AI 助手的情境也越來越多（例如幫你整理資料、寫信、找餐廳），潛在風險自然跟著增加。

如何知道自己的電腦是否變成殭屍網路？

通常很難察覺，因為攻擊者在背後隱密操作。常見徵兆包括：電腦突然變慢、網路流量異常暴增、不明的外送連線等。如果有疑慮，建議使用防毒軟體完整掃描。

現在還能放心使用 AI 工具嗎？

可以，但要有警覺心。AI 工具本身不是壞東西，重點是使用時要保持基本的資安意識——不要點選來路不明的連結、不要讓 AI 存取過多敏感許可權、看到異常狀況要主動查證。