澳洲監管機構警告：Grok AI 助長圖像濫用投訴激增，AI 深偽威脅浮現

最近，澳洲獨立網路安全監管機構發出警告，指出 Elon Musk 旗下 xAI 開發的 Grok AI 正在被濫用，生成未經授權的性化圖像，導致相關投訴在近幾個月內翻倍。澳洲網路安全專員 Julie Inman Grant 強調，部分投訴涉及潛在的兒童性剝削材料，另一些則與成人遭受圖像性騷擾有關。這項發展無疑為人工智慧倫理與網路安全敲響了警鐘。

Inman Grant 在 LinkedIn 上表示：「我對於生成式人工智慧被日益用於性化或剝削人們，特別是涉及兒童的情況，深感擔憂。」 這番言論是在國際社會對 Grok 的抵制聲浪日益高漲之際發表的。Grok 可以在 X 平台上直接提示，以修改使用者的照片，這引起了廣泛的關注與擔憂。

Inman Grant 警告說，人工智慧生成「超逼真內容」的能力，使得不法分子更容易製造合成性虐待內容，同時也讓監管機構、執法部門和兒童安全團體難以應對。與 ChatGPT 等競爭對手不同，Musk 的 xAI 將 Grok 定位為一種「前衛」的替代方案，可以生成其他人工智慧模型拒絕產生的內容。去年八月，xAI 甚至推出了「Spicy Mode」，專門用於創建露骨內容，進一步加劇了問題的嚴重性。這也顯示了在追求技術創新的同時，必須嚴格把關倫理底線的重要性。

根據澳洲現行的法規，網路服務必須實施保護措施，以防止兒童性剝削材料的出現，無論這些材料是否由人工智慧生成。去年，澳洲網路安全監管機構對廣泛使用的「nudify」服務採取了執法行動，迫使其退出澳洲市場。這表明澳洲政府對於網路安全問題的重視，以及保護弱勢群體的決心。

Inman Grant 強調：「我們現在已經進入了一個時代，公司必須確保生成式人工智慧產品在產品生命週期的每個階段都內建適當的安全措施和防護欄。」她指出，網路安全監管機構將利用其所有監管工具「進行調查並採取適當的行動」。 去年九月，Inman Grant 成功獲得了澳洲首例 deepfake 處罰，聯邦法院判處黃金海岸男子 Anthony Rotondo 212,000 美元（343,500 澳元）的罰款，原因是其發布了澳洲著名女性的 deepfake 色情內容。 在 Rotondo 無視移除通知後，網路安全專員於 2023 年將其告上法庭。Rotondo 聲稱移除通知「對他毫無意義」，因為他不是澳洲居民，然後通過電子郵件將圖像發送給 50 個地址，包括 Inman Grant 的辦公室和媒體機構。 這一事件充分暴露了 deepfake 技術被濫用的潛在危害，以及跨國執法的複雜性。

澳洲立法者的回應：推動更嚴格的保護措施

澳洲立法者正在推動制定更嚴格的法律，以保護民眾免受未經授權的 deepfake 侵害。 獨立參議員 David Pocock 在 11 月提出了《2025 年線上安全及其他立法修正案（我的臉，我的權利）法案》，該法案將允許對分享未經授權 deepfake 的個人處以 102,000 美元（165,000 澳元）的罰款，而對於不遵守移除通知的公司，則處以高達 510,000 美元（825,000 澳元）的罰款。Pocock 在一份聲明中批評政府在人工智慧保護方面「無所作為」，並表示：「我們現在生活在一個越來越多的人可以創建 deepfake 並隨意使用的世界。」他的法案旨在填補現有法律的漏洞，為受害者提供更有效的法律保護。

面對新興的人工智慧技術，我們需要更全面的風險評估與管理。這不僅包括技術層面的安全防護，更需要法律法規的完善與倫理規範的建立。只有這樣，我們才能在享受科技帶來便利的同時，最大限度地降低其潛在的風險。

Deepfake 的威脅：不僅僅是色情

Deepfake 技術不僅被用於製作色情內容，還可能被用於散布假新聞、詐騙，甚至干擾選舉。想像一下，一段看似真實的政治人物的影片，實際上是由人工智慧合成的，目的是為了抹黑對手或影響選民的意向。這種情況並非不可能，而是已經成為現實的威脅。因此，我們需要提高警惕，學會辨別真假資訊，並支持相關立法，以遏制 deepfake 的濫用。

想想看，未來我們的軟體、影片，甚至專案都可能受到deepfake 的影響。區塊鏈技術或許能提供一些解決方案，例如透過驗證數位內容的真實性來防止偽造。但這需要整個社會共同努力，包括政府、企業、研究機構和個人，才能建立一個更安全、更可信賴的數位環境。

台灣的挑戰與應對

在台灣，我們也需要關注人工智慧帶來的挑戰，並制定相應的應對策略。隨著智慧型手機的普及和網路使用的普及，deepfake 的威脅也越來越大。政府應該加強對人工智慧技術的監管，並提高民眾的媒體素養，讓大家能夠辨別真假資訊。同時，企業也應該負起社會責任，開發更安全的產品和服務，保護使用者的權益。此外，學術界也應該加強相關研究，探索deepfake 的檢測方法和防禦技術。只有這樣，我們才能在享受人工智慧帶來的好處的同時，有效地應對其潛在的風險。

總之，Grok AI 助長圖像濫用投訴激增，以及 deepfake 技術的濫用，都提醒我們人工智慧的發展需要更謹慎的態度和更全面的風險管理。我們必須在追求技術創新的同時，嚴格遵守倫理規範，並制定相應的法律法規，以保護民眾的權益。只有這樣，我們才能確保人工智慧技術能夠為社會帶來真正的福祉，而不是成為危害社會的工具。