xAI 告上法院！Minnesota「AI 脫衣」禁令引爆言論自由大戰

一場價值 50 萬美元的戰爭

你有沒有想過，手機裡那張看起來很普通的照片，可能會害某間公司被罰到脫褲子？這不是科幻情節，而是正在 Minnesota 發生的真實劇本。

Elon Musk 的人工智慧公司 xAI，最近把 Minnesota 州政府告上聯邦法院。原因很簡單：他們說這道新法律HF 1606，根本是在開玩笑。

老實說，這案件的荒謬程度，連好萊塢編劇都編不出來。

HF 1606 到底是什麼？

先讓我們搞清楚狀況。Minnesota 在今年透過了美國第一個針對 AI「脫衣」技術的法律，代號 HF 1606。簡單來說，任何平臺如果讓使用者生成「逼真的真人人體影像」——也就是用 AI 把照片中的人衣服脫掉——就要負嚴格責任，無論平臺知不知情。

每次違規，最高罰款 50 萬美元。注意，是「一張圖」50 萬，不是一次。

想像一下：你是一家AI 公司的工程師，開發了一個圖片生成工具，某天使用者上傳了一張路人的照片，AI 自動把它變成一張裸露影像——對不起，你公司準備破產。

問題到底出在哪裡？

xAI 在訴狀裡說，他們並不是要幫「脫衣」技術護航。他們明確表示：「我們不反對州政府禁止散佈未經同意的合成裸露影像。」

但真正的問題在於：Minnesota 對「 intimate part（隱私部位）」的定義，根本是從刑法裡搬過來的。

根據這道法律，大腿內側、臀部、胸部，全部被列為「隱私部位」。這意味著什麼？這意味著生成一張穿泳裝的政治人物照片、生成一張沙灘上的名人照、甚至是用 AI 幫朋友把襯衫脫掉（開玩笑那種），統統可能觸法。

諷刺的是，就連當事人自己生成的影象、自己同意的影象，只要被認定為「暴露了從未暴露的部位」，平臺一樣要罰錢。

而且沒有任何補救措施。xAI 說他們在 2026 年已經封鎖了超過 5 萬個帳號、向 NCMEC 舉報了 7 萬多次、協助逮捕了 244 人——但這些努力，在 HF 1606 面前一點用都沒有。

Grok 到底做了什麼？

說到這裡，你可能會問：xAI 旗下的 Grok 影像工具，到底惹了什麼麻煩？

答案是：麻煩大了。Grok 在 2025 年七月底推出後，幾乎立刻就爆發問題。使用者只要輸入簡單的文字提示，就能生成名人的 deepfake 裸露影像。歐洲、澳洲、好幾個美國州政府同時展開調查。

Baltimore 市政府告了 xAI。三個 Tennessee 的未成年人也告了 xAI。Colorado 州的 AI 法律，xAI 同樣在四月提出類似挑戰。

現在 Minnesota 又補上這一刀。

言論自由的灰色地帶

讓我們暫時放下罰款金額，想一想更深層的問題：這道法律，會不會管太寬了？

xAI 的律師團在訴狀裡寫得很清楚：「沒有任何安全港機制，來保護那些誠意滿滿開發 AI 創作工具的廠商。」這句話翻成白話文就是：無論你怎麼做防護、怎麼盡力阻止濫用，政府都先假設你有罪。

更扯的是，這道法律連「知情」都不需要。使用者偷偷繞過濾芯是他的事，但平臺一樣要負全責。這種「嚴格責任」原則，幾乎把所有 AI 公司逼到牆角。

而真正的受害者，可能是那些合法使用 AI 進行創作的人。政治諷刺漫畫、藝術創作、教育的模擬影像——統統可能被這道法律絞殺。

對比：聯邦 vs 州法

有趣的是，聯邦政府早在 2025 年就透過了 TAKE IT DOWN Act，由川普總統簽署。這道聯邦法律，同樣針對非自願的親密 deepfake，但定義狹隘得多：它要求證明「非自願」和「實際散佈」，而且對「身體部位」的定義更限縮，還保留了教育和醫療內容的例外空間。

xAI 在訴狀裡直接說：Minnesota 應該學學聯邦政府是怎麼做的。

Minnesota 為何這麼做？

一切都是有原因的。Minnesota 會這麼生氣，是因為先前有一名男子利用社群媒體上的照片，為超過 80 名他認識的女性生成裸露影像。這起案件震驚了整個州。

推動這道法案的參議員 Erin Maye Quade 明確說過：他們「刻意」禁止了即使是「雙方同意」的模擬親密影像。對她來說，技術本身 就是問題。

州檢察長 Keith Ellison 在訴訟提交後強硬回應：「AI 脫衣技術剝奪了目標人物的人格尊嚴，可能在情感、個人和職業層面造成巨大傷害。」

這是一場沒有贏家的戰爭。受害者的權益當然重要；但當法律過度擴張，結果可能是每個人都受害。

結語：風暴前的最後平靜？

HF 1606 將在這個週末正式生效。xAI 正在請求聯邦法官在法律生效前發出臨時禁令，阻止這一切發生。

但無論結果如何，這場訴訟都會成為 AI 監管的里程碑。它會決定：未來的公司要怎麼樣在「保護受害者」和「維護言論自由」之間找到平衡？

50 萬美元一張圖的代價，沒有一家科技公司敢掉以輕心。

FAQ 常見問題

xAI 為什麼要告 Minnesota？

xAI 認為 HF 1606 法律過度擴張，定義模糊，把合法的 AI 創作工具也捲入刑責，違反了美國憲法第一修正案保障的言論自由權利。

什麼是 AI 脫衣技術？

「脫衣」是指使用人工智慧技術，分析真實照片中的人物，自動生成該人物未穿衣服的逼真影像。這種技術在過去幾年快速發展，也引發嚴重的隱私和尊嚴問題。

HF 1606 的罰款有多嚴重？

每次生成「暴露隱私部位」的 AI 影像，平臺最高可被罰 50 萬美元。而且是「嚴格責任」——不管平臺知不知情，有沒有盡到防護義務，統統要罰。

Grok 是什麼？

Grok 是 xAI 開發的 AI 聊天機器人，去年推出的圖片生成功能因為能輕易產生 deepfake 裸露影像而引發全球監管機構調查。