法院打臉？哥倫比亞法院拒絕 AI 撰寫上訴，結果自家判決也被 AI 偵測器抓包！

科技日新月異，人工智慧 (AI) 的應用也越來越廣泛。最近，哥倫比亞最高法院做出了一項引人注目的判決，拒絕了一份被認定由 AI 撰寫的上訴文件。然而，諷刺的是，法院用來檢測 AI 的工具，竟然也將他們自己的判決標記為 AI 生成！這到底是怎麼一回事？難道是法院的雙重標準，還是這些 AI 偵測工具根本不可靠？

事件始末：AI 偵測的羅生門

根據報導，哥倫比亞最高法院駁回了一份上訴，理由是他們懷疑該文件並非由律師親自撰寫，而是透過 AI 生成。法院使用了 Winston AI 工具來分析該文件，結果顯示該文件僅包含 7% 的人類內容，明顯受到自動化寫作的影響，因此認定其為 AI 產物。在經過其他工具的類似分析後，法院裁定該文件不符合正式提交的要求，因此予以駁回。

然而，事情並沒有就此結束。當法院的判決受到法律專家的類似檢視時，卻得到了相似的結果！一位名叫 Emmanuel Alessio Velasquez 的律師在 X (前身為 Twitter) 上發文表示，他將最高法院的判決書提交給 Winston AI 軟體，結果顯示該文件竟然包含 93% 的 AI 生成文字！

Sometí el texto del auto AP760/2026 de la @CorteSupremaJ al mismo software Winston IA citado en la providencia. El resultado fue que el documento presenta un 93% de “texto generado con IA”. https://t.co/xTm2jI4d70 pic.twitter.com/lpSHuRjEZ4

— Emmanuel Alessio Velásquez (@EmmanuVeZe) March 3, 2026

Velasquez 在後續的推文中指出，如果連譴責使用 AI 的判決本身都得到了這麼高的百分比，那麼使用這些偵測器作為論證依據的方法論脆弱性就顯而易見了。在法院於 X 上發布有關該決定的帖子後幾個小時內，律師們就開始進行自己的測試。Velasquez 的帖子在法律界迅速傳播，累積了數萬次的觀看次數。

外媒也對法院的判決進行了測試，結果一開始看起來不太妙。當 GPTZero 掃描法院判決書的開頭文字時，返回了 100% 的 AI 結果。然而，當同一個工具處理包含事實背景部分較長的版本時，結果卻完全相反：100% 人類！

AI 偵測工具的局限性：誤判頻傳

這一事件凸顯了目前 AI 偵測工具的局限性。這些工具似乎並不可靠，無法在法庭或需要高度確定性的情況下被信任。哥倫比亞的律師們迅速做出了反應，紛紛進行自己的實驗。一位刑事辯護律師兼講師 Andres F. Arango G，提交了一份 2019 年的法庭文件，那時大型語言模型甚至還不存在，結果卻顯示 95% 的內容是 AI 生成的！

Arango 在 X 上指出，這些工具還會邀請你透過他們的付費服務來「人性化」文章，暗示了 AI 偵測業務中存在明顯的商業誘因。另一位律師 Nicolas Buelvas 將他 2020 年的本科論文提交檢測，結果顯示 100% 是 AI！

哥倫比亞律師 Dario Cabrera Montealegre 指出了依賴技術來試圖打擊技術的矛盾之處。他說：「法院正在使用 AI 來確定是否存在 AI……從我的實際角度來看，這有點矛盾。如果拒絕使用 AI，那應該是因為我們人類檢測到了。」

更深層次的隱憂：懲罰了誰？

除了法律界，一些精通科技的人士也指出了過度依賴 AI 標記工具的危險性。Carlos Alejandro Torres Pinedo 認為，目前沒有任何公開可用的工具可以準確定義撰寫文本時 AI 的使用比例。更糟糕的是，沒有人可以公開驗證這些偵測平台背後的原始碼。那麼，它們怎麼能被用來否定某人獲得司法救濟的權利呢？

這些失敗的技術原因有充分的記載。AI 偵測器測量統計模式：句子長度、詞彙可預測性，以及研究人員稱之為「突發性 (burstiness)」的品質，指的是人類在寫作中引入的自然節奏變化。問題是，正式的法律散文、學術寫作以及以第二語言寫作的人所產生的文本，都具有許多相同的統計特徵。

2023 年發表在 Patterns 上的一項研究發現，超過 61% 的非英語母語人士的 TOEFL 作文被錯誤地標記為 AI 生成。Weber-Wulff 同年進行的一項系統性審查得出結論，沒有任何可用的工具是精確或可靠的。Turnitin 在 2023 年 6 月承認，當文件中 AI 內容水平低於 20% 時，其自身的偵測器會產生更高的誤判率。

即使是 OpenAI 也因為不斷出現的不準確情況和無法完成實際工作而不得不撤下自己的 AI 偵測工具。多年來，大學一直在努力解決這個問題。Vanderbilt 在 2023 年停用了 Turnitin 的 AI 偵測器，因為估計它每年會產生大約 3,000 個誤判。University of Arizona 在一名學生因誤判而損失 20% 的分數後，從其抄襲軟體中刪除了 AI 偵測功能。2024 年在 UC Davis 發生的一起案件中，有 17 名語言學學生被標記，其中 15 名是非英語母語人士。

這種模式是一致的。這些工具懲罰了那些寫作最正式、最重複或最仔細的人，而這正是律師、學者和第二語言使用者的特徵。文化上的影響已經接近荒謬。在寫作和新聞界，人們已經開始避免在作品中使用破折號，不是因為任何風格指南，而是因為 AI 語言模型經常使用它們，而且偵測工具（和人）已經注意到這一點。

作家們因為害怕演算法的懷疑而自我編輯自然的標點符號。除了書面世界，藝術家們也因為創作看起來像 AI 的藝術作品而遭受版主和同事的憤怒。

We are in the world which real artists is being punished because he’s the victim of these thief called AI artists? #Savehumanartist #noAIart #NoAI #SavefutureArt pic.twitter.com/lyTQAeyc8SR

— Benmoran artist (@benmoran_artist) December 27, 2022

AI 監管：哥倫比亞的先行嘗試

哥倫比亞的兩項裁決——AC739-2026（民事法庭因律師在 2 月份引用 10 個不存在的 AI 生成的先例而對其處以罰款）和 AP760-2026——正在成為該地區首批直接面對在法律文件中濫用生成式 AI 的司法判決。

哥倫比亞司法部門於 2024 年 12 月通過了正式指南，規定法官和法院工作人員如何使用人工智慧。這些規則允許自由使用 AI 進行行政和支援任務，例如起草電子郵件、組織議程、翻譯文件或總結文本，同時允許更敏感的用途，例如法律研究或起草程式性文件，但需要仔細的人工審查。

該指南明確禁止依賴 AI 來評估證據、解釋法律或做出司法裁決，強調人類法官仍然對所有裁決負全部責任，並且必須披露在準備司法材料時何時使用了 AI 工具。

這些指南彙編在「PCSJA24-12243」協議中，可用於對質疑此類決定。最高法院尚未就其選擇偵測工具的反彈發表任何其他聲明。而且，該裁決中也沒有使用破折號。

結論：AI 時代的挑戰與反思

哥倫比亞法院的這起事件，無疑給我們敲響了警鐘。在 AI 技術快速發展的同時，我們必須正視其局限性，並審慎評估其應用。AI 偵測工具的誤判率，可能會對學術界、法律界，甚至整個社會造成不公平的影響。我們需要更可靠、更精確的 AI 偵測技術，同時也要加強對 AI 倫理和監管的研究，以確保 AI 的發展能夠真正服務於人類，而不是反噬我們。

在台灣，軟體開發、影片製作、專案管理等領域也越來越廣泛地應用 AI 技術。我們應該借鑒哥倫比亞的經驗，建立完善的 AI 使用規範，避免過度依賴 AI，同時也要保護使用者的權益，防止 AI 帶來的潛在風險。區塊鏈技術、智慧型手機等科技產品的推陳出新，也為 AI 的發展提供了更多可能性。我們應該積極擁抱科技，同時也要保持警惕，確保科技的發展符合倫理道德，並造福社會大眾。