法律黑幕：頂尖律師事務所「人工智慧幻覺」醜聞，破产文件驚現謊言深淵

在燈光微弱的法庭走廊裡，頂尖律師事務所 Sullivan & Cromwell 的名字向來是「正義的鋼牆」——但如今，這面牆被「人工智慧幻覺」的血跡染紅，猶如夜幕中一抹暗紅的霓虹，令人不安。

今年四月，該所向紐約南區破產法院遞交的一份長達數十頁的破產聲請書，竟然被發現夾雜了 AI 生成的虛假引用與捏造的判例。法庭內的法官在審查時接連搖頭，因為文件的每一行看似專業，卻像是被看不見的手在暗夜裡編織的謊言網。這個被稱為「幻覺」的技術錯誤，瞬間成為法律界最悚動的話題。

背後案情曲折，涉及总部设于英属维尔京群岛的 Prince Group，以及其老闆陈志（Chen Zhi）。檢調單位指控陳志在東南亞營運大型加密貨幣詐騙網路，透過「殺豬盤」手法在全球騙取了數十億美元的虛擬資產，並利用區塊鏈將資金隱匿於多層錢包之中。美国法院委託的破產管理人正努力追回這些資產，卻在關鍵的聲請文書裡被 AI 的謊言絆倒。

「我們深感遺憾。」Sullivan & Cromwell 的重組業務主管 Andrew Dietderich 在致法官 Martin Glenn 的信中寫道，文件中出現的「AI 幻覺」生成了根本不存在的法院判例，甚至把現有的判例給扭曲變形。這封信像是深夜裡的一聲槍響，讓整個法律體系的信任基石瞬間出現裂縫。

根據更正後的遞交內容，原本的 April 9 動議中多處引用了錯誤的案例，有些甚至沒有任何法條依據。律所隨即撤回原 motion，提交了修訂版本，並聲稱內部對生成式 AI 的使用有嚴格規範：每位律師必須完成兩段必修訓練，強調「信任一切，驗證一切」——然而，悲劇仍在疏忽中上演。

除了本次的 AI 失誤，該所更在内部審查中發現若干其他文書的細微錯誤，這些被歸類為人為錯誤而非 AI 生成。然而，法院與業界已經開始警惕，認為 AI 的「幻覺」並非單純的技術瑕疵，而是對司法誠信的潛在致命威脅。

實際上，這已非首例。過去一年間，從澳洲的律師因使用 AI 被吊銷執照，到美國多州法院相繼對使用生成式 AI 的律師給予制裁或警告，都是同一條脈絡的延伸。法學院開始將 AI 倫理寫入課程，資深法官更在公開場合提醒：「一旦 AI 生成的引用出現在法庭上，整個程式的完整性都可能受到質疑。」

這場風波讓我們看見：當律師的「專業」被高效的 AI 工具取代時，若缺乏嚴格的驗證機制，假的案例就像潮水般湧入，最終會將正義的方舟掀翻。正如一部黑色電影中的情节，真正的敵人往往不是外在的敵人，而是內心深處對技術的盲目信任。

未來，律師事務所必须在使用 AI 前建立更嚴格的檢核流程，像是給法律文書加上防護鎖；另一方面，法院也必須制定更清晰的使用指引，讓法官在面對 AI 生成内容時有明確的審查標準。這不僅是一場技術與法律的較量，更是一次對司法靈魂的深度拷問。

若你關心加密貨幣、區塊鏈金融、或智慧型手機時代的法律風險，這場發生在破產法庭的 AI 風暴，絕對值得持續關注。

• Sullivan & Cromwell 坦承破產文件中出现 AI 生成的虛假引用與錯誤判例。
• 涉及的公司為 Prince Group，其老闆 Chen Zhi 被指控在東南亞經營大型加密貨幣詐騙。
• 律所的內部政策要求律師在使用 AI 前完成培訓並自行驗證，但本次未能遵守。
• 此事件揭示 AI 在法律實務中的信任危機，亦促使法院與法學院加強監管。
• 全球律所與法學院正加速制定 AI 使用指引，以防範「幻覺」對司法公正的侵蝕。