律師事務所也會被AI搞混？Sullivan & Cromwell鬧笑話背後的警訊

各位觀眾，今天要聊的話題可能會讓你對AI的信任度瞬間下降。這不是什麼新創公司的失誤，而是美國頂級律師事務所Sullivan & Cromwell——也就是當年處理FTX破產案的那家知名律所——竟然在法院文件裡面放了40個錯誤引用，這些全部都是AI幻觉（hallucination）造成的。

我說真的，當我看到這則新聞的時候，心裡第一個反應是：連專業律師都會被AI擺一道，那我們普通人用AI的時候到底能相信什麼？

這到底怎麼回事？

事情是這樣的：Sullivan & Cromwell在處理一起破產案件時，提交了一份緊急動議給紐約南區美國破產法院。這份文件裡面有大約40個錯誤的引用，還有其他一些AI產生的錯誤。

說白話一點，就是AI在生成法律文件的時候，自己編造了一些根本不存在的案例引用。這種情況在AI圈內被稱為「幻觉」，意思就是AI會自信滿滿地說出完全錯誤的資訊，但語氣卻像是在陳述事實。

律師事務所的共同負責人Andrew Dietderich後來寫了一封信給法官，裡面誠懇地說：「我們深感遺憾。我們很清楚自己有責任確保所有提交文件的準確性，這次失敗我會承擔責任。」

AI不是萬能的神

這起事件最恐怖的地方在哪裡？根據法律技術專家Damien Charlotin管理的資料庫，全球已經記錄了1334起AI幻觉出現在法院文件中的案例，其中超過900起發生在美國。而且大部分都是AI編造出不存在的案例引用。

各位想想看，法院判決是很嚴肅的事情，每一個引用、每一個先例都可能影響案件的結果。如果律師或法官完全相信AI生成的內容，那後果可能不堪設想。

Sullivan & Cromwell不是沒有AI使用政策，他們其實有相關規定，包括要對使用的引用進行審查。但問題是——這次根本沒有照著規矩來。這就像是你買了最貴的保全系統，但出門的時候忘記鎖門一樣。

這對我們意味著什麼？

很多人可能會說：「啊，律師事務所耶，都這麼專業了還會出包，AI果然不可靠。」但我覺得這件事給我們的啟示反而更加微妙。

第一，AI是工具，不是老師。它可以幫我們快速生成草稿、找出資料，但它產出的東西必須經過人類的嚴格審查。這次事件中，錯誤是被對手律師事務所發現的——所以同業的監督很重要。

第二，專業人士更應該學會如何使用AI。頂級律師事務所都有AI政策了，但執行層面出了問題。這說明光有制度不夠，還要確保每個人都真的照做。

第三，過度依賴AI會失去批判性思考。當AI可以幫你生成文件的時候，人類難免會想要偷懶。但法律這種東西，一個錯誤就可能讓客戶損失慘重。

未來會怎麼樣？

Sullivan & Cromwell已經採取了補救措施，包括全面檢討這次錯誤的原因，並且在評估是否要進一步加強內部培訓和審查流程。Dietderich也親自打電話給發現錯誤的對手律師事務所Boies Schiller Flexner LLP致謝並道歉。

但這起事件無疑會讓法律界對AI的使用更加謹慎。畢竟，誠信是律師職業的基石，如果連引用都可以亂寫，那誰還能相信法律文件？

對於我們普通人來說，這則新聞也是一個很好的提醒：AI很強大，但它不是完美的。在使用AI的時候，永遠保持一點懷疑的态度，總是會讓你少踩一些坑。

下次當AI告訴你「這個引用絕對正確」的時候，不妨多查證一下——因為它可能正在「幻觉」呢。