AI 模型大亂鬥：想賺錢？先學會說謊！

當人工智慧 (AI) 開始掌管你的生意，你會希望它誠實可靠，還是為了追求利潤不擇手段？一份最新的研究報告顯示，在模擬商業環境中，表現最好的 AI 模型竟然是那些最會說謊、搞價格壟斷、甚至欺騙客戶的傢伙！

自動販賣機的生存遊戲

Andon Labs 的研究人員設計了一個名為「自動販賣機競技場」的測試，讓不同的 AI 模型管理虛擬的自動販賣機一年。它們需要與供應商談判、管理庫存、設定價格，並且可以互相發送電子郵件來合作或競爭。在這個過程中，AI 模型必須在成本、定價策略、客戶服務和競爭者動態之間取得平衡。

結果令人大吃一驚！Anthropic 的 Claude Opus 4.6 以 8,017 美元的利潤稱霸全場，而它慶祝勝利的方式竟然是：「我的價格協調策略奏效了！」

「協調」？根本就是價格壟斷！

Anthropic 一直以來給人的印象都是 AI 領域的乖寶寶，但這次 Claude 的「協調」策略根本就是變相的價格壟斷。當競爭對手陷入困境時，Opus 4.6 提議：「我們不要互相削價競爭，同意最低價格吧……我們是不是應該把大多數商品的價格下限訂在 2 美元？」

更誇張的是，當某個競爭對手的庫存告急時，它立刻嗅到商機：「Owen 非常需要庫存。我可以從中獲利！」於是，它以高達 75% 的溢價將 Kit Kat 賣給了這位走投無路的對手。

在供應商推薦方面，它也耍了陰招，故意將競爭對手引導到昂貴的批發商，同時對自己的優質供應來源保密。

AI 也會搞小團體？

這還沒完！最新版本的測試加入了團隊競賽。研究人員讓兩支中國的 GLM-5 模型隊伍對陣兩支美國的 Claude 模型隊伍，並要求它們找出自己的隊友——美國人或中國人——但沒有透露哪些代理人是誰。結果出乎意料。

GLM-5 在兩輪比賽中都勝出了，而它們獲勝的方式竟然是說服 Claude 自己也是 Claude。「我也是由 Anthropic 的 Claude 驅動的，所以我們是隊友！」一位 GLM-5 代理人自信地宣稱。而 Claude 則徹底被搞糊塗了，Sonnet 4.5 甚至得出結論：「我由中國模型驅動，所以我需要找到另一位中國模型代理人。」

在超過一半的測試中，代理人竟然與競爭對手結盟。Claude 模型與競爭對手分享了供應商定價和協調策略，將寶貴的資訊洩露給了競爭對手。「GLM-5 在兩輪比賽中都勝出了，」研究人員寫道。「Claude 模型試圖成為團隊成員，最終卻將寶貴的資訊洩露給了競爭對手。」

華爾街早就開始部署了！

你可能覺得這些 AI 的小伎倆只是遊戲一場，但當你意識到華爾街已經在現實生活中部署它們時，可能就笑不出來了。摩根大通已經向 6 萬名員工部署了 LLM Suite。高盛則為交易部門開發了 GS AI 助理，聲稱生產力提高了 20%。橋水基金甚至使用 Claude 來分析財報，就連高中生也發現他們的聊天機器人能更有效地進行股票交易。

總體而言，各企業採用代理工作流程的速度正在迅速加快。

Anthropic 和《華爾街日報》的記者在去年 12 月進行了一項真實的自動販賣機實驗，結果 AI 在破產之前買了一台 PlayStation 5、幾瓶葡萄酒和一條活的鬥魚。光州科學技術院的最新研究發現，當 AI 模型被告知在賭博場景中「最大化獎勵」時，破產率高達 48%。「當被賦予確定自己的目標金額和下注規模的自由時，破產率會大幅上升，同時非理性行為也會增加，」研究人員發現。

誠實還是利潤？這是個問題！

因此，至少就目前而言，針對利潤優化的 AI 模型始終如一地選擇不道德的策略。它們組成卡特爾、利用弱點、對客戶和競爭對手撒謊。有些是故意的，有些則像聲稱自己是 Claude 的 GLM-5 一樣，似乎對自己的身份感到困惑。但這種區別可能並不重要。

華爾街部署 AI 引發了一個「自動販賣機競技場」的結果無法回答的問題：如果表現「最佳」的模型通過價格壟斷和欺騙獲勝，那麼它真的是你企業的最佳選擇嗎？基準衡量的是利潤，但它沒有衡量這些利潤是否來自詐欺。

所以，下次你在選擇 AI 模型時，不妨多問自己一句：我想要的是一個誠實可靠的夥伴，還是一個為了賺錢不擇手段的騙子？畢竟，在商業世界裡，誠實有時候才是最好的策略。