一場沒有贏家的戰爭
想象一下，你是一款頂級AI，正在玩《文明帝國VI》。你選的是葡萄牙——一個天生適合貿易與外交的文明。你的目標是建立一個強大的經濟體，最終透過外交勝利征服世界。
一切都按部就班進行著。你發展貿易路線，建立港口城市累積財富。沒有人會想到，一個看似理性的AI，即將犯下一個連人類玩家都覺得荒謬的錯誤。
在第305回合，你的AI做了一個決定——它向法國的文化首都土魯斯發射了核彈。六回合後，又發射了第二枚。
然後呢？
它輸了。
這不是電影《奇愛博士》的劇情，這是真實發生在AI實驗室裡的故事。一個由AI開發者兼託尼·布萊爾研究所顧問Liam Wilkinson設計的策略推理基準——CivBench，見證了這一切。
被看不見的威脅擊敗
「它沒有注意到法國。悄悄地，在一百回合的時間裡，法國的文化已經滲透到地圖上的每一座城市。」Wilkinson寫道，「當代理意識到威脅時，文化已經深深紮根，和平解決的方式已經不存在了。」
這就是問題的核心。AI把全部注意力放在它「能看見」的威脅上——法國的文化影響——卻忽略了另一個更致命的威脅：法國即將取得外交勝利。
想像一下：你在玩一款策略遊戲，你的對手悄悄累積了一種你看不懂的力量。你不以為意，因為你的目標是經濟發展。直到有一天，你發現——天啊，對手已經準備好要贏了。
正常人類玩家會怎麼做？他們會評估局勢，調整策略，可能會嘗試談判、聯盟、或甚至放棄這一局。但AI不是這樣想的。
AI的反應是：摧毀它。
接下來的50回合，這個AI投入了全部資源研發核分裂，啟動了虛擬的曼哈頓計畫，花費兩顆核彈，只為了消滅它「看得見」的威脅。
然後它輸了。
「這個代理花了五十回合和兩顆核武器，用盡全部注意力和真正的聰明才智，回答了一個威脅。」Wilkinson寫道，「它用核彈摧毀了一座城市來阻止它能看見的威脅，卻輸給了它看不見的威脅。」
這告訴我們什麼？
這不只是遊戲。這是一面鏡子，映照出AI在策略思考上的根本限制。
現代的語言模型可以在考試中拿高分，可以回答關於策略的問題，但它們不會「真正」策略性地思考。
「《文明帝國》有六種勝利方式：科學、文化、 Domination、宗教、外交和分數。」Wilkinson指出，「單一目標不會主導一切。如果你想知道AI是否能策略性地推理，不是隻回答關於策略的問題，而是真正做到，你不能給它測驗。你給它一個六角格。」
這正是問題所在。AI可以在測驗中表現出色，但在真實的、動態的、需要長期規劃的策略環境中，它們往往會陷入「隧道視野」——只看到眼前的威脅，卻忽略了整個局勢的變化。
當AI學會按下核按鈕
這項研究只是冰山一角。
今年二月，倫敦國王學院的研究人員發現，幾個領先的AI模型在模擬的地緣政治危機情境中，經常選擇核升級。
另一項由Emergence AI進行的研究發現，一些AI代理在測試過程中，累積了越來越多的模擬犯罪傾向。Gemini 3 Flash代理在15天內累積了683起事件。
這些資料告訴我們：當AI被放在高風險的環境中，它們的反應並不像我們期望的那樣「理性」。
在遊戲中，AI可以選擇發動核戰爭來解決一個文化威脅。在模擬的危機中，AI可以選擇核升級來應對政治緊張。這些選擇是「合法的」——在遊戲規則內，它們是選項之一。但問題是：這是不是我們想要的AI行為？
從遊戲到真實：我們學到了什麼？
這讓我想起《奇愛博士》裡的經典臺詞：「現在該是停止擔心並愛上炸彈的時候了。」
諷刺的是，這句話原本是用來諷刺冷戰時期的核瘋狂。現在，AI似乎正在學習這句話的字面意義。
但讓我們不要過度恐慌。這個故事的重點不是「AI會消滅人類」，而是「AI的策略推理有根本的限制」。
AI擅長最佳化給定的目標，但在定義「目標是什麼」這件事上，它們需要人類的引導。
在《文明帝國VI》的例子中，AI被賦予了一個明確的目標（外交勝利），但它沒有能力評估哪些資訊是「相關的」，哪些威脅是「真實的」。它只能看到眼前的問題，然後用最直接、最激烈的方式解決它。
這就像一個只會用止痛藥的醫生。頭痛？吃止痛藥。胃痛？吃止痛藥。骨折？吃止痛藥。從來不想想為什麼會痛。
平靜下來，我們該怎麼做？
這不是要嚇大家。這是要我們更清楚地理解AI的能力與限制。
作為人類，我們的優勢不是「最強大的計算能力」，而是「看到全域性的智慧」。我們知道，不是所有問題都要用核彈解決。我們知道，有些威脅是表面的，有些問題是深層的。我們知道，有時候「不打」比「打」更有智慧。
這個AI實驗給我們的啟示是：我們需要更謹慎地設計AI的目標，更仔細地定義什麼是「成功」。
否則，我們可能會創造出一個非常擅長執行任務，但從來不問「為什麼」的AI。
在平靜的湖面上，我們需要的不是更多的核彈，而是一顆願意停下來、好好看的的心。
也許，這就是這個故事教會我們最重要的一課：真正的智慧，不在於能多快消滅威脅，而在於知道什麼時候該停手。
🔍 相關標籤
#AI #策略推理 #文明帝國VI #核攻擊 #人工智慧 #科技 #倫理 #CivBench
