AI 安全承諾大轉彎？Anthropic、OpenAI 競相鬆綁安全規範背後的真相

最近，AI 圈內可說是風起雲湧，Anthropic 和 OpenAI 這兩大巨頭，不約而同地調整了它們的安全規範，這究竟是怎麼一回事？背後又隱藏著什麼樣的考量？讓身為科技老司機的我，來跟大家深入剖析一下。

AI 安全承諾的鬆動：不再無條件暫停訓練

根據 TIME 的報導，Anthropic 已經從其「負責的擴展政策」（Responsible Scaling Policy）中，刪除了一項核心的安全承諾。這項承諾原本保證，在沒有確保安全措施到位的情況下， Claude AI 的開發者不會訓練更先進的 AI 系統。簡單來說，以前他們說過，如果覺得太危險，會直接喊卡，但現在這個承諾已經拿掉了。

Anthropic 的首席科學家 Jared Kaplan 對 TIME 表示：「我們覺得，如果我們停止訓練 AI 模型，實際上對任何人都没有幫助。隨著 AI 的快速發展，如果競爭對手都在飛速前進，我們單方面做出承諾是沒有意義的。」這番話聽起來很現實，彷彿在說：「別人都在衝，我們停下來就輸了！」

OpenAI 也悄悄修改了使命宣言

不只 Anthropic，非營利新聞組織 The Conversation 的一份報告指出，OpenAI 也在其 2024 年的 IRS 文件中修改了使命宣言，刪除了「安全地」（safely）一詞。原本的聲明承諾，要打造「安全地造福人類，不受產生財務回報需求的約束」的通用 AI，現在的版本則改為「確保人工通用智慧造福全人類」。

這種說法上的轉變，背後的原因是什麼？RAND Corporation 的資深政策研究員 Edward Geist 認為，一部分原因是這些公司想要向各方表明，它們不會因為擔心「AI 安全」而阻礙經濟競爭。

「AI 安全」的定義之爭

Geist 也指出，「AI 安全」這個詞，似乎沒有人確切知道是什麼意思。他認為，早期的 AI 安全倡議者，對於先進人工智慧的願景，與現在的大型語言模型（LLM）有很大的不同。他們最終將問題概念化成了一種，在某些方面，與目前的 LLM 在本質上不同的東西。

政策轉變的背後：商業競爭與地緣政治壓力

Anthropic 和 OpenAI 的政策轉變，正值兩家公司尋求鞏固其商業地位之際。Anthropic 最近表示，他們以約 380 億美元的估值籌集了 300 億美元的資金。同時，OpenAI 正在敲定由 Amazon、Microsoft 和 Nvidia 支持的一輪融資，金額可能達到 1000 億美元。

此外，Anthropic、OpenAI 以及 Google 和 xAI，都獲得了美國國防部的豐厚政府合約。然而，由於五角大廈正在考慮是否因為訪問投訴而切斷與 Anthropic 的聯繫，Anthropic 的合約似乎存在疑問。

未來生命研究所（Future of Life Institute）的 AI 與國家安全負責人 Hamza Chaudhry 認為，這種政策轉變反映了政治動態的轉變，而不是為了爭取五角大廈的業務。他表示：「Anthropic 現在說，『看，我們不能一直說安全，我們不能無條件暫停，我們將推動更寬鬆的監管。』」

對台灣的影響：我們該如何應對？

這些 AI 巨頭的安全承諾鬆動，對於台灣的科技產業和社會，又意味著什麼？身為科技分析師，我認為我們需要注意以下幾點：

• 持續關注 AI 安全議題： 雖然這些公司調整了政策，但 AI 安全仍然是一個重要的議題。我們需要確保 AI 的發展，不會對社會造成危害。
• 加強台灣 AI 產業的自主性： 我們不能完全依賴國外的技術。台灣需要發展自己的 AI 技術，才能在 AI 時代掌握主導權。
• 建立完善的 AI 監管機制： 政府需要建立完善的 AI 監管機制，以確保 AI 的發展符合社會的利益。

結論：擁抱 AI，但保持警惕

總而言之，Anthropic 和 OpenAI 的政策轉變，反映了 AI 領域激烈的競爭和地緣政治壓力。我們需要擁抱 AI 的發展，但同時也要保持警惕，確保 AI 的發展符合台灣的利益。台灣的軟體、影片、專案、區塊鏈和智慧型手機產業，都將受到 AI 的影響，我們需要做好準備，迎接這個變革的時代。