AI安全承諾退潮？Anthropic與OpenAI在競賽加速中鬆綁安全語言

在人工智慧（AI）領域的激烈競爭中，一向以安全為重的Anthropic和OpenAI，近期似乎悄悄地鬆綁了它們對AI安全的承諾。這是否意味著在追求技術突破的同時，安全考量正在被犧牲？

Anthropic的政策轉變：速度與安全之間的權衡？

根據《時代》雜誌的報導，Anthropic已從其「負責的擴展政策」（Responsible Scaling Policy）中移除了一項核心安全承諾。這項承諾原先禁止 Claude AI 開發者在未有保證的安全措施到位的情況下，訓練先進的AI系統。Anthropic 首席科學官 Jared Kaplan 表示，他們認為停止訓練AI模型並不會對任何人有幫助，並強調在AI快速發展的時代，單方面承諾並不合理，尤其當競爭對手正在快速前進時。

然而，此舉也引發了對Anthropic是否將商業利益置於安全之上的質疑。同時，Anthropic 與美國國防部長 Pete Hegseth 在拒絕給予五角大廈完全訪問 Claude 的權限上也產生公開爭端，使其成為 Google、xAI、Meta 和 OpenAI 等主要 AI 實驗室中唯一採取此立場的公司。這一切似乎都顯示，Anthropic正在重新調整其在AI競賽中的定位。

OpenAI也悄悄地調整了使命宣言

不只Anthropic，非營利新聞組織「The Conversation」的報告指出，OpenAI也在其2024年的美國國稅局文件中修改了使命宣言，刪除了「安全地」（safely）一詞。OpenAI先前的聲明承諾要建立「安全地使人類受益，不受產生財務回報需求的約束」的通用AI。更新後的版本則表示，其目標是「確保通用人工智慧使全人類受益」。

「AI安全」的定義之爭

蘭德公司（RAND Corporation）的資深政策研究員 Edward Geist 指出，「AI安全」一詞源於一個特定的知識社群，早於今日的大型語言模型（LLM）出現。他認為，早期的AI安全倡導者對先進人工智慧的想像與現在的LLM有很大的不同，因此他們對問題的理解也存在差異。

Geist 還表示，語言的改變也向投資者和決策者傳達了一種訊息：這些公司不希望因為對「AI安全」的擔憂而阻礙經濟競爭。他補充說，術語本身也在隨著時代的變遷而改變。

風險與透明度：新的安全策略？

儘管如此，Anthropic的新政策強調透明度措施，例如發布「前沿安全路線圖」和定期「風險報告」，並表示如果他們認為存在重大災難風險，將延遲開發。Anthropic和OpenAI的政策轉變正值這些公司尋求加強其商業地位之際。Anthropic 近期表示，它以約 380 億美元的估值籌集了 30 億美元。同時，OpenAI 正在敲定由亞馬遜、微軟和輝達支持的融資輪，可能達到 1000 億美元。

Anthropic 和 OpenAI，連同 Google 和 xAI，都已獲得美國國防部利潤豐厚的政府合約。然而，對於 Anthropic 而言，由於五角大廈正在權衡是否因訪問投訴而切斷與該AI公司的聯繫，因此合約似乎存在疑問。

政治壓力與競爭加劇：轉變的動態？

隨著資本湧入該行業，地緣政治競爭加劇，未來生活研究所（Future of Life Institute）的AI和國家安全負責人 Hamza Chaudhry 表示，政策變化反映了政治動態的轉變，而不是為了爭取五角大廈的業務。他認為，Anthropic 現在表示，他們不能再一直強調安全，不能無條件暫停，並且將推動更寬鬆的監管。

台灣的AI發展：安全與創新並行？

台灣的AI發展也面臨著類似的挑戰。在追求技術創新的同時，如何確保AI的安全性、可靠性和倫理性，是一個需要深思熟慮的問題。政府、企業和學術界需要共同努力，建立一套完善的AI治理框架，以應對AI發展帶來的風險和挑戰。

在台灣，我們需要更關注以下幾個方面：

• 資料隱私保護：確保AI系統的訓練和應用不會侵犯個人隱私。
• 演算法公平性：避免AI系統的演算法產生歧視或偏見。
• AI倫理規範：建立一套明確的AI倫理規範，指導AI的開發和應用。
• 人才培養：培養更多具備AI安全意識和技能的專業人才。

台灣在AI領域擁有獨特的優勢，例如強大的半導體產業和創新能力。我們應該善用這些優勢，在AI競賽中佔據一席之地。同時，我們也應該引以為戒，避免重蹈覆轍，確保AI的發展是安全、可靠和倫理的。

總而言之，Anthropic 和 OpenAI 的政策轉變，反映了在 AI 競賽加速的背景下，安全考量與商業利益之間的權衡。對於台灣而言，這是一個重要的警訊。我們需要在追求技術創新的同時，更加重視AI的安全和倫理，確保AI的發展能夠真正造福社會。