聯合國秘書長示警「不能靠感覺寫程式」：AI治理峰會揭示人類最大實驗正在失控

當AI比法律跑得還快：我們正在進行一場沒有計畫的實驗

你有沒有發現，現在身邊的智慧型手機、軟體應用，愈來愈像是「懂你的意思，卻不問你的許可」？聯合國秘書長古特瑞斯（António Guterres）日前在日內瓦的首屆AI治理全球對話上，對著193個會員國說了一句重話：AI已經比它應該被管理它的機構跑得還快，而人類正在進行一場「沒有計畫、沒有同意」的實驗。

這不是比喻。古特瑞斯說，人工智慧正在以「失控的速度」前進，一項可能重塑經濟、改變工作型態、幹預選舉、顛覆安全平衡的科技，正被部署得比任何人都能跟上的速度還快——包括那些正在建造它的人。

vibe coding是什麼？為何聯合國要拿它當警語？

如果你以為這只是科技圈的政治正確，那可能太小看這次的警訊了。古特瑞斯用了「vibe coding」這個詞來形容危險的盲點。這個詞是OpenAI創辦人之一、前特斯拉AI主管Andrej Karpathy提出來的，意思是「靠感覺寫程式」——告訴AI你想要什麼，讓它自己處理，你不要太認真檢查。

聽起來很方便對吧？愈來愈多人在開發軟體、製作影片、甚至寫專案時，都是這樣「相信AI」的。但古特瑞斯說：「vibe coding可以做很多美好的事，但我們不能用vibe coding來寫出真相，更不能用它來決定人類的未來。」

數字不會說謊：AI的擴張速度超越所有人的想像

他給了一組令人心驚的資料：網路花了15年才達到10億使用者，AI只用了2年。更可怕的是，他形容現在的AI系統「不再只是等待指令的工具——它們自己在寫程式、在網路上行動、做的決定人類愈來愈無法監督」。

這就是為什麼這次日內瓦的對話意義非凡——這是2024年全球數位契約（Global Digital Compact）後，聯合國首次把AI治理列入正式任務。40個國家、140位科學家的獨立國際科學小組最近提出的報告更是直接潑冷水：目前沒有人能保證AI不會造成災難性危害。

AI治理的三大警訊：速度、權力、真相

古特瑞斯從科學小組的報告中歸納出三個關鍵警告：

• 速度（Speed）：AI進化得太快，法規、制度、人才都跟不上
• 權力（Power）：運算能力、資料、人才集中在少數幾家公司和國家，世界上大多數人早已被排除在決定之外
• 真相（Truth）：AI生成的謊言現在說服力跟經過驗證的事實一樣強，不實資訊正在悄悄瓦解我們的資訊生態

你可能會想：這跟我有什麼關係？老實說，關係大了。當你在社群媒體上看到一段似真還假的影片、當你發現自己愈來愈分不清AI生成的內容和真人創作、當你發現自己常用的App悄悄改了隱私許可權——這些都是「真相」被侵蝕的日常徵兆。

兒童安全與致命武器：聯合國的具體提案

除了宏觀的警告，古特瑞斯也端出具體的政策牛肉。首先，他提出「AI兒童安全誓約」：要求公司在AI產品公開給兒童使用前，必須透過獨立安全測試、對生成兒童性剝削內容零容忍、並確保有情緒困擾的孩子能即時連繫到真人的專業協助，而不是讓他們獨自面對聊天機器人。

他說得直接：「不應該有任何孩子成為未受監管AI的白老鼠。」

再來，他直接點名了「致命自主武器」——那些不需要人類判斷就能自動選擇並攻擊目標的殺人機器。古特瑞斯形容這在道德上「令人反感」，要求國際法明確禁止。

這不是紙上談兵。193個會員國已經坐在談判桌前，古特瑞斯的訊息很清楚：別慢慢來了。

下一步：2027年紐約再會，以及更大的願景

這次的全球對話預計2027年回到紐約繼續進行。但在此之前，古特瑞斯已經提出兩個大膽的倡議：

1. 設立全球AI基金，重點放在幫助發展中國家取得運算資源
2. 要求所有大型AI公司在2030年前，讓資料中心的用電全面使用再生能源——因為他估算那年AI設施的用電量將超過全球僅次於五個國家的總和

聽起來很遠嗎？其實臺灣在AI硬體製造、 半導體供應鏈的角色，剛好站在這場全球變革的風暴中心。我們不只是旁觀者，可能是最早感受到衝擊的那一群。

我們能怎麼做？

老實說，作為普通人，我們可能沒辦法直接影響聯合國的決策，但我們可以從現在開始做幾件事：

• 在使用任何新軟體、App或線上工具前，多花30秒確認它的許可權和隱私設定
• 看到聳動的訊息或影片時，先慢下來、查證來源，不要急著分享
• 如果你是家長，對孩子接觸的AI產品多一份好奇和把關

古特瑞斯說，我們不能「vibe code」人類的未來。意思是，我們不能只是「感覺」科技會變好，然後就不管了。這場全球對話才剛剛開始，而臺灣的角色，不該只是旁觀。

FAQ 常見問題

vibe coding是什麼意思？

vibe coding是一種程式開發方式，透過自然語言告訴AI你想要什麼功能，讓AI幫你寫程式，開發者自己不太深入檢查程式碼的細節。這個詞由OpenAI創辦人Andrej Karpathy提出，用來形容那種「感覺對了就好」的開發心態。

聯合國AI治理峰會主要談什麼？

2025年在日內瓦舉辦的首屆全球AI治理對話，主要討論AI發展速度過快、權力過度集中、少數企業壟斷AI資源、以及AI生成假訊息破壞真相等議題。聯合國秘書長古特瑞斯提出了兒童安全誓約、致命武器禁令、全球AI基金等具體建議。

臺灣在AI治理中扮演什麼角色？

臺灣在半導體和AI硬體供應鏈中佔有關鍵地位，面對全球AI治理的討論，臺灣的科技政策、資料監管方式、以及如何保護兒童和公民免受AI危害，都將影響未來臺灣在國際AI治理話語權中的位置。