🔥AI末日預言？專家激辯：人工智慧會拯救人類還是毀滅世界？😱

人工智慧 (AI) 的未來，究竟是烏托邦還是反烏托邦？最近一場由非營利組織 Humanity+ 主辦的辯論會上，四位頂尖的科技專家和超人類主義者，針對「通用人工智慧 (AGI) 的發展，究竟會拯救人類還是毀滅世界」這個議題，展開了激烈的論戰。其中一方認為AI將會造成滅絕，另一方則認為AI是讓人們永生的工具。

這場辯論會匯集了 AI 領域中最直言不諱的「末日預言家」之一——Eliezer Yudkowsky。他曾呼籲停止所有先進 AI 的開發。與他同台的還有哲學家兼未來學家 Max More、計算神經科學家 Anders Sandberg 以及 Humanity+ 的榮譽主席 Natasha Vita‑More。他們在討論中，對於 AGI 是否能與人類的生存相符，以及它的創造是否會導致不可避免的滅絕，存在著根本性的分歧。

😱AI 系統就像潘朵拉的盒子？

Yudkowsky 警告說，現代 AI 系統從根本上來說是不安全的，因為它們內部的決策過程無法被完全理解或控制。他認為，在先進 AI 能夠安全開發之前，人類需要「遠遠偏離當前的範式」。Yudkowsky 指出，如果有人開發了 AGI，就會導致滅絕，引用了他的新書的標題，”如果任何人建造它，每個人都會死。”

通用人工智慧 (AGI) 指的是一種能夠跨越廣泛任務進行推理和學習的 AI 形式，而不是像文本、圖像或影片生成那樣，僅僅為了單一任務而構建的 AI。AGI 通常與技術奇點 (technological singularity) 的概念相關聯，因為達到這種智慧水平，可能會使機器以比人類更快的速度自我完善。

Yudkowsky 以哲學家 Nick Bostrom 普及的「迴紋針最大化器 (paperclip maximizer)」類比，來說明其中的風險。這個思想實驗描述了一個假想的 AI，它將所有可用的物質轉化為迴紋針，為了追求單一目標，而不惜犧牲人類的利益。Yudkowsky 認為，增加更多的目標並不能有效地提高安全性。

🚀AGI 是人類永生的希望？

但 More 對於過度謹慎是否能帶來最安全的結果，提出了質疑。他認為，AGI 可以為人類提供克服衰老和疾病的最佳機會。「對我來說最重要的是，AGI 可以幫助我們預防每個活著的人因為衰老而滅絕，」More 說道。「我們都在死亡。我們正在走向一場災難，一個接著一個。」他警告說，過度的約束可能會迫使各國政府採取威權控制，作為阻止全球 AI 開發的唯一途徑。

Sandberg 將自己定位在這兩個陣營之間，他形容自己「比較樂觀」，但仍然比超人類主義的樂觀主義者更加謹慎。他講述了一段親身經歷，他差點使用大型語言模型來協助設計生化武器，他將這件事描述為「可怕的」。

Vita-More 批評了更廣泛的對齊 (alignment) 辯論本身，她認為這個概念假設了一種即使在長期的合作者之間也不存在的共識。「對齊的概念是一種天真的計劃，」她說。「它永遠不會對齊。我的意思是，即使在這裡，我們都是好人。我們認識彼此幾十年了，但我們並不對齊。」

她認為 Yudkowsky 聲稱 AGI 不可避免地會殺死所有人的說法是「絕對主義思維」，沒有為其他結果留下任何空間。「我對每個人都會死的這種一概而論的說法有意見，」她說。「作為一個未來學家和一個務實的思考者來接近這個問題，它沒有留下任何後果、沒有任何替代方案、沒有任何其他情景。這只是一個直白的斷言，我懷疑這是否反映了一種絕對主義的思維。」

討論中還包括一場關於人類與機器之間更緊密的整合，是否可以減輕 AGI 所帶來的風險的辯論——特斯拉執行長 Elon Musk 過去曾提出過這個想法。Yudkowsky 駁斥了與 AI 融合的想法，將其比作「試圖與你的烤箱融合」。Sandberg 和 Vita-More 認為，隨著 AI 系統變得越來越強大，人類將需要與它們更緊密地整合或融合，以便更好地應對 AGI 之後的世界。

「這整個討論是對我們作為人類的本質的一次現實檢驗，」Vita-More 說。