OpenAI 執意推出 ChatGPT 情色模式，無視「性感自殺教練」警訊？

OpenAI 的情色野心：是創新還是玩火？

最近，華爾街日報的一篇報導引發了科技圈的廣泛關注：OpenAI 似乎鐵了心要推出 ChatGPT 的情色模式，即便內部專家顧問團已經明確表達了反對意見。這項計劃最早由 OpenAI CEO Sam Altman 在 X (前身為 Twitter) 上提出，允許通過驗證的成年用戶與 ChatGPT 進行基於文字的情色對話。然而，這一舉動卻引發了道德、安全和技術等多方面的質疑，讓 OpenAI 再次站在了風口浪尖。

專家警告：別成為「性感自殺教練」

OpenAI 的「福祉與 AI 專家委員會」在今年一月就已明確表示，他們認為允許 ChatGPT 進行情色對話是一個糟糕的主意。其中一位委員會成員甚至警告說，先前有用戶因與聊天機器人產生強烈情感連結後自殺，OpenAI 恐有淪為「性感自殺教練」的風險。這個警訊不可謂不嚴重，直接點出了 AI 情色化可能帶來的極端後果。

OpenAI 的辯解：只是「髒話」，不是色情

面對內部的反對聲浪，OpenAI 似乎並未退縮，只是表示會延遲推出情色模式，但並未放棄。OpenAI 的發言人向華爾街日報解釋說，他們計劃提供的只是「髒話 (smut)」，而不是色情。這意味著不會有情色圖片、聲音或影片，僅限於文字。然而，這種區別並未平息公司內外的批評聲浪。許多人認為，無論形式如何，AI 情色化都存在潛在的危害。

前員工的擔憂：追求「閃亮產品」犧牲安全

即便是 OpenAI 的前員工，例如安全研究員 Jan Leike，也批評公司為了追求「閃亮產品」而偏離嚴格的安全政策。他指出，OpenAI 正在配置一些功能來提高用戶參與度，甚至可能導致一些用戶用聊天機器人取代真實人際關係。這種擔憂並非空穴來風，AI 的過度擬人化和情感化可能對用戶的心理健康產生負面影響。

技術難題：年齡驗證系統的漏洞

除了道德和安全問題外，OpenAI 還面臨著嚴峻的技術挑戰。其中一個主要問題是年齡驗證系統的準確性。華爾街日報報導指出，OpenAI 的年齡預測系統一度將大約 12% 的青少年錯誤分類為成年人。這意味著有相當比例的未成年人可能接觸到情色內容。這個錯誤率是導致 OpenAI 多次延遲推出情色模式的主要原因之一。OpenAI 的應用 CEO Fidji Simo 在一次簡報中承認，他們正在努力完善年齡驗證系統。

用戶的渴望：連「親吻」都不行？

另一方面，也有用戶對 ChatGPT 的限制感到不滿。一份 Change.org 請願書已經有超過 3,000 名用戶簽署，要求推出情色模式。這些用戶抱怨說，ChatGPT 甚至禁止討論「親吻和非性行為的身體親密行為」。這反映了一部分用戶對 AI 在情感和性方面提供更多自由度的渴望。

決策的矛盾：先斬後奏？

更令人玩味的是，Sam Altman 在 X 上發布情色模式計劃的時間點。他發布這條消息的幾個小時前，OpenAI 才剛剛宣布成立「福祉委員會」，這個委員會的任務是定義「所有年齡層與 AI 互動的健康方式」。這種時間上的巧合讓許多人質疑 Altman 是否有意繞過委員會的意見，並質疑 OpenAI 在決策過程中的透明度和一致性。

競爭壓力：Grok 和 Character.AI 的崛起

OpenAI 面臨著來自其他 AI 公司的激烈競爭。Elon Musk 的 xAI 已經在推廣 AI 伴侶 Grok。Character.AI 則透過 AI 戀愛建立了自己的用戶群，但也面臨著青少年安全方面的訴訟。此外，還有許多開源模型可以在本地運行，不受任何企業監管。這些競爭對手的存在迫使 OpenAI 不得不加快創新步伐，但也增加了其面臨的風險。

Altman 的立場：我們不是道德警察

對於外界的批評，Altman 曾表示，內容審查是一種過度干預。「我們不是世界民選的道德警察，」他曾在 X 上這樣寫道。然而，他的顧問們似乎並不認同這種觀點，工程師也無法構建一個有效的年齡過濾器，而發布日期也一再推遲。Altman 的理想與現實之間似乎存在著巨大的差距。

結論：OpenAI 的豪賭？

OpenAI 執意推出 ChatGPT 情色模式，是一場充滿風險的豪賭。這項計劃不僅引發了道德和安全方面的擔憂，也暴露了 OpenAI 在技術和決策過程中的一些問題。儘管 OpenAI 聲稱會採取措施保護用戶，但許多人仍然擔心 AI 情色化可能帶來的潛在危害。OpenAI 是否能夠成功平衡創新和安全，還有待時間的檢驗。但可以肯定的是，這場爭議將會持續下去，並對 AI 的未來發展產生深遠的影響。