OpenAI 堅持推出 ChatGPT 色情模式，引發「性感自殺教練」疑慮

OpenAI 執行長 Sam Altman 似乎決心讓 ChatGPT 涉足色情領域。儘管公司內部的顧問發出警告，認為這項計畫可能帶來嚴重的心理健康風險，OpenAI 仍然選擇繼續推動這項備受爭議的功能。根據《華爾街日報》的報導，OpenAI 的「福祉與人工智慧專家委員會」早在今年一月就明確表達了反對意見，認為在 ChatGPT 中開放情色對話並非明智之舉。

據報導，一位委員會成員指出，在與聊天機器人建立強烈情感連結後，有使用者選擇結束自己的生命。這位成員警告說，OpenAI 可能會因此創造出一個「性感自殺教練」。然而，OpenAI 似乎並未退縮，僅表示會延遲推出該功能，但不會完全停止。

情色模式：僅限文字，但爭議不斷

Altman 最初在去年十月於 X (原 Twitter) 上公開了這項計畫，允許經過驗證的成年人使用 ChatGPT 進行基於文字的情色對話。OpenAI 發言人向《華爾街日報》表示，這將是「情色，而非色情」。沒有情色圖片、聲音或影片，僅有文字。

然而，這種區別並未平息公司內外的批評聲浪。OpenAI 早已因偏離嚴格的安全政策，轉而追求「閃亮產品」而受到批評。一些前員工，如安全研究員 Jan Leike，指出 OpenAI 為了提升使用者參與度，甚至將一些產品配置為讓使用者以聊天機器人取代真實世界的人際關係。

技術難題：年齡驗證的挑戰

技術問題同樣棘手。OpenAI 的年齡預測系統，旨在防止未成年人觸發成人聊天，一度將約 12% 的青少年錯誤分類為成年人。《華爾街日報》報導稱，正是這個 12% 的錯誤率導致了去年 12 月和 2026 年第一季的發布延遲。OpenAI 應用程式執行長 Fidji Simo 在去年 12 月的一次簡報中承認了延遲，並表示正在努力完善年齡驗證系統。

Decrypt 報導稱，當時已有超過 3,000 名使用者簽署了一份 Change.org 請願書，要求推出該功能，他們對 ChatGPT 甚至阻止「親吻和非性身體親密行為」的討論感到沮喪。

委員會的憤怒：不僅僅是內容問題

今年一月，委員會的憤怒不僅僅源於內容本身。Altman 在 X 上的發文讓他的團隊措手不及。他在 OpenAI 宣布成立福祉委員會 (一個明確負責定義「所有年齡層與人工智慧的健康互動應該是什麼樣子」的機構) 僅僅幾個小時後就發布了這篇文章。至少，這是一個矛盾。

OpenAI 於去年十月組建了由八名成員組成的專家委員會，成員來自哈佛大學、史丹佛大學和牛津大學。他們的角色是為公司提供關於其產品對心理健康的影響的建議。從一月份的會議來看，他們對公司決策的實際影響似乎微乎其微。

AlgorithmWatch 的一位發言人在委員會宣布成立時告訴 Decrypt：「這似乎是快速行動、打破常規，並在事情變得令人尷尬後嘗試修復一些問題的常見模式的一部分。」

競爭壓力與道德責任

OpenAI 面臨的競爭壓力是真實存在的。Elon Musk 的 xAI 推出的 Grok 已經在銷售人工智慧伴侶。Character.AI 在因青少年安全問題面臨訴訟之前，已經建立在人工智慧戀愛關係的基礎上——其中包括 14 歲的 Sewell Setzer 的案例，他在與露骨的聊天機器人交流後自殺身亡。開源模型可以在本地運行，不受任何公司監管。OpenAI 因其龐大的使用者群而面臨比任何其他公司更大的責任風險。

Altman 將內容禁令視為過度干預——他在去年十月在 X 上寫道：「我們不是世界民選的道德警察。」

但他的顧問們已經明確表達了自己的立場，他的工程師們還無法建立一個有效的年齡過濾器，而且發布日期不斷推遲。結果證明，像對待成年人一樣對待成年人，比僅僅發布一篇 X 文章要困難得多。

OpenAI 告訴 Decrypt，他們沒有任何補充《華爾街日報》報導的內容，也沒有更新情色模式的發布時間表。

OpenAI 繼續前進，安全防護網在哪裡？

OpenAI 似乎決心擁抱人工智慧驅動的情色領域，儘管存在潛在風險。這項決定引發了關於人工智慧公司在追求創新與保護使用者，特別是弱勢群體，之間應如何取得平衡的重要問題。OpenAI 將如何確保其年齡驗證系統的可靠性，以防止未成年人接觸不適當的內容？OpenAI 又將採取哪些措施來減輕使用者在與聊天機器人建立強烈情感連結後可能產生的心理健康風險？這些問題仍然懸而未決，需要 OpenAI 提供明確的答案和有力的行動。

隨著 OpenAI 不斷推進其情色模式，重要的是要密切關注其對使用者和社會的影響。如果 OpenAI 無法有效地解決這些問題，它可能會面臨嚴重的後果，包括法律責任、聲譽損害以及對公眾信任的侵蝕。

在這個快速發展的人工智慧時代，我們需要更強大的監管和更嚴格的道德標準，以確保人工智慧技術被負責任地使用，並為所有人帶來福祉。