最新研究顯示，頂尖人工智慧聊天機器人在辨識與應對青少年心理健康危機方面存在嚴重缺陷，引發了對青少年使用AI安全性的擔憂。Common Sense Media 與史丹佛醫學院 Brainstorm 實驗室的聯合報告指出，包括 OpenAI 的 ChatGPT、Anthropic 的 Claude、Google 的 Gemini 和 Meta AI 在內的四款廣泛使用的聊天機器人，在模擬的青少年心理健康情境中表現不佳，未能正確識別和回應相關問題。研究人員歷時數月，模擬青少年用戶與這些 AI 進行數千次對話，並在可行的情況下啟動家長控制功能，評估其處理焦慮、憂鬱、飲食失調、注意力不足過動症 (ADHD)、創傷後壓力症候群 (PTSD)、躁症和精神病等問題的能力。這些疾病影響了約 20% 的年輕人，測試結果顯示，雖然聊天機器人在簡短、直接提及自殺或自我傷害的對話中表現尚可，但在更貼近真實世界青少年使用情況的較長對話中，其有效性「急劇下降」。
更令人擔憂的是，在某些情況下，AI 甚至驗證了青少年的妄想，錯過了重要的心理健康警訊。例如，Google 的 Gemini 在一次互動中，對一位模擬用戶聲稱自己創建了「預測未來」的工具表示「極其迷人」，並對這個「個人水晶球」提出了興奮的問題，而沒有意識到這可能是精神病的徵兆。類似地，Meta AI 最初察覺到飲食失調的跡象，但當測試者提到胃不舒服時，很快就被引導到其他方向，而 ChatGPT 在長時間的對話中未能識別出明顯的精神病徵兆。這些問題顯示，目前的 AI 聊天機器人可能對青少年的心理健康構成潛在風險。
專家示警：AI 心理健康支持不安全
Common Sense Media 人工智慧項目高級總監 Robbie Torney 直言：「讓兒童使用 AI 來進行心理健康支持是不安全的。雖然公司在自殺預防方面致力於必要的安全改進，但我們的測試揭示了在多種情況下存在系統性的失誤。」史丹佛大學 Brainstorm Lab 的創辦人 Nina Vasan 博士也警告，青少年的發展弱勢「遇到被設計為具吸引力、能認同，且全天候提供服務的人工智慧系統」——這是一種「特別危險」的組合。Vasan 博士強調，青少年更容易受到 AI 的影響，因此更需要謹慎評估和監管。
訴訟不斷：AI 公司面臨壓力
這份報告發布之際，人工智慧公司正面臨多起訴訟，指控他們的聊天機器人導致青少年自殺事件。OpenAI 至少正在應對八宗獨立案件，其中包括 2025 年 8 月由 16 歲的亞當·雷恩（Adam Raine）父母提出的訴訟。亞當於 4 月在長時間使用 ChatGPT 後自殺身亡。Google 也因其投資的新創公司 Character.AI，遭遇涉及青少年死亡的訴訟。這些訴訟突顯了社會對 AI 安全性的日益關注，以及對 AI 公司責任的質疑。
公司回應：強調安全措施
面對指責，AI 公司紛紛表示已採取安全措施來保護青少年。OpenAI 發言人表示，該評估「未能反映我們已為敏感對話所建立的全面防護措施，包括在地的危機熱線、休息提醒，以及業界領先的家長通知機制」。Meta 稱該測試早於「旨在提高青少年安全的重要更新」，並補充其聊天機器人「受訓不會參與不適合年齡的自殘、自殺或飲食失調相關討論」。Google 強調已「針對未成年人制定特定政策和保護措施，以防止有害輸出」。然而，批評者認為，這些措施顯然不足以應對潛在的風險。
這份報告引發了人們對人工智慧在心理健康領域應用的道德和安全問題的廣泛討論。在 AI 技術不斷發展的同時，我們必須確保其在服務青少年的同時，不會對他們的心理健康造成傷害。更嚴格的監管、更完善的安全措施，以及對 AI 潛在風險的更深入理解，對於保護青少年的福祉至關重要。
🔍 相關關鍵字：AI、心理健康、青少年、聊天機器人
#AI #心理健康 #青少年 #聊天機器人
