AI 兒童性虐素材：聯合國兒童基金會疾呼各國政府將其定為犯罪行為

全球兒童正面臨前所未有的數位威脅。聯合國兒童基金會（UNICEF）近日發布緊急聲明，呼籲各國政府將人工智慧（AI）生成的兒童性虐待素材明確定義為犯罪行為，並採取嚴厲措施打擊這種新型態的兒童性侵害。

令人震驚的數據與趨勢

UNICEF 在其名為「破壞傷害第二階段」（Disrupting Harm Phase 2）的研究報告中揭露了令人不安的數據：過去一年，全球至少有 120 萬名兒童的影像遭到 AI 操縱，被製作成性暴露的深度偽造（deepfake）內容。在某些國家，這個數字甚至高達每 25 名兒童中就有 1 人受害，相當於每個教室裡都有一位兒童的影像被用於性剝削。

這項研究涵蓋 11 個國家，對約 11,000 名兒童進行了具全國代表性的家庭調查。結果顯示，犯罪者現在可以在未經兒童同意或知情的情況下，利用 AI 生成逼真的兒童性虐待影像。更令人擔憂的是，部分受訪國家的兒童中，有多達三分之二表示擔心 AI 可能被用來製作他們的虛假性愛影像或影片。儘管不同國家之間的擔憂程度存在差異，但整體趨勢顯示，兒童對於 AI 帶來的數位風險感到日益不安。

UNICEF 的嚴正聲明

UNICEF 強調：「我們必須明確指出，利用 AI 工具生成或操縱的兒童性暴露影像就是兒童性虐待素材（CSAM）。深度偽造的性侵害就是性侵害，它所造成的傷害絕非虛假。」

這項呼籲的急迫性，也體現在法國檢方近日突襲 X（前身為 Twitter）巴黎辦公室的事件中。該突襲與一項針對該平台 AI 聊天機器人 Grok 涉嫌涉及兒童色情內容的刑事調查有關。檢方已傳喚伊隆·馬斯克（Elon Musk）和其他高層主管接受質詢。

數位反仇恨中心（Center for Countering Digital Hate）上個月發布的一份報告估計，Grok 在 2023 年 12 月 29 日至 2024 年 1 月 9 日的 11 天內，產生了 23,338 張兒童性暴露影像。這表明 AI 生成的兒童性虐待內容已成為一個不容忽視的嚴重問題。

數位環境下的新型態風險

UNICEF 的簡報指出，這些發展標誌著「兒童在數位環境中所面臨的風險出現了深刻的升級」。在這種情況下，兒童的保護權可能遭到侵犯，「即使他們從未發送訊息，甚至不知道發生了什麼事。」換句話說，AI 技術使得兒童性侵害的觸手可以伸向任何一個角落，而受害者往往毫不知情。

英國網路觀察基金會（Internet Watch Foundation）在一個暗網論壇上，僅僅一個月內就標記了近 14,000 張疑似由 AI 生成的影像，其中約三分之一被確認為犯罪內容。與此同時，韓國當局報告稱，2022 年至 2024 年間，與 AI 和深度偽造相關的性犯罪案件激增了十倍，且大多數嫌疑人被確認為青少年。這些數據再次凸顯了 AI 技術被濫用於兒童性侵害的嚴重性。

UNICEF 的具體呼籲

為了有效應對這一威脅，UNICEF 向各國政府提出了以下具體呼籲：

• 擴大兒童性虐待素材的定義，將 AI 生成的內容納入其中。
• 將 AI 生成兒童性虐待素材的創作、購買、持有和散布行為定為犯罪。
• 要求 AI 開發者實施「安全設計」（safety-by-design）方法。
• 要求數位公司阻止此類素材的傳播。
• 要求各國要求企業進行兒童權利盡職調查，特別是兒童權利影響評估。
• 要求 AI 價值鏈中的每個參與者嵌入安全措施，包括對開源模型進行發布前的安全測試。

時間不等人

UNICEF 警告：「深度偽造性侵害造成的傷害是真實且緊迫的。兒童不能等待法律趕上。」這句話充分體現了當前形勢的嚴峻性。隨著 AI 技術的不斷發展，我們必須採取果斷行動，保護兒童免受這種新型態的數位性侵害。

歐洲聯盟委員會（European Commission）已於上個月啟動了一項正式調查，以評估 X 是否因未能阻止 Grok 生成非法內容而違反了歐盟的數位規則。此外，菲律賓、印尼和馬來西亞已禁止 Grok，英國和澳大利亞的監管機構也已展開調查。這些行動表明，國際社會正在逐步意識到 AI 技術被濫用於兒童性侵害的潛在風險，並開始採取相應的措施。

面對 AI 帶來的數位威脅，我們需要一個多方合作的模式。各國政府必須加緊立法，明確將 AI 生成的兒童性虐待素材定為犯罪行為。AI 開發者和數位平台必須承擔起社會責任，確保其技術不會被濫用於兒童性侵害。家長和教育工作者也應提高兒童對於數位風險的意識，教導他們如何保護自己。只有通過共同努力，我們才能為兒童營造一個更安全、更健康的數位環境。