英國首相擬議新法加強監管AI聊天機器人：兒童安全引發高度關注

英國首相基爾·斯塔默（Keir Starmer）宣布將向議會尋求新的權力，以監管AI聊天機器人，並準備與拒絕採取行動的公司展開鬥爭。此舉源於對兒童安全的日益擔憂，以及AI技術可能被濫用於不當用途的憂慮。

斯塔默的聲明與具體措施

斯塔默在Substack上直接向公眾發表聲明，表示政府將加強現有的網路安全法規，確保AI聊天機器人供應商「牢牢納入監管範圍」。這建立在最近禁止裸露應用程式和將未經同意的親密影像定為犯罪的基礎之上。他在X平台上發文表示：「在保護我們的孩子方面，任何社群媒體平台都不應獲得豁免。這就是我採取行動的原因。」

根據公眾諮詢，擬議的權力將允許政府設定社群媒體的年齡限制，阻止諸如自動播放和無盡滾動等使兒童「沉迷於螢幕」的功能。它還將限制未成年人使用VPN以規避年齡限制。斯塔默強調，與保守黨花費數年時間通過《網路安全法》不同，他們將在幾個月內採取權力，允許他們實施社群媒體的最低年齡限制，以防止兒童訪問有害的社群媒體。

國際警惕與xAI的Grok聊天機器人

這些聲明是在國際社會對xAI的Grok聊天機器人發出警報之際發布的。數位仇恨反制中心（Center for Countering Digital Hate）估計，該機器人在短短11天內產生了23,338張兒童性化圖像，大約每41秒一張。Billions.Network的共同創辦人兼執行長Evin McMullen告訴Decrypt，這種危害完全是可以預見的。

McMullen表示：「為了在短期內提高指標而放寬護欄是一種魯莽的賭博，因為其後果包括兒童剝削材料充斥平台。當你將『辛辣模式』作為一種功能進行營銷，並將病毒式傳播置於安全之上時，你就是在邀請這種濫用行為。保護兒童和隱私不是一個錯誤修復。」

監管機構的介入與警告

獨立監管和競爭機構Ofcom以及英國資訊專員辦公室（Information Commissioner’s Office）本月稍早都對X展開了調查，警告稱存在「根據英國數據保護法的嚴重擔憂」。Ofcom表示，如果發現該平台不合規，可能會尋求法院支持的措施來封鎖該平台。

反對聲音與經濟考量

斯塔默的干預引發了反對派的批評。改革英國黨（Reform UK）主席David Bull在X上寫道：「這個政府已經失控。當國家正在崩潰時，他們的優先事項完全錯誤。」Byrne & Storm, P.C.的管理合夥人兼GRANITE法案的作者Preston Byrne警告說，英國的舉動將立即引發法律報復。GRANITE法案是一項擬議的美國盾牌法，已在懷俄明州正式提出，旨在保護美國數位服務提供商免受外國政府的審查令。

與此同時，英國前首相里希·蘇納克（Rishi Sunak）在本週末的《星期日泰晤士報》上撰文，敦促斯塔默將AI視為經濟機會，而不是僅僅視為安全問題，並警告說，未能推動AI的採用可能會使英國成為「歷史好奇遊客的主題公園」。蘇納克現在是微軟的高級顧問，他表示，公共部門的AI部署應成為政府的首要任務，並指出在2025年上半年和下半年之間，英國在微軟的全球工作場所AI採用排名中從第8位下降到第9位。

政治背景與爭議

斯塔默以保護兒童網路安全為中心的AI聊天機器人監管，正值他因任命彼得·曼德爾森（Peter Mandelson）為英國駐美國大使而面臨政治後果之際。曼德爾森曾任英國內閣部長和工黨高級人物，後來在愛潑斯坦檔案、法院記錄和官方文件中披露了與被定罪的性犯罪者的聯繫後被解僱。愛潑斯坦於2019年被拘留期間死亡，他是一名被指控販運和虐待未成年少女的美國金融家。斯塔默後來道歉，表示他在任命曼德爾森時「相信了曼德爾森關於他們關係的謊言」。

監管AI的必要性與挑戰

隨著AI技術的不斷發展，對其潛在風險的擔憂也日益增加，特別是針對兒童的網路安全威脅。AI聊天機器人能夠產生逼真的文字和圖像，這使得它們可能被用於不當用途，例如散布不適當的內容、進行網路霸凌或引誘兒童。因此，政府有必要採取行動，加強對AI技術的監管，以保護兒童的權益。

然而，監管AI技術也面臨著許多挑戰。首先，AI技術的發展速度非常快，監管機構可能難以跟上技術的步伐。其次，AI技術的應用非常廣泛，監管機構需要考慮到不同應用場景下的具體情況。第三，監管AI技術可能會對創新產生負面影響，政府需要在保護兒童安全和促進技術創新之間取得平衡。

台灣的借鑒與思考

英國政府對AI聊天機器人的監管舉措，為台灣提供了一個重要的參考案例。台灣也面臨著類似的網路安全挑戰，特別是在保護兒童方面。台灣政府應密切關注國際上的監管趨勢，並結合台灣的具體情況，制定相應的法律法規，加強對AI技術的監管。同時，台灣也應加強公眾教育，提高公眾對AI技術風險的認識，共同維護網路安全。

此外，台灣的科技產業也應積極參與AI倫理和安全標準的制定，推動AI技術的負責任發展。企業應建立健全的內部監管機制，確保AI技術的應用符合倫理規範和法律法規。只有政府、產業和公眾共同努力，才能有效地應對AI技術帶來的挑戰，實現AI技術的可持續發展。

結論

英國首相斯塔默擬議的新法加強監管AI聊天機器人，反映了對兒童安全的高度重視。這一舉措引發了廣泛的討論和反思，提醒我們在享受AI技術帶來的便利的同時，也要高度警惕其潛在風險。台灣應從中借鑒經驗，制定相應的監管措施，共同構建安全、健康的網路環境。