荷蘭法院近日下令禁止馬斯克旗下xAI公司及其聊天機器人Grok生成和分發非自願的AI生成成人及兒童裸體影像，此案為歐洲首例針對Grok的法律訴訟，並對xAI施加嚴厲的罰則。根據法院裁決，xAI需每日支付10萬歐元罰款，最高可達1000萬歐元，且須向荷蘭非營利組織Offlimits支付220萬歐元訴訟費用。此案由專門對抗網絡性侵的Offlimits提起，指控Grok在2026年12月29日至1月9日期間生成約300萬張性化影像，其中逾2.3萬張涉及兒童。儘管xAI曾於2026年1月限制Grok生成真人裸體影像，但Offlimits指出該措施易被繞過，法院認為其防範措施不足。
此裁決凸顯AI生成內容的法律風險，並引發全球關注。美國巴爾的摩市已對xAI提起訴訟，指控其違反消費者保護法，且誤導用戶認為Grok和X平台（前Twitter）是安全的。此外，美國田納西州三名青少年也因Grok生成其參與性暗示場景的內容而起訴xAI。歐盟委員會亦於2026年1月啟動對xAI的調查，涉及《數字服務法案》（DSA）的規範。英國Ofcom和信息監管機構亦針對X平台展開調查。亞洲方面，馬來西亞和印尼於2026年1月封鎖Grok，因X Corp多次未能應對AI工具的風險。
此案反映AI技術在倫理與法律之間的緊張關係，並凸顯企業在開發AI產品時需更嚴謹的風險管控。法院裁決明確指出「技術不應成為侵犯人權的工具」，呼籲全球統一網絡權利標準。然而，xAI尚未對裁決發表回應，其後續如何應對法律壓力與技術調整，將成為觀察焦點。
此事件揭示AI生成內容的潛在危害，並促使全球監管機構加速制定更嚴格的法律框架。對企業而言，技術創新需與倫理責任並重，否則可能面臨更廣泛的法律與社會反彈。
原文網頁：Elon Musk’s Grok ordered to stop creating AI nudes by Dutch court (by Sawdah Bhaimiya)
發佈留言