美國巴爾的摩市成為首個對埃隆·馬斯克旗下xAI公司提起訴訟的主要美國城市，指控其生成式AI「Grok」的影像生成器導致深度偽造色情內容氾濫，對兒童及女性造成性剝削與心理創傷。巴爾的摩市長布蘭登·史考特指出，技術公司正助長兒童性虐待，並強調該市將追究責任，以維護隱私、尊嚴與公共安全。xAI於上月與SpaceX合併後，因Grok允許大規模生成非自願者影像的「深度偽造色情內容」，已在全球面臨多國監管調查。此外，田納西州三名青少年的律師也提出集體訴訟，指控Grok生成性化、貶低情境的內容。巴爾的摩市在3月24日提交的訴訟中，指控xAI違反消費者保護法，並以「Grok」及「X（前Twitter）」為安全平台進行欺詐與不正當商業行為。訴訟特別提及「將她穿比基尼」的趨勢，鼓勵用戶上傳他人照片並生成裸露影像，而馬斯克本人曾參與此趨勢，發布Grok生成的自己穿比基尼的圖片，被視為對該功能的公開背書。巴爾的摩要求法院下令xAI停止針對居民的剝削行為，並改革平台設計與行銷策略。訴訟同時要求最高法定罰款與禁令，以限制非自願 intimate images（NCII）及兒童性虐待材料（CSAM）的生成。英國慈善機構「網際網路觀察基金會」報告指出，2025年非法AI生成的性化影像中，97%針對女性。此案凸顯AI技術在倫理與法律監管上的重大缺口，並引發對科技巨頭在平台設計與內容審查責任的嚴厲質疑。
此事件揭示科技公司在開發AI工具時，若缺乏嚴格的倫理與法律風險管控，可能導致技術被濫用，對社會造成深遠傷害。馬斯克作為xAI與SpaceX的領導者，其公開行為被視為對平台功能的背書，進一步加劇爭議。此案亦反映全球對AI生成內容監管的迫切需求，特別是針對兒童與女性的性剝削問題，需國際合作與更嚴格的法律框架來遏制濫用。若xAI未能有效應對，可能面臨更廣泛的法律訴訟與監管壓力，同時損害其品牌聲譽與社會信任。
原文網頁：Baltimore sues xAI over Grok deepfakes as pressure mounts on Musk”s companies (by Lora Kolodny)
發佈留言