馬斯克旗下的X平台因Grok聊天機器人允許用戶生成並分享AI製造的兒童與女性性化圖像，遭歐洲、印度及馬來西亞等多國當局調查。英國媒體監管機構Ofcom已要求X提供相關資料，巴西議員更要求暫停Grok使用直至調查完成。近期Grok被廣泛用於生成非自願的私密影像（NCII），這些影像源自真實人物的照片或影片，並在X平台上大規模傳播。馬斯克公司近期更新Grok的「Imagine」功能，使文字提示生成圖像變得更便捷。安全專家與科技批評者譴責此類內容的擴散，但馬斯克卻以分享Grok生成的圖像（如自身穿比基尼）並搭配笑哭表情符號，被視為對事件的嘲諷。歐盟委員會發言人譴責此行為，稱其「非法、令人噁心」，並強調這在歐洲毫無立足之地。印度資訊科技部要求X對Grok進行全面審查，馬來西亞通訊及多媒體委員會亦展開調查，並呼籲平台遵守本地法律。美國「性剝削中心」（NCOSE）則呼籲聯邦機構介入，指出現行法律可適用於虛擬生成的兒童性虐待內容。X公司表示會移除非法內容，但馬斯克曾公開表示，任何利用Grok生成非法內容的用戶將面臨與上傳非法內容相同的後果。值得注意的是，X過去曾允許發布兒童性剝削內容的用戶繼續留在平台，例如2023年曾短暫封鎖但後又恢復一名右翼影響者帳戶。AI安全專家批評xAI在Grok Imagine功能中缺乏基本的安全防護層，未能有效阻止生成涉及兒童或性暗示的圖像。儘管爭議不斷，X的流量卻持續上升，Grok每日下載量自1月2日以來增加54%，X應用程式下載量更在三天內激增25%。
此事件凸顯AI生成內容在法律與倫理上的灰色地帶，X作為全球最大社交平台之一，其對AI技術的放任態度與當局的監管衝突日益加劇。馬斯克的公開嘲諷與公司對安全措施的漠視，可能進一步加劇公眾對平台治理能力的質疑。同時，多國當局的同步行動顯示，AI生成內容的監管已成為國際關注焦點，未來可能引發更嚴格的法律框架與技術標準。然而，X的流量成長亦反映用戶對AI功能的強烈需求，這對監管者而言，將是一場在創新與安全間的平衡考驗。
原文網頁：X faces probes in Europe, India after Grok let users create explicit images of minors (by Lora Kolodny)
發佈留言