伊隆·馬斯克的xAI公司，因其人工智慧聊天機器人和圖像生成器Grok，被美國加州檢察長羅布·邦塔展開調查。調查的起因是Grok被發現助長了基於真實人物照片的大規模非自願性露骨圖像的創建和發布。互聯網觀察基金會的研究更指出，Grok甚至被用於生成虛擬脫衣的未成年人圖像。
邦塔檢察長聲明稱，xAI似乎正在促進大規模生產深度偽造的非自願性親密圖像，這些圖像被用於在網路上騷擾女性和女孩，包括透過馬斯克旗下的社群媒體平台X。檢察長辦公室正在調查xAI，重點是Grok所導致的非自願性性暴露材料的蔓延。
值得注意的是，美國的調查行動並非孤例。印度、馬來西亞、印尼、愛爾蘭、澳洲以及歐洲委員會等眾多國際政府機構已經採取了更迅速的反應。馬來西亞和印尼已經暫停了Grok的使用，直到問題得到解決。
這起事件凸顯了人工智慧技術在倫理和法律層面所帶來的巨大挑戰。Grok的案例清楚地表明，在追求技術創新的同時，必須高度重視對個人隱私和尊嚴的保護。這不僅僅是法律問題，更涉及社會道德底線。xAI的處理方式，以及未來相關技術的監管，將對整個AI行業產生深遠影響。如果任由這種情況發展，不僅會對受害者造成難以彌補的傷害，也會損害公眾對AI技術的信任。
原文網頁：Elon Musk”s xAI probed by California DOJ over Grok”s deepfake explicit images (by Lora Kolodny)
發佈留言