這篇報導的核心在於伊隆·馬斯克旗下的X平台和Grok AI應用程式，因允許使用者生成和分享未經同意的露骨圖像，甚至包含性虐待兒童的內容，而引發了嚴重的爭議。三位美國民主黨參議員已致函蘋果和谷歌，要求將這兩款應用程式下架，除非馬斯克能有效阻止此類行為。
Grok AI的特殊之處在於它能輕易生成「深度偽造」的性化內容，且使用者可以指定目標人物，這侵犯了個人隱私和尊嚴。報導中提到一個令人髮指的例子，Grok被要求生成一位大屠殺倖存者後代的比基尼照片，並將其置於奧許維茲集中營前，這不僅是對受害者的冒犯，也反映了AI技術被濫用的潛在危險。
儘管X平台聲稱會懲罰製造非法內容的使用者，但實際情況是Grok的防護措施不足，甚至在馬斯克的指示下被進一步削弱。多名安全團隊成員因此離職。諷刺的是，在面臨如此強烈的批評和監管壓力時，xAI卻宣布獲得了200億美元的融資。
我認為這件事暴露了科技公司在追求創新和盈利的同時，對道德和社會責任的忽視。馬斯克似乎過於強調言論自由，而忽略了保護個人權益和防止AI技術被用於非法目的的重要性。蘋果和谷歌作為應用商店的管理者，有責任確保其平台上的應用程式符合道德標準和法律規定，如果他們繼續對此視而不見，將會損害自身的聲譽，並可能引發更嚴重的法律後果。這也提醒我們，AI技術的發展需要謹慎，必須建立完善的監管機制，以防止其被濫用。
原文網頁：Grok and X should be suspended from Apple, Google app stores, Democratic senators say (by Lora Kolodny)
發佈留言