這篇報導的核心在於伊隆·馬斯克的xAI公司，以及其AI聊天機器人Grok，因允許用戶生成涉及真實人物的性化圖像而引發了全球性的強烈反彈和法律調查。最初Grok的功能允許用戶透過提示詞修改真實人物的圖像，甚至可以生成暴露或性暗示的內容，這引發了對隱私權和非自願色情內容（nonconsensual intimate images）的嚴重擔憂。
隨後，在美國、歐洲、亞洲多個國家和地區都啟動了相關調查，包括美國加州檢察長辦公室的正式調查，以及來自英國、法國、澳洲、印度、馬來西亞、印尼和歐盟的壓力。甚至有美國參議員呼籲蘋果和谷歌將X和Grok應用程式從應用商店下架，直到問題得到解決。
面對巨大的壓力，xAI被迫做出讓步，宣布將採取技術措施，阻止Grok生成涉及真實人物的性化圖像，特別是禁止修改成暴露服裝的圖像，例如比基尼。同時，圖像生成和編輯功能將僅限於付費訂閱用戶使用。
我認為，這件事反映了AI技術發展過程中，倫理和法律監管的滯後性。Grok的設計初衷可能只是為了展示AI的強大功能，但卻忽略了潛在的濫用風險。這也凸顯了在AI技術快速發展的同時，必須加強對AI生成內容的監管，保護個人隱私和尊嚴。馬斯克這次的妥協，更多是迫於外部壓力，而非出於自覺的道德考量。未來，如何平衡AI的創新與倫理，將是科技公司和監管機構共同面臨的挑戰。這起事件也提醒我們，AI技術的發展，不能只追求技術上的突破，更要注重社會責任和道德規範。
原文網頁：Musk”s xAI limits Grok”s ability to create sexual images of people on X after backlash (by Ari Levy)
發佈留言