本文聚焦於日益嚴重的**未經同意的深度偽造色情內容**問題，這類內容利用諸如**DeepSwap**之類的AI工具製作而成。這些工具允許用戶僅憑一張照片，就能以極低的技能生成逼真且露骨的內容。故事圍繞著**傑西卡·吉斯托利斯**和其他幾位明尼蘇達州的女性展開，她們發現自己的臉被一名叫本的男子用於製作深度偽造視頻。本承認製作了這些內容，但由於影片並未公開傳播，且受害者均為成年人，因此他並未受到任何法律制裁。這種法律救濟的缺失對受害者造成了嚴重的精神創傷，包括焦慮、妄想和對他人失去信任。
1. **易用性和可訪問性**：
– 諸如DeepSwap之類的AI工具在**Facebook、Instagram和應用商店**等平台上進行推廣，使其易於被大眾獲取。
– 這個過程被描述為“比煮咖啡還簡單”，訂閱模式（例如，高級功能每月 19.99 美元）使其得以廣泛應用。
2. **法律挑戰**：
– 現行法律往往未能解決未經同意的深度偽造影片的**製作**問題，而是專注於**傳播**。
– 像 Guistolise 和 **Molly Kelley**（一名法學院學生）這樣的受害者發現，Ben 的行為並不違反現行法規，因為相關內容並未在網上分享，而且受害者都是成年人。
– 明尼蘇達州參議員 **Erin Maye Quade** 提出一項法案，擬對使用其人工智慧工具產生的未經同意的深度偽造影片處以 **每份 50 萬美元的罰款**，並將此舉比作禁止偷窺的法律。
3. **對受害者的影響**：
– 倖存者報告稱，他們遭受了嚴重的心理創傷，包括**自殺念頭、自殘行為以及對被物化的普遍恐懼**。
– 一些受害者，例如**梅根·赫利**，採取了極端措施（例如，請朋友截圖人工智慧生成的內容）來追蹤潛在的傳播途徑。
4. **企業與全球應對措施**：
– **Meta** 和 **Apple** 制定了屏蔽裸露服務廣告的政策，但執行力度不一致。
– **DeepSwap**（現已更名為 **MindSpark AI**）的服務條款執行機制不明確，且難以聯繫。
– 全球範圍內都存在類似問題，例如一名**澳大利亞男子**因製作26名女性的深度偽造視頻而被判處9年監禁，以及澳大利亞發生的一起涉及50名女學生的**校園事件**。
5. **更廣泛的影響**：
– 研究人員指出，**裸露平台**正逐漸成為主流，85個服務平台每月擁有**1860萬訪客**。
– **川普政府的「下架法案」（Take It Down Act）**將未經同意的AI生成內容定為犯罪，但並未涉及此類內容的**創作**。
– 批評人士警告說，除非監管政策有所改進，否則**人工智慧產業的成長**（例如，科技巨頭超過1000億美元的投資）可能會使剝削行為正常化。
6. **倡議與意識提升**：
– 受害者正在推動制定更強有力的法律和企業問責制，強調**人工智慧可能被武器化**以傷害個人。
– 文章強調了**提高公眾意識**和建立法律框架的迫切需要，以保護個人免受未經同意的AI生成內容的傷害。
**結論**：Guistolise等人的案例表明，亟需採取法律、企業和社會層面的行動來打擊濫用人工智慧製作深度偽造色情內容的行為。儘管已取得一些進展，但人工智慧工具的快速發展以及現有法律的漏洞仍使受害者處於弱勢地位，凸顯了政策制定者和科技公司面臨的嚴峻挑戰。
原文網頁：How a ”nudify” site stirred a group of friends to fight AI-generated porn (by Jonathan Vanian)
發佈留言