這份報導揭露了蘋果和谷歌應用商店內存在大量「去衣」應用程式，這些應用程式利用人工智慧技術，將人們的照片生成為裸體圖像。Tech Transparency Project (TPP) 的調查發現，谷歌Play商店有55個，蘋果App Store則有47個此類應用程式。儘管蘋果聲稱已移除28個應用程式，並警告其他開發者注意合規性，但TPP指出實際移除的數量僅為24個。谷歌方面則表示已暫停了一些應用程式，但未透露具體數量，因為調查仍在進行中。
這起事件與Elon Musk的xAI及其Grok AI工具先前因生成女性和兒童的性化照片而引發的爭議相呼應。TPP的調查方法是搜索「去衣」和「脫衣」等關鍵字，並使用AI生成的女性照片進行測試，發現這些應用程式不僅僅是「換裝」工具，而是專門設計用於非自願的性化行為。更令人擔憂的是，這些應用程式的下載量高達7億次，總收入達1.17億美元，而蘋果和谷歌也從中獲利。
報告特別指出，有14個應用程式來自中國，這引發了額外的安全隱患，因為中國的數據保留法規意味著中國政府有權訪問這些應用程式收集的數據，包括受害者的裸體照片。此外，美國各州檢察長已致函支付平台，要求移除提供非自願親密圖像服務的應用程式，而一些民主黨參議員也呼籲蘋果和谷歌將X應用程式從其商店中移除。
總體而言，這份報告揭示了科技巨頭在監管應用程式內容方面存在嚴重漏洞，以及人工智慧技術被濫用可能造成的嚴重危害。它也突顯了數據安全和隱私保護的重要性，特別是在涉及敏感圖像和個人信息時。
原文網頁：Apple, Google host dozens of AI ‘nudify’ apps like Grok, report finds (by Lola Murti)
發佈留言