這篇報導主要講述了OpenAI的Sora工具在推出後，因用戶利用其生成了對民權運動領袖馬丁·路德·金博士的不敬影像，而不得不暫停相關影片的製作。OpenAI表示，雖然歷史人物的描繪涉及言論自由，但公眾人物及其家屬應對自身形象的使用擁有控制權。他們計劃加強對歷史人物的保護措施，並允許公眾人物或其代表要求不在Sora生成的影片中出現。
這起事件並非孤例。已故喜劇演員羅賓·威廉斯的遺孀，以及女演員斯嘉麗·約翰遜也曾公開表達對AI深度偽造技術的不滿，前者要求停止傳送父親的AI影片，後者則指控OpenAI在ChatGPT中使用了與其電影角色極為相似的聲音。
Sora工具在短短五天內就獲得了超過一百萬次的下載，速度甚至超越了ChatGPT，顯示了AI生成影片的巨大潛力。然而，這也引發了對虛假信息傳播、版權侵權以及大量劣質影片充斥社交媒體等問題的擔憂。
我認為，這篇報導反映了AI技術發展所帶來的倫理和法律挑戰。OpenAI的回應雖然及時，但更像是一種危機公關，而非根本性的解決方案。AI技術的發展速度遠超監管的腳步，如何平衡創新與保護個人權益，將是未來一段時間內科技公司、政府和社會共同面臨的難題。這不僅僅是技術問題，更涉及到對歷史、尊重和道德的深刻思考。
原文網頁：OpenAI stops Sora videos of MLK Jr. after ”disrespectful” deepfakes (by Samantha Subin)
發佈留言