OpenAI 近期完成 66 億美元的股權出售，使其成為全球市值最高的私人企業，隨即推出類似 TikTok 的影片應用程式，由其最新的 AI 模型 Sora 2 驅動，迅速走紅。儘管目前仍需邀請碼才能使用，但這款影片創作工具已躍升至蘋果應用商店第三名，並引發了一波深度偽造內容的浪潮，包括 CEO 山姆·奧特曼盜竊 GPU 的病毒影片。
內部方面，此舉重新點燃了 OpenAI 內部關於如何在安全與創意自由之間取得平衡的長期爭論。公司領導層認為嚴格的防護措施至關重要，但同時也擔心會扼殺創意或被認為過於審查。這種緊張關係尚未解決。OpenAI 一直以來都傾向於速度，經常率先推出新工具，並讓公眾即時適應。一位不願透露姓名的前員工表示，在任職期間，OpenAI 領導層一直優先考慮快速發布。
這種策略在中國 DeepSeek 於去年底推出一款比矽谷任何產品都更便宜、更快的強大模型後，表現得尤為明顯。OpenAI 在幾週內回應，推出了兩款新模型，這被廣泛視為為了保持領先地位的防禦性舉措。然而，OpenAI 的關鍵優勢在於其日益增長的組織能力。
Sora 2 模型相較於第一代有了顯著提升，生成的影片片段更長、更連貫，且看起來非常逼真。儘管 OpenAI 已經採取多種安全措施，例如提示過濾、輸出審核、浮水印和禁止他人冒用肖像等，但仍有使用者找到了繞過這些保護措施的方法。奧特曼本人則表示，Sora 的推出不僅僅是為了商業發展，也是為了讓公眾了解這項技術的能力。
此外，Meta、Google、字節跳動和阿里巴巴等公司也紛紛推出了類似的 AI 影片系統，競爭日益激烈。OpenAI 同時也承諾投入 8500 億美元，加深其在基礎設施和下一代模型方面的投入。專家認為，OpenAI 進入影片領域不僅僅是為了吸引更多使用者，更是為了讓模型學習視覺和聽覺信息，進而朝向通用人工智能發展。
我認為這份報告揭示了 OpenAI 在快速發展的 AI 領域所面臨的兩難境地。一方面，他們需要保持技術領先地位，並在競爭中脫穎而出，這促使他們採取快速發布策略。另一方面，他們必須應對 AI 技術可能帶來的風險，例如深度偽造和濫用，並確保技術的安全性。
報告中提到的內部爭論，以及對安全防護措施的繞過，都表明 OpenAI 在平衡創新與責任方面面臨著真正的挑戰。奧特曼的觀點，即公開技術有助於公眾理解和適應，也值得思考。這反映了 AI 開發者在透明度和風險管理之間需要不斷權衡的複雜性。總體而言，這份報告展示了 AI 技術的巨大潛力，以及在推動技術進步的同時，謹慎應對其潛在風險的重要性。
原文網頁：OpenAI”s Sora 2 puts safety and censorship to the test with its lifelike videos (by MacKenzie Sigalos)
發佈留言