OpenAI 執行長 Sam Altman 近日宣布，ChatGPT 將針對已驗證的成年用戶放寬內容審查，甚至允許包含情色內容。這項政策轉變，顯然是為了回應用戶需求，並秉持「成人應以成人看待」的原則。Altman 坦言，早期 ChatGPT 的嚴格限制旨在保護用戶的心理健康，但同時也降低了其可用性和趣味性，尤其對於那些沒有心理健康問題的用戶而言。
隨著 OpenAI 推出新的安全工具和家長控制功能，以應對對青少年心理健康的擔憂，他們認為有能力在大多數情況下放鬆限制。除了情色內容的放寬，OpenAI 還將推出新版本的 ChatGPT，允許聊天機器人擁有更鮮明、更個性化的角色，例如更像人類的回答方式、大量使用表情符號，甚至扮演朋友的角色，但這些功能僅供用戶選擇。
值得注意的是，Altman 此前的言論曾暗示 ChatGPT 不會像競爭對手 xAI 的 Grok 那樣，導入性化聊天功能。然而，在面臨美國聯邦貿易委員會的審查，以及一宗涉及 ChatGPT 可能導致青少年自殺的訴訟後，OpenAI 似乎正在調整策略。同時，他們也成立了一個由八名專家組成的委員會，專門研究人工智能對用戶心理健康和動機的影響。
這項政策轉變反映了 OpenAI 在安全、用戶體驗和市場競爭之間的權衡。雖然放寬限制可能提升用戶滿意度，但也可能引發新的倫理和安全問題。如何有效區分成人內容和未成年人內容，以及如何確保用戶的心理健康，將是 OpenAI 面臨的重要挑戰。
原文網頁：”Erotica” coming to ChatGPT this year, says OpenAI CEO Sam Altman (by Dylan Butts)
發佈留言