OpenAI 執行長山姆·奧特曼（Sam Altman）近日針對其放寬 ChatGPT 聊天機器人內容限制的決定，引發爭議，他回應稱 OpenAI 並非「世界當選的道德警察」。此前，OpenAI 面臨越來越多的審查，尤其是在保護用戶，尤其是未成年人的方面。奧特曼表示，隨著公司能夠緩解「嚴重的心理健康問題」，他們現在可以「安全地放鬆」大部分限制。
具體而言，奧特曼在十二月宣布將允許 ChatGPT 上出現更多內容，包括情色內容。他隨後在 X 平台（前身為 Twitter）上進一步澄清，強調 OpenAI 非常重視將成年用戶視為成人的原則，但仍將禁止「對他人造成傷害」的內容。奧特曼將此舉比作社會對其他適當界限的劃分，例如分級電影，希望在人工智能領域也能建立類似的標準。
這項決定的核心在於 OpenAI 如何平衡安全與自由。一方面，公司需要保護用戶免受有害內容的侵害，尤其是未成年人。另一方面，過於嚴格的限制可能會阻礙人工智能的發展，並限制其潛在的應用。奧特曼的表態表明，OpenAI 傾向於在一定程度上放寬限制，並將責任更多地交給成年用戶。
我認為，奧特曼的此舉反映了人工智能行業發展的一個重要轉折點。隨著人工智能技術的日益成熟，如何管理其潛在風險和道德影響變得越來越重要。OpenAI 的決定，無論是支持還是反對，都將對整個行業產生深遠的影響，並引發關於人工智能倫理和社會責任的更廣泛討論。這也暗示著 OpenAI 正在試圖將 ChatGPT 定位為一個更通用、更開放的平台，而非一個受到過度監管的工具。
原文網頁：Sam Altman says OpenAI isn”t ”moral police of the world” after erotica post (by Ashley Capoot)
發佈留言