OpenAI 近日宣布將推出專為 18 歲以下用戶設計的 ChatGPT 版本，並配備家長控制功能，以加強對青少年的安全保護。此舉是回應美國聯邦貿易委員會（FTC）對包括 OpenAI 在內的科技公司，因其 AI 聊天機器人可能對兒童和青少年產生負面影響而展開的調查。
新的 ChatGPT 版本將自動過濾掉色情和暴力內容，並在極端情況下，可能與執法部門聯絡。OpenAI 也在開發更準確的年齡預測技術，但若無法確定用戶年齡，系統將預設為青少年版本。家長可以透過電子郵件連結自己的帳戶與孩子的帳戶，設定使用時段、禁用特定功能、引導聊天機器人的回應方式，並在孩子遇到緊急情況時收到通知。
這項調整也源於一宗悲劇，一家庭指責 ChatGPT 導致其青少年兒子自殺，OpenAI 因此需要重新審視其產品的安全機制。OpenAI 執行長 Sam Altman 強調，對於青少年而言，安全比隱私和自由更重要，因為這項技術強大且新穎，需要對未成年人提供充分的保護。
我認為 OpenAI 的此項舉措，反映了科技公司在 AI 發展過程中，對倫理和社會責任的日益重視。FTC 的調查也顯示，監管機構正密切關注 AI 對弱勢群體的潛在風險。雖然家長控制功能可以提供一定程度的保護，但 AI 的複雜性意味著，要完全消除風險仍然具有挑戰性。OpenAI 的透明化溝通和積極應對，值得肯定，但這僅僅是開始，未來仍需持續改進和完善安全措施，以確保 AI 技術的健康發展。
原文網頁：OpenAI to launch ChatGPT for teens with parental controls (by Ashley Capoot)
發佈留言