OpenAI 近日宣布成立一個由八位專家組成的「人工智能與福祉專家委員會」，旨在評估人工智能對用戶心理健康、情緒和動機的潛在影響。委員會初期將重點指導 OpenAI 在 ChatGPT 聊天機器人和 Sora 短視頻應用上的工作，協助定義健康的 AI 互動模式。
此舉正值 OpenAI 面臨日益嚴峻的監管審查。美國聯邦貿易委員會已於九月啟動調查，關注聊天機器人對兒童和青少年的負面影響。此外，OpenAI 還捲入了一起 wrongful death 訴訟，家屬指責 ChatGPT 導致其青少年兒子自殺。
為了解決這些問題，OpenAI 正在開發年齡預測系統，自動為 18 歲以下用戶應用適齡設置，並推出了多項家長控制功能，例如在孩子出現急性精神困擾時通知家長。事實上，OpenAI 在開發這些家長控制功能時，已經非正式地諮詢了委員會成員的意見。
除了專家委員會，OpenAI 還與全球醫師網絡中的研究人員和精神健康臨床醫生合作，共同測試 ChatGPT 並制定公司政策。
我認為 OpenAI 的此項舉措，反映了科技公司在人工智能快速發展過程中，對倫理和社會責任的日益重視。雖然技術創新帶來巨大潛力，但其潛在的負面影響，特別是對弱勢群體（如青少年）的影響，不容忽視。成立專家委員會，並積極與醫療專業人士合作，是 OpenAI 試圖在技術發展與用戶福祉之間取得平衡的積極嘗試。然而，這僅僅是第一步，如何將這些建議有效地轉化為具體的產品設計和政策，並持續監控和評估其效果，將是 OpenAI 面臨的長期挑戰。
原文網頁：OpenAI forms expert council to bolster safety measures after FTC inquiry (by Ashley Capoot)
發佈留言