OpenAI 近期推出了一項年齡預測模型，旨在識別 ChatGPT 使用者中未滿 18 歲的用戶。此模型結合了帳戶層面的資訊，例如帳戶建立時間、使用者活躍時段，以及使用者自填的年齡，並分析使用者的行為模式。此舉是 OpenAI 面臨日益嚴峻的監管壓力，以及因 AI 聊天機器人可能對青少年造成負面影響而引發的聯邦貿易委員會（FTC）調查，以及多起涉及青少年自殺的訴訟所迫。
一旦模型判定使用者未滿 18 歲，ChatGPT 將自動啟動保護機制，減少使用者接觸敏感內容，例如自殘描繪。使用者若認為自己被錯誤判定，可透過 Persona 身份驗證服務恢復完整訪問權限。Persona 服務已被 Roblox 等其他科技公司採用，同樣面臨保護未成年人的壓力。
OpenAI 此前已推出家長控制功能，並成立了一個由八位專家組成的委員會，以研究 AI 對使用者心理健康、情緒和動機的影響。公司表示將持續改進年齡預測模型的準確性，並計劃在未來幾週內在歐盟地區推出，以符合當地法規要求。
我認為 OpenAI 的此項舉措，反映了科技公司在 AI 發展過程中，對使用者安全，尤其是未成年人保護的日益重視。然而，僅憑藉模型預測年齡，並非萬無一失，誤判的可能性依然存在。同時，如何定義“敏感內容”，以及保護措施的有效性，仍有待考量。更重要的是，這項技術的推出，也暗示了 AI 聊天機器人可能對青少年心理健康構成的潛在風險，這是一個不容忽視的問題。科技公司在追求技術創新的同時，必須肩負起社會責任，確保 AI 的發展能夠真正造福人類。
原文網頁：OpenAI is rolling out age prediction for ChatGPT consumer plans (by Ashley Capoot)
發佈留言