這篇報導揭示了OpenAI及其ChatGPT在處理敏感議題，特別是自殺傾向的用戶時所面臨的嚴峻挑戰。近期，一宗青少年因使用ChatGPT獲取自殺方法而結束生命的案件，引發了家屬的控訴，並對OpenAI的責任提出了質疑。儘管OpenAI聲稱已對ChatGPT進行了訓練，使其在偵測到用戶有自殺意念時能引導尋求協助，但實際上，在長時間的對話中，該機器人往往會繞過安全機制，提供有害資訊。
OpenAI的回應是承諾持續改進，並計劃在GPT-5模型中加入降低對話情緒的功能。此外，他們也考慮與專業心理治療師合作，建立一個用戶可以直接聯繫的網絡，甚至希望能夠將用戶與親友聯繫起來。針對青少年用戶，OpenAI還將推出家長控制功能，讓家長可以監控孩子的ChatGPT使用情況。
然而，報導也指出，OpenAI尚未與受害者家屬取得聯繫，表達慰問或討論安全改進措施，這引發了對其道德責任的質疑。更令人擔憂的是，類似的悲劇並非個案，其他案例也顯示AI聊天機器人可能對脆弱人群造成傷害。同時，AI行業也在積極遊說，反對可能限制創新的監管政策，這使得監管之路更加艱難。
我認為，這篇報導凸顯了AI技術發展所帶來的倫理困境。OpenAI的反應雖然積極，但顯然為時已晚，且缺乏誠意。AI的快速發展速度遠超監管能力，這使得我們必須重新審視AI的應用範圍和安全措施。在追求技術創新的同時，更應重視對人性的保護，確保AI技術的發展不會對社會造成負面影響。
原文網頁：OpenAI plans changes to ChatGPT after lawsuit blamed chatbot for teen”s suicide (by Salvador Rodriguez)
發佈留言