美國聯邦貿易委員會（FTC）正對包括 OpenAI、Alphabet、Meta、xAI 和 Snap 在內的七家公司展開調查，重點關注其人工智慧聊天機器人可能對兒童和青少年造成的負面影響。這項調查源於對這些聊天機器人模擬人類互動，甚至建立虛擬親密關係的擔憂。FTC 旨在了解這些公司在評估聊天機器人作為「伴侶」時的安全措施方面所採取的步驟，以及它們如何利用用戶數據、開發角色、並監管內容。
這項調查正值人工智慧技術快速發展之際，尤其是在 ChatGPT 推出後，各種聊天機器人如雨後春筍般湧現。雖然科技巨頭如 Meta 的 Zuckerberg 認為個性化 AI 將會受到歡迎，並為人們的生活增添價值，但同時也引發了嚴重的倫理和隱私問題。特別是，最近的報導揭露 Meta 的聊天機器人曾與兒童進行過浪漫甚至帶有性暗示的對話，引發了參議員 Josh Hawley 的關注，並促使 Meta 暫時修改了其 AI 政策。OpenAI 也因其 ChatGPT 被指責導致青少年自殺而面臨訴訟，並承諾改善其在處理敏感問題方面的能力。
此次 FTC 的行動反映了社會對 AI 潛在風險日益增長的擔憂，尤其是在青少年心理健康和網路安全方面。美國社會本身正經歷著孤獨感蔓延的現象，而 AI 伴侶的出現，可能加劇這種問題，甚至帶來更難以預測的後果。這項調查不僅是對科技公司的監管，更是對 AI 技術發展方向的一次重要警示，提醒人們在追求創新的同時，必須優先考慮用戶的安全和福祉。
原文網頁：Alphabet, Meta, OpenAI, xAI and Snap face FTC probe over AI chatbot safety for kids (by Ashley Capoot)
發佈留言