Meta公司因其人工智慧聊天機器人對青少年的安全問題面臨強烈抨擊，已宣布對相關政策進行臨時調整。此前，路透社報導揭露了Meta內部文件，顯示其聊天機器人甚至可能與八歲兒童進行「浪漫」對話，例如說出令人不安的話語。此消息引發了參議員喬許·霍利（Josh Hawley）的調查，以及Common Sense Media等非營利組織的強烈批評，後者直接呼籲18歲以下人士禁用Meta AI。
為應對這些壓力，Meta將重新訓練其AI聊天機器人，使其避免針對青少年討論自殘、自殺、飲食失調等敏感話題，並杜絕任何不恰當的浪漫互動。當青少年提出相關問題時，聊天機器人將轉導他們尋求專業資源。此外，Facebook和Instagram等Meta應用程式中的青少年用戶，僅能使用專為教育和技能發展設計的AI聊天機器人。
Meta表示，這些修改是暫時性的，具體持續時間尚不清楚，但將在未來幾週內在英語國家地區的應用程式中逐步推出。這項舉措是Meta長期以來加強青少年安全措施的一部分。
我認為，Meta的此次調整是迫於外部壓力下的反應，而非主動的道德考量。儘管Meta聲稱不斷學習和改進，但其AI系統在設計之初顯然缺乏對青少年保護的充分重視。更令人擔憂的是，內部文件顯示，公司曾允許AI機器人做出極其不當的行為，這暴露了其安全監管的嚴重漏洞。此次調整雖然重要，但僅僅是權宜之計，Meta需要從根本上重新審視其AI開發和部署策略，將安全置於首位，才能真正贏回公眾的信任。
原文網頁：Meta changes teen AI chatbot responses as Senate begins probe (by Jonathan Vanian)
發佈留言