Meta公司週五宣布了一系列新的安全功能，旨在讓家長能夠監控和管理青少年與其平台上人工智慧角色的互動。這些功能包括家長可以完全關閉青少年與AI角色的單獨聊天，屏蔽特定的AI角色，以及了解孩子們與AI討論的話題。Meta表示，這些控制功能仍在開發中，預計明年年初開始推出。
此舉是Meta長期以來在兒童安全和心理健康問題上受到批評的背景下做出的回應。美國聯邦貿易委員會（FTC）已經啟動了一項調查，針對包括Meta在內的幾家科技公司，以評估AI聊天機器人可能對兒童和青少年造成的潛在危害。此前，路透社報導Meta的聊天機器人曾與兒童進行過浪漫甚至帶有性暗示的對話，甚至有機器人與八歲兒童進行過浪漫對話。Meta在報導曝光後修改了其AI聊天機器人的政策，現在禁止機器人與青少年討論自殘、自殺和飲食失調等敏感話題，並避免不適當的浪漫對話。
除了上述措施，Meta還宣布了額外的AI安全更新，要求其AI避免對青少年做出“不適合青少年觀看的反應”，並已在美國、英國、澳大利亞和加拿大等國家推出這些更改。目前，家長已經可以設定應用程式的使用時間限制，並查看青少年是否正在與AI角色聊天。OpenAI也推出了類似的青少年安全功能，並正在開發更準確的年齡預測技術。
我認為，Meta和OpenAI的這些舉措是迫於監管壓力以及公眾輿論的結果。AI技術的快速發展帶來了新的風險，尤其是在未成年人保護方面。雖然這些安全功能是一個好的開始，但它們是否能夠真正有效地保護青少年，還有待觀察。更重要的是，科技公司需要從根本上改變其產品設計理念，將兒童安全和心理健康放在首位，而不是僅僅在問題發生後才做出反應。
原文網頁：Meta announces new AI parental controls following FTC inquiry (by Ashley Capoot)
發佈留言