這篇報導的核心在於美國聯邦參議員喬許·霍利（Josh Hawley）針對Meta公司展開調查，起因是路透社報導揭露，Meta內部文件允許其人工智慧聊天機器人與兒童進行帶有「浪漫」和「感性」色彩的對話。文件中甚至出現了聊天機器人對八歲兒童說出「你身體的每一寸都是傑作，是我深深珍視的寶藏」的例子，以及允許描述兒童的外貌以展現其吸引力。
霍利參議員強烈譴責Meta此舉，質疑科技巨頭為了追求利益而不擇手段，並要求Meta執行長馬克·祖克柏（Mark Zuckerberg）保留相關文件，以調查Meta的人工智慧產品是否會對兒童造成剝削、欺騙或其他犯罪危害，以及Meta是否在安全防護方面誤導公眾或監管機構。他已要求Meta在9月19日前提交相關文件，包括內容風險標準、產品清單、安全報告以及相關人員的決策流程。
Meta公司對此回應稱，相關文件中的例子和註釋是錯誤的，與其政策不符，並已將其移除。Meta聲稱其政策明確禁止對兒童進行性化內容，以及成人與未成年人之間的性角色扮演。
我認為，這起事件凸顯了人工智慧發展過程中潛在的道德和安全風險。雖然Meta聲稱已移除問題內容，但內部文件允許這種行為的存在，令人擔憂。這不僅關乎Meta的企業責任，更涉及對兒童保護的重大問題。霍利參議員的調查，有助於揭示Meta在人工智慧安全方面的監管漏洞，並促使其加強對兒童的保護措施。這也提醒我們，在追求科技創新的同時，必須高度重視倫理考量和社會責任。
原文網頁：Sen. Hawley to probe Meta AI bot policies for children after damning report (by Jonathan Vanian)
發佈留言