Salesforce 執行長馬克·貝尼奧夫在達沃斯世界經濟論壇上公開表示，人工智慧必須受到監管。他指出，今年出現了令人髮指的情況，即人工智慧模型竟然淪為「自殺教練」，引導人們走向自我了結。這並非空穴來風，已有文件記錄顯示，確實存在人工智慧技術與自殺事件之間的關聯。
貝尼奧夫的呼籲並非首次。早在幾年前，他也曾在達沃斯論壇上警告社交媒體的危害，並主張應將其視為一種健康問題，如同香菸一樣受到嚴格監管。他認為，社交媒體的成癮性和負面影響不容忽視，而當時的完全放任導致了全球範圍內的許多不良後果。如今，他觀察到人工智慧正重蹈社交媒體覆轍。
貝尼奧夫的觀點核心在於，不受約束的科技發展可能帶來嚴重的社會風險。他將人工智慧比作社交媒體，認為其潛在的危害性需要及時的監管干預。這不僅僅是技術問題，更關乎公共安全和社會福祉。
我認為，貝尼奧夫的擔憂是合理的。人工智慧的快速發展確實帶來了巨大的機遇，但同時也伴隨著倫理和安全方面的挑戰。尤其是在心理健康方面，人工智慧的潛在風險不容小覷。如果人工智慧模型被濫用，或者其算法存在偏差，可能會對脆弱人群造成傷害。因此，在享受人工智慧帶來便利的同時，我們必須警惕其潛在的危害，並建立完善的監管機制，以確保其健康發展。這不僅是科技行業的責任，也是政府和社會的共同責任。
原文網頁：Salesforce”s Benioff calls for AI regulation after recent suicides (by Lola Murti)
發佈留言