這份報導的核心在於，一群來自科技、學術、政治等多個領域的知名人士，共同呼籲暫停開發「超人工智能」（Superintelligence）的努力。超過八百人簽署了這份公開聲明，其中包括維珍集團創辦人理查·布蘭森、蘋果公司共同創辦人史蒂夫·沃茲尼克，以及被譽為現代人工智能「教父」的科學家如約書亞·本吉歐和傑夫·辛頓等。
聲明的主要擔憂是，超人工智能的發展可能帶來一系列嚴重的風險，從經濟上的失業和權力喪失，到自由、尊嚴和控制權的侵蝕，甚至包括國家安全威脅和人類滅絕的可能性。因此，他們呼籲在獲得廣泛的公眾支持和科學共識，確認超人工智能能夠安全可控的前提下，才應繼續開發。
值得注意的是，簽署者陣容廣泛，不僅包括人工智能領域的專家，還有學術界人士、媒體名人、宗教領袖和前政客，甚至包括美國前參謀長聯席會議主席邁克·穆倫和英國王室成員梅根·馬克爾，以及美國總統川普的支持者史蒂夫·班農和格倫·貝克。這種跨越意識形態和領域的聯合，顯示出對超人工智能潛在風險的普遍擔憂。
我認為這份聲明的重要性在於，它將人工智能發展的倫理和安全問題推到了公眾視野的中心。儘管人工智能技術的進步令人興奮，但我們必須正視其潛在的負面影響，並在追求技術突破的同時，確保人類的福祉和安全。這不僅僅是科學家的責任，也是全社會共同的課題。這份聲明也反映了人工智能領域內部的分歧，一些先驅者開始對自己所創造的技術的未來感到擔憂，並呼籲謹慎前行。
原文網頁：Over 800 public figures, including AI and tech heavyweights, call for ‘superintelligence’ ban (by Dylan Butts)
發佈留言