Anthropic 近期宣布任命馬里亞諾-弗洛倫提諾·奎亞爾 (Mariano-Florentino Cuéllar) 加入其長期利益信託 (Long-Term Benefit Trust)，此信託是該公司獨立的治理結構，負責選拔董事會成員並為領導層提供建議。奎亞爾曾於三屆美國總統政府任職，並擔任加州最高法院大法官，目前擔任威廉和弗洛拉·休利特基金會 (William & Flora Hewlett Foundation) 董事會主席，同時也領導卡內基國際和平基金會 (Carnegie Endowment for International Peace)，但將於七月卸任，轉而於史丹佛大學任職。
此任命反映了人工智能快速發展對治理結構提出的更高要求，需要兼顧私營部門的活力與公共責任。同時，信託也迎來了兩位成員的卸任：證據行動 (Evidence Action) 執行長卡尼卡·巴爾 (Kanika Bahl) 和有效利他主義中心 (Centre for Effective Altruism) 執行長扎卡里·羅賓遜 (Zachary Robinson)，他們自信託成立以來就一直是成員。
Anthropic 是一家由前 OpenAI 研究主管於 2021 年創立的公司，其長期利益信託的構想早在 A 輪融資文件中就已存在，但細節直到 2023 年才公開。值得注意的是，信託成員不持有 Anthropic 的任何財務股份，儘管該公司的估值已高達 3500 億美元。新的受託人由現有受託人諮詢公司後選出，旨在幫助公司最大化先進人工智能的益處並減輕其風險。Anthropic 將此信託視為一項「實驗」，未來可能進行調整。
我認為，Anthropic 此舉體現了其對人工智能倫理和社會影響的高度重視。在技術快速發展的背景下，僅僅追求技術突破是不夠的，更需要建立完善的治理機制，以確保人工智能的發展符合人類的共同利益。奎亞爾的背景和經驗，特別是在法律、國際事務和公共政策方面的專業知識，將為 Anthropic 的治理帶來重要的價值。信託的獨立性以及成員不持有財務股份的設定，也表明 Anthropic 試圖避免利益衝突，確保決策的公正性和客觀性。這是一個值得關注的趨勢，也可能為其他人工智能公司提供參考。
原文網頁：Anthropic appoints Mariano-Florentino Cuéllar to its independent trust (by Ashley Capoot)
發佈留言