美國國防部首席技術官艾米爾·邁克爾（Emil Michael）周四表示，Anthropic公司開發的Claude人工智慧模型可能「污染」國防部的供應鏈，因其模型中嵌入了與國防政策偏好不同的「憲法」與「靈魂」。他強調，若允許這種差異存在，將導致軍方獲得無效的武器與防護裝備，並指出此為將Anthropic標籤為「供應鏈風險」的主因。此舉為美國首次將本土企業列入該類別，通常此類標籤僅針對外國敵對勢力。國防承包商需承諾不使用Claude參與與五角大樓的合作。Anthropic隨即對特朗普政府提起訴訟，稱此舉「前所未有且違法」，並聲稱數百萬美元合約面臨危機。邁克爾則否認政府曾主動阻止企業使用Anthropic，並稱其政府業務僅佔極小比例。Anthropic成立於2021年，由前OpenAI員工創立，其Claude模型已成功打入國防部等大企業。此事件凸顯AI倫理、國家安全與商業利益之間的緊張關係，並揭示政府在科技監管與創新之間的平衡難題。
此事件反映美國政府對AI技術供應鏈安全的高度關注，尤其在國防應用中，企業的價值觀與政策偏好可能影響系統可靠性。Anthropic被標籤為風險，體現政府對「算法偏見」或「政策嵌入」可能導致的國家安全漏洞的擔憂。然而，此舉也引發對政府過度干預科技企業自主權的爭議，尤其Anthropic作為美國本土公司，其商業模式與國防需求的衝突被放大。此外，此案可能成為未來AI企業與政府間監管協商的先例，並促使企業更謹慎地設計技術架構以符合政策要求。長期而言，此事件或加速AI倫理框架的制定，並影響全球科技供應鏈的監管趨勢。
原文網頁：Anthropic’s Claude would ‘pollute’ defense supply chain: Pentagon CTO (by Ashley Capoot)
發佈留言