美國國防部與Anthropic之間關於人工智慧（AI）軍事應用的爭議達到高峰，國防部長皮特·赫格塞特（Pete Hegseth）要求Anthropic在5月1日東部時間下午5:01前讓步，但Anthropic拒絕放寬其模型的防範措施，包括大規模國內監視或全自動武器，因其違反公司政策。此事件凸顯出私人企業在AI發展中逐漸掌握主導權，與傳統由政府掌控先進技術的模式形成對比。國防部已與Anthropic、OpenAI、Google DeepMind及xAI等四家公司簽訂總額達2億美元的合約，推動與國家安全相關的AI原型開發，顯示其急於整合商業AI技術的決心。然而，這種合作也引發風險，例如企業政策與政府目標的衝突，以及對AI系統的過度依賴可能導致的脆弱性。專家指出，雖然政府仍具備採購、出口管制等工具的影響力，但短期內私人企業因掌握稀缺AI人才與專有模型，仍可能擁有較大話語權。長期而言，政府需透過「主權AI架構」等策略，確保在利用商業創新同時維持技術自主性。此外，若AI系統在戰鬥中失效，可能危及軍事行動，因此政府對AI與數據層的互動將極為謹慎。整體而言，此爭議標誌著AI技術在國家安全中的核心地位，並促使政府與企業重新定義合作關係，以平衡創新與風險管控。
此報導揭示了AI技術在軍事應用中引發的深層矛盾：傳統上政府主導技術創新，但AI的快速發展使私人企業成為先驅，導致權力結構轉變。國防部需在推動AI整合與維護控制權之間取得平衡，而企業則面臨在商業利益與道德責任間的抉擇。若無法建立穩健的公私合作框架，可能導致技術能力雖強，但價值觀與目標脫節，進而影響國家安全。此外，AI的軍事化應用亦涉及倫理與法律問題，例如自主武器的使用可能違背國際法與人道原則。報導強調，未來的關鍵在於如何透過制度設計，使AI成為國家安全的基礎設施，而非僅是商業合作的工具，同時避免技術依賴所帶來的風險。此爭議不僅影響美國，也可能成為其他國家在AI軍事化道路上的參考案例。
原文網頁：Pentagon-Anthropic clash: AI real-time tests power balance in future of warfare (by Barbara Booth)
發佈留言