2026年頭兩個月，生成式人工智慧（AI）技術迅速進化，從聊天機器人擴展至企業高管助理，引發軟體、法律、保險及網絡安全等行業的全面拋售。輝達（Nvidia）首席執行官黃仁勳指出，AI剛經歷第三次重大轉折，現今「智能代理系統」已具備推理、執行任務及實際工作的能力。然而，技術的快速發展也導致安全防護措施逐漸鬆動。Anthropic因拒絕配合美國國防部對其技術使用的要求，遭特朗普政府列入黑名單，並在與國防部的爭議中放棄原有的核心安全承諾，改為「非約束性公開目標」。OpenAI則開始投放廣告，這與其首席執行官Sam Altman曾表示「僅在萬不得已時才會 monetize」的立場形成矛盾。兩家公司多名研究人員近期辭職，警告AI風險。AI安全議題或成2026年中期選舉的關鍵議題，其中紐約州議員Alex Bores推動的美國首部AI安全法已引發反對派強烈反對，其競選對手背後有OpenAI創始人Greg Brockman、Andreessen Horowitz及Palantir的Joe Lonsdale等科技界重量級人物支持，並威脅若Bores當選將對其他議員施壓，要求放棄AI監管。Bores表示，儘管時間緊迫，但認為仍需採取行動，但「已經沒有太多時間了」。
此報導揭示AI技術的飛速進展與監管落後之間的張力。企業在追求技術突破與商業利益的同時，安全承諾逐漸讓位於競爭壓力，導致倫理風險升高。科技巨頭透過資金與政治遊說影響政策方向，可能延緩必要的監管措施，進而加劇AI失控風險。選舉政治的介入更使AI治理陷入「創新與安全」的兩難，若無法在技術發展與社會控制之間取得平衡，將對經濟、法律及公共安全造成深遠影響。
原文網頁：AI just leveled up and there are no guardrails anymore (by Deirdre Bosa)
發佈留言