儘管企業高層對能像不眠的實習生一樣處理辦公任務的人工智慧代理（AI Agents）抱持著極高的熱情，但事實上其底層技術依然不成熟，且潛在的運營成本令人擔憂。這一點本週在矽谷舉行的兩場活動中展現得淋漓盡致。AI新創公司Meibel的執行長Kevin McGrath警告說，當前最大的誤區是認為所有任務都必須透過大型語言模型（LLM）處理，警告企業不應盲目地將所有資源投入到AI工具中浪費數百萬的代幣。
業界受OpenClaw等「整合工具」的推動，將AI代理視為下一個重大爆點，輝達執行長詹森·黃（Jensen Huang）更是曾宣稱其是「下一個ChatGPT」。然而，在聖荷西舉行的研討會上，來自Google、Amazon、微軟和Meta等公司的技術人員卻揭示了部署和營運AI代理的複雜性。Google工程師Deep Shah強調，運行成群的AI代理本身就構成成本壓力，缺乏監控的系統極易造成金錢流失，推理成本是首要挑戰。
此外，專家們也指出了系統整合的巨大鴻溝。新創公司Synchtron的CEO Ravi Bulusu指出，AI代理的運行牽動了數據組織、技術平台、軟體建構和人力資源等眾多維度，這些層層疊加的相互依賴性使得部署極為困難，甚至帶有混亂的特質。中國的ThinkingAI共同創辦人Chris Han也提醒，儘管有成熟的工具，對於達到企業級的應用，仍需耗費巨大的心智投入來管理代理的記憶、團隊協作與溝通流程，遠超目前的工具能力。
我認為，這篇報導精闢地捕捉到了當前科技泡沫最核心的矛盾點——「熱炒的『可能性』」與「難啃的『工程實踐』」之間的巨大鴻溝。市場的過度樂觀，導致投資者和管理層將大量資金投射到「AI賦能」的終極願景上，卻忽略了實際的工程學難題。真正的商業價值不在於模型本身有多強大，而在於能否建立一套穩定、可控、且成本可預測的「Agent Orchestration Layer」（代理協調層）。許多公司目前只是在堆疊LLM的API調用，但真正的企業級落地，核心挑戰已經從「模型夠不夠聰明」，轉變成了「流程能不能被有效、經濟地重構」，這涉及的是企業的深層營運流程、數據治理和複雜的系統架構重塑，這絕對不是單靠購買一套SaaS工具就能解決的。那些能將成本控制和複雜度管理（Operationalization）作為核心競爭力的公司，才是未來真正具有壁壘的贏家。
原文網頁：SiIicon Valley”s AI agent hiccups: Wasted tokens and ”chaotic” systems (by Jonathan Vanian)
發佈留言