這篇報導的核心在於Arm Holdings的執行長René Haas指出，將部分人工智慧（AI）功能從雲端轉移至本地端，有助於降低能源消耗。他認為，過度依賴大型、耗電的雲端數據中心在長期而言並不可持續。
報導強調了AI運作的兩個階段：訓練（training）和推論（inference）。Haas認為AI訓練仍將主要在雲端進行，但AI推論，也就是實際應用AI的過程，則可以轉移到本地設備，例如手機、電腦和智能眼鏡。這種混合模式的運算方式，過去在計算機發展史上屢見不鮮，預計將在AI領域中扮演重要角色，從而減輕對大規模能源投資的需求。
Arm與Meta擴大合作，旨在提升AI效率，涵蓋軟體和數據中心基礎設施。這項合作推動了Arm股價上漲，顯示市場對其在AI領域的潛力抱持樂觀態度。特別值得注意的是，Meta的Ray-Ban Wayfarer智能眼鏡所使用的AI技術，部分運算是在眼鏡本地端完成的，而非完全依賴雲端，這正是Arm技術的應用實例。
我認為這份報導反映了科技業界對於AI發展的更深層思考。初期AI發展過於集中在雲端，帶來了巨大的能源壓力。現在，業界開始意識到分散式運算的重要性，將AI功能下放到本地端，不僅可以降低能源消耗，也能提升反應速度和保護用戶隱私。Arm作為芯片設計公司，在推動這種轉變中扮演著關鍵角色，其低功耗的芯片技術將成為未來AI發展的重要基石。
原文網頁：Arm Holdings CEO: moving some AI workloads away from cloud will reduce power need (by Julie Coleman)
發佈留言