端側AI新風向:誠恆微爲何在旗艦SoC中力挺GPGPU?

ChatGPTAI新聞AIGC端側AI儲值
端側AI新風向:誠恆微爲何在旗艦SoC中力挺GPGPU?

發生了什麼

最近,端側AI芯片的賽道變得異常火熱。在大模型從雲端向手機、PC和機器人等終端設備下沉的大背景下,NPU(神經網路處理器)幾乎成了所有芯片廠商敘事中的絕對主角。大家都在拼命刷新TOPS(每秒萬億次運算)數據,並針對Transformer架構增加專門的加速能力。然而,誠恆微在其首款旗艦SoC上卻做出了一個頗具爭議的不同選擇:在NPU算力並不佔優的情況下,依然堅持在芯片中集成了GPGPU(通用圖形處理器)。

核心變化解讀

這事兒其實挺有意思的。現在的行業共識是“NPU至上”,因爲NPU是爲AI矩陣運算專門設計的,能效比極高,適合處理手機裏那些常駐的AI任務。但是,誠恆微的選擇似乎在提醒我們,通用性依然很重要。GPGPU雖然能效比不如NPU極致,但它編程靈活,兼容性好,能跑很多NPU跑不好或者跑不了的復雜模型。

大模型雖然正在下沉,但形態變化很快。如果芯片只爲了當下的Transformer做極致最佳化,萬一模型架構變了,或者用戶需要跑一些非Transformer的算法,純NPU方案可能就會顯得力不從心。誠恆微在NPU不足的情況下加GPGPU,更像是一種“防御性”的賭注,用通用算力來彌補專用算力的潛在短板,保證旗艦SoC在各種AI場景下都能“兜底”。這也說明,端側AI的競爭不僅僅是堆算力,更是在架構靈活性和能效之間找平衡。

對國內用戶的影響

對於我們普通用戶來說,這種硬件層面的“內卷”最終會體現在體驗上。隨着更強的端側算力落地,我們的手機和PC將能本地運行更強大的AI助手。這意味着響應速度會變快,隱私性更好,因爲數據不用全傳到雲端。不過,要完全釋放這些旗艦芯片的潛力,往往還需要配合頂級的AI軟體服務。

就像大家習慣了ChatGPT的強大能力一樣,未來端側AI也需要雲端大模型的協同。無論是目前流行的Plus還是Pro方案,雲端算力依然是處理復雜任務的主力。端側芯片的進步,更多是讓設備變得更聰明,能預處理更多任務,但它暫時還無法完全替代雲端超大模型的智慧。所以,硬件升級了,我們獲取高品質AI服務的途徑依然重要。

你需要做什麼

面對眼花繚亂的芯片參數,大家不用太糾結於NPU還是GPGPU誰更厲害,關鍵還是看實際體驗。如果你追求最新的AI體驗,關注那些在AI基準測試中表現優異的新設備即可。當然,無論硬件怎麼變,想要第一時間體驗到最前沿的AI能力,保持賬號的權益是關鍵。如果你需要續費或升級服務,可以通過ChatGPT 儲值中心進行操作,確保你的AI體驗不掉線。

需要儲值 ChatGPT?
2分鐘到賬 · 支付寶/微信支付 · 自動發貨
立即儲值 →

📚 相關閱讀

❓ 常見問題

什麼是NPU?它和GPGPU有什麼區別?
NPU是神經網路處理器,專門爲高效執行AI運算設計,能效比高但靈活性較低。GPGPU則是利用圖形處理器進行通用計算,雖然能效比不如NPU,但編程靈活,兼容性強,適合處理多種類型的計算任務。
大模型下沉到端側設備有什麼好處?
大模型下沉到手機、PC等端側設備,可以帶來更快的響應速度,因爲數據無需全部上傳雲端處理。同時,本地處理也能更好地保護用戶隱私,減少敏感數據泄露的風險。