瞭解更多

只到8/30 只到8/30 限時輸碼現省109元!點此與孩子一起閱讀,從小扎根大格局>>

AI下一個10年!從GPU算力走向NPU普惠

劉峻誠
user

劉峻誠

2026-08-14

瀏覽數

從GPU到NPU,下一波技術革命不只是晶片升級,更關乎AI如何兼顧永續、安全與人本價值。僅為情境配圖,取自pixel
從GPU到NPU,下一波技術革命不只是晶片升級,更關乎AI如何兼顧永續、安全與人本價值。僅為情境配圖,取自pixel
00:00
00:00

編按:AI發展正從追求更大模型與龐大算力,轉向能源效率、終端運算與普惠應用。從GPU到NPU,下一波技術革命不只是晶片升級,更關乎AI如何兼顧永續、安全與人本價值,成為文明進步的新力量。

當全球都在競逐更大的人工智慧模型、更龐大的GPU(圖形處理器)叢集,以及更高規格的超級運算中心時,一個更根本的問題,卻逐漸浮現在我們面前:我們真正需要的,是更大的AI,還是更好的AI?

近三年來,大型語言模型快速發展,生成式AI掀起全球新一輪科技革命。美國、中國、歐洲及中東國家無不投入鉅額資本,建造大型AI超級運算中心,部署數10萬張GPU,希望搶占下一世代人工智慧的制高點。

然而,當全世界都把焦點放在模型規模與算力競賽時,我們是否忽略了一個更重要的命題:AI發展的目的,究竟是為了讓人類生活更美好,還是讓世界消耗更多能源、投入更多軍備競賽,甚至增加社會風險?

這不只是科技問題,更是文明的選擇。

算力競賽,不應演變成能源競賽

今天,大型AI模型的每一次突破,都伴隨著更龐大的能源需求。

全球各大科技公司正投入數千億美元興建AI資料中心,許多國家開始重新檢討核能、天然氣與大型發電建設,只為了支撐AI對電力近乎無止境的需求。

一座大型AI超算中心,耗電量足以媲美一座中型城市;模型愈大,GPU愈多,散熱需求與碳排放也同步增加。

我們不能否認,大型GPU叢集在模型訓練與前沿研究具有不可替代的重要性。但如果AI的未來,只能建立在更多發電廠、更多能源消耗與更高基礎建設成本之上,那麼,人類是否只是用另一種方式透支下一代的資源?

科技創新的本質,不應只是提升能力,更應提升效率。

AI下一場競爭,將是能源效率競爭

過去10年,半導體產業比的是製程。

近三年,比的是算力。

未來10年,我相信真正決定AI普及程度的,不再只是模型大小,而是每一瓦電能可以創造多少智慧(Intelligence per Watt)。

真正改變世界的技術,從來不是最昂貴的技術,而是最容易被普及的技術。

如果每次AI推論都必須依賴大型資料中心,那麼,AI將永遠只是少數國家與大型企業的資源。但,如果AI能在每一部手機、每一台汽車、每一架無人機、每一台醫療設備、每一座工廠,甚至每一個家庭中即時完成推論,AI才真正成為全人類共同擁有的能力。

這正是Edge AI(邊緣人工智慧)的價值。

Edge AI與NPU,是另一條AI文明道路

Edge AI並不是Cloud AI的對立面。它代表的,是AI架構的另一種演進方向。

雲端AI擅長訓練大型模型、整合全球知識、提供龐大的運算能力。而Edge AI則負責把智慧帶到世界的每一個角落。

透過NPU(Neural Processing Unit, 神經網路處理器),AI可以直接在終端裝置完成推論,而不必每一次都把資料送往遠端資料中心。這帶來的不只是速度提升,更重要的是,它帶來四個根本性的改變。

第一,是能源效率。NPU能以遠低於傳統GPU的功耗完成大量AI推論,使AI不再建立於龐大的能源消耗之上。

第二,是即時性。自駕車、工業機器人、醫療設備、智慧製造,都需要毫秒等級的決策速度,而不是等待雲端回應。

第三,是隱私與安全。愈多資料留在本地端運算,就愈能降低個人資料外流與網路攻擊風險。

第四,是普及性。當AI不再依賴昂貴的超級運算中心,偏鄉教育、基層醫療、新興市場、中小企業,都有機會真正享有AI帶來的價值。這,才是真正的AI普惠。

ESG不只是企業責任,更應成為AI設計原則

近年來,ESG已成為全球企業的重要共識。然而,如果AI本身持續推升能源需求,再漂亮的ESG報告,都無法掩蓋背後快速增加的能源消耗。

真正的綠色AI,不只是購買更多綠電。而是在AI系統設計之初,就思考如何用更少能源,完成更多智慧。

降低功耗,不只是降低企業成本。它同時意味著降低碳排放、減少散熱需求、降低基礎建設投資,也降低整個社會對大型能源設施的依賴。

如果未來AI的發展,必須仰賴更多核電廠、更多大型發電系統,才能支撐日益成長的算力需求,那麼,我們是否應該同時思考另一條技術路線?

一條不需要無止境增加能源供應,也能讓AI持續進步的道路。

Edge AI與NPU,正提供了這樣的可能性。

8/30前限時輸碼現折109!大人與少年深度共讀方案搶購中>>

AI競賽,不應演變成新軍備競賽

AI的另一項挑戰,來自於它正快速進入真實世界。

日前,美國新創公司Foundation Future Industries公開表示,旗下人型機器人Phantom Mk-1已在烏克蘭戰場環境完成測試,並計畫推出下一代系統。

這項消息再次提醒全球,AI已開始進入軍事、自主武器與高風險應用領域。

電影《魔鬼終結者》中的T-800,曾被視為科幻作品。

然而,當大型語言模型、電腦視覺、自主導航、人型機器人與武器系統逐步結合,電影所提出的問題,已不再只是幻想,而是值得全人類共同面對的倫理課題。

我們當然不能因此否定 AI 技術本身。科技從來沒有善惡。真正決定科技方向的,是人類的價值選擇。但我們也必須承認,一旦AI的能力高度集中於少數超大型運算中心與少數掌握巨大算力的組織,權力集中、軍事化應用與治理風險,都可能同步提高。

因此,未來AI的競爭,不應只是誰擁有最大的模型,而是誰能建立最值得信任、最透明、最符合人類共同利益的AI生態系。

NPU不只是晶片,而是一種文明價值

很多人把NPU看成一種新的AI加速器。我認為,它更代表一種新的文明思惟。它相信智慧不必集中於少數地方,而可以分布在數十億個裝置之中。它相信AI不只是服務大型資料中心,更應服務每一位使用者。它相信真正的科技,不只是追求世界紀錄,而是改善人類生活。

當AI能以極低功耗存在於每一部手機、每一台汽車、每一台醫療設備、每一座工廠、每一個家庭之中,人類獲得的不只是更便利的生活,更是更公平的科技、更永續的能源,以及更具韌性的社會。

人類不只需要更大的AI,而是更善的AI

20世紀,各國競逐的是工業能力與核武力量。21世紀,各國競逐的是人工智慧。

然而,真正值得競逐的,不應只是誰擁有最大的模型、最多GPU、最高的算力。而是誰能讓AI更節能、更普及、更安全、更值得信任,也更能與人類文明和地球環境共存。

未來的AI,應該同時擁有雲端的智慧與邊緣的效率;同時,追求創新,也堅守倫理;同時,創造經濟價值,也承擔社會責任。

我始終相信,AI的終點,不是打造一個需要更多能源、更高成本與更強武力的世界。而是一個讓每一個人都能安全使用AI、讓每個裝置都擁有智慧、讓每一瓦能源都發揮最大價值、讓科技真正服務人類文明的世界。

Edge AI與NPU,不只是下一代半導體技術。它們代表的是另一條AI發展道路:一條更節能、更普惠、更永續,也更符合人類共同價值的道路。

未來AI的競爭,終將不只是算力的競爭,而是文明的競爭。而NPU,將扮演讓人工智慧真正更友善、更節能,對地球更環保永續服務人類的重要角色。

專欄意見不代表《遠見》立場

作者為耐能智慧(Kneron)創辦人暨執行長

72% 領先者已開啟【職場雷達】 立即開通!解鎖專屬服務 立即開啟
AI治理有方 新北市打造智慧城市資安新典範
數位專題

AI治理有方 新北市打造智慧城市資安新典範

洞察趨勢的新北市政府,以超前部署、積極布局的策略,致力打造宜居、創新的智慧城市,聚焦「基礎建設」、「關鍵技術」、「智慧應用」三大面向,新北市已同步展現具體成果,體現地方政府的前瞻思維與執行力。

請往下繼續閱讀

登入網站會員

享受更多個人化的會員服務