在拉斯維加斯AWS的雲端年會現場,華麗的AI應用、強勁的AI模型吸走所有目光;但AWS真正的殺手鐧,卻藏在角落那幾塊不起眼的晶片裡。在AI算力需求呈現指數級爆炸、企業苦於搶購GPU的當下,AWS副總裁夏拉露出笑容表示,自家晶片己經出貨數千萬顆,絕非紙上談兵。這些自研晶片,為什麼足以成為AWS的競爭關鍵?他並親自點名合作的台廠好伙伴,除了熟知的台積電,原來還有這麼多台灣業者。
「這是一段長達14年的旅程。」
談起AWS橫跨基礎架構、CPU和AI加速器等四大自研晶片產品線的研發歷史,以色列晶片公司Annapurna Labs共同創辦人、現於AWS擔任副總裁暨傑出工程師的夏拉(Nafea Bshara),向聚集在拉斯維加斯現場的台灣媒體說道。

AWS十年自研晶片,如何走到百萬晶片部署?
在今年(2025)的雲端年會re:Invent上,AWS執行長加曼(Matt Garman)喊話表示,AWS已經部署超過100萬顆Trainium晶片、業務價值數十億美元,同時宣告由新一代Trainium 3聚集而成的AI伺服器Trainium 3 UltraServers正式上線。
與此同時,現在配備約50萬顆Trainium 2、由AWS和基礎模型新創Anthropic合作的AI運算叢集Project Rainer,到了今年年底,預估將會把晶片數量加倍至一百萬顆。
這些大規模部署的成果並非一蹴可幾,而是長達十多年的累積。AWS的自研晶片之路,必須從2011年說起。
在那個智慧型手機主導科技浪潮的年代,賈伯斯的現實扭曲力場才剛落幕,華為迅速崛起,宏達電的榮景仍在,但夏拉卻和與幾位伙伴一起在以色列創辦Annapurna Labs,專注投入基礎設施。
2013年,當時隸屬於AWS編制下、現任Amazon資深副總裁暨傑出工程師的漢彌爾頓(James Hamilton)收到執行長指示,請他研究公司該如何在硬體上創新。
漢彌爾頓因此撰寫一份亞馬遜內部的標準格式「六頁紙」(6─pager)。他在其中的論述是,AWS應該投入自研晶片,一來是軟體創新很好、但不足以永遠推動成長,二來是投資後能夠直接控制基礎設施、避免倚賴他人。
經友人介紹後,夏拉和漢彌爾頓相識且一拍即合。他們先從基礎設施卸載晶片Nitro開始展開合作,隨後在2015年,亞馬遜正式收購Annapurna Labs,夏拉也因此加入AWS。

從Nitro奠定雲端硬體虛擬化的根基,AWS後續推出通用、ARM架構的CPU Graviton、特別擅長小型語言模型(SLM)推論的加速器Inferentia、兼善AI訓練與推論的加速器Trainium,形成完整雲端硬體生態,涵蓋虛擬化、運算與AI工作負載。
其實,不只是AWS,包含Google、微軟,甚至是推出ChatGPT後迅速崛起的OpenAI,業務也跨足包含晶片與資料中心在內的基礎建設。
夏拉解釋,背後原理就是垂直整合。
「你能更快獲得客戶回饋、更快製造晶片,更快部署、更安全、功能更多、更具成本效益,」而且,還能量身打造適合自家的產品。
從自用到開放,Trainium能否與GPU互補又競爭?
只是,這樣的優勢,到底有多大?
夏拉以緊密的供應鏈伙伴比喻,「每個人都有企圖心,就像人人都想和台積電競爭,但是有多少人能做到?每個人都想製造客製化晶片,有多少人能做到?」
他一一細數自家產品,Graviton推出五代、Trainium剛宣布第四代、Nitro更有超過10年深厚歷史,每款都至少賣出一百萬顆,有些更多達千萬,「想法很廉價。能跨多個世代持續交付,並且快速量產才是非常重要的。」
然而,除了自用以外,不管是Google的TPU,還是AWS的Trainium,市場最關注的焦點,始終在於投入自研晶片的雲端服務提供者(Cloud Service Provider,CSP)與GPU霸主NVIDIA的微妙關係,以及能否逐步從自用延伸到伙伴如Anthropic與OpenAI,再進一步開放給更多客戶。
對此,夏拉沒有跳出框架回答,而是拋出AWS始終強調的客戶選擇(customer choices),「這就像在亞馬遜網站買衣服,你可以買紅襯衫,也可以買藍襯衫,我們提供的是選擇權。」
在提供選擇權的前提之下,AWS會讓客戶自行選擇。夏拉分享,有客戶因為在地端就習慣使用NVIDIA產品不想更換方案,也有客戶單純不想遷移,他的工作重點是讓客戶更加輕鬆。
他也不忘補充,AWS與NVIDIA的關係非常緊密,例如Trainium 4將支援NVLink Fusion高速互連,且NVIDIA的GPU也會使用AWS的Nitro。

對於Google引以為傲的TPU,夏拉展現出強烈的自信。他強調,Trainium不是ASIC(特殊應用積體電路),而是完全可程式化(Fully Programmable)的處理器。
舉例來說,傳統ASIC可能無法運行非Transformer、由擴散模型驅動的即時視訊生成技術,但Trainium可以,「Trainium 3是適用於所有工作負載的AI晶片。」
AWS自研晶片概念股,高層親自點名
在這場雲端巨人的軍備競賽中,台灣扮演了什麼角色?夏拉的回答引起全場笑聲:「我們貢獻了台灣很大一部分的GDP。」
他盤點AWS的供應鏈伙伴,從生產晶片的台積電,到代工與組裝伺服器的廣達、鴻海、緯創,幾乎囊括了台灣電子業的半壁江山。
「我們是台積電前五名到前十名的大客戶,」夏拉更幽默地表示,雖然他常與台積電董事長魏哲家爭論,但他仍想向台積電致敬。
AWS用十年磨一劍,說明雲端戰爭的終局,不再僅是軟體的比拚,而是誰能掌握從晶圓到演算法的垂直整合主權。
在這張龐大的運算藍圖裡,台灣的位置,比以往任何時候都更加關鍵。