輝達（NVIDIA）在台灣重要的供應鏈伙伴不只有硬體大廠！一家僅成立7年的AI軟體新創APMIC，過去早已被黃仁勳公開點名3次。他們開發出的大模型，與ChatGPT 4o新模型相比一年下來成本可是超級精省。近期APMIC更宣布攜手HPE、Dell進軍美國市場。開發團隊如何慧眼找新機？
6月台北國際電腦展COMPUTEX前夕，輝達（NVIDIA）執行長黃仁勳在台大體育館演講台上，秀出一張寫滿合作伙伴的台灣地圖，更在演講最末放上一段感謝影片。很多人注意到AI伺服器、機器人等硬體供應鏈大廠，但其實，當中還隱藏著一間以大型語言模型（LLM）為主要業務、成立僅七年的台灣軟體新創——亞太智能機器APMIC。
這已是APMIC第三次出現在黃仁勳公開場合的簡報中。APMIC成立於2017年，持續投入自然語言理解（NLU）的研究，並打造出主打人人皆可使用的本土大語言模型「CaiGunn（開講）」，目前客戶數達800多家、橫跨醫療、金融、製造、航空、零售等產業。
這款產品，也助他們成為輝達在台唯一獨立軟體供應商（ISV）策略合作伙伴，並獲選為Google機器學習個案。2024年1月，CaiGunn在全球知名開源語言模型平台Hugging Face中，獲得英文排行第64名、繁中表現排行前三名，下載率則是全球前30名。
本週，APMIC首度對外宣布推出參數量高達405B（4050億）的模型，與此同時，APMIC更攜手伺服器廠Dell、HPE，以軟硬整合解決方案進軍美國市場。是台灣AI軟體新創拓海外商機的一大里程碑。
7年前投入自然語言理解研究，累積經驗
APMIC能成功在AI產業找到商業模式，關鍵之一就在投入得早。APMIC創辦人吳柏翰創業前在裕隆集團擔任數據科學家，曾經手過語音助理相關業務。2017年，Google揭露可處理自然語言的深度學習模型Transformer，讓技術大躍進，吳柏翰遂出走創業，瞄準「自然語言理解」的主題進行研究。
創業初期，因產業界多半不理解何謂自然語言理解，曾讓他們找客戶困難重重。直到2020年左右，開始有大量客戶向APMIC提出透過機器協助摘要計畫書、判決書等大量資料的需求，讓他們更加篤定，藉AI進行閱讀理解將是大勢所趨，並拿下包含台北市政府、恩益禧（NEC）、台塑生醫、中國信託銀行、亞太電信等各行各業訂單，在ChatGPT引爆商機之前，已先累積許多經驗。
事實上，在生成式AI問世後，台灣產、官、學界也陸續投入打造大型語言模型，包括聯發科BreeXe、華碩旗下台智雲的FFM等，有別於此類模型多提供給開發者，吳柏翰則主張人人皆可使用APMIC的模型，其平台也可整合各家模型，依不同情境、不同客戶需求進行調度使用。
APMIC瞄準70B以上大模型，追求高準確率
值得一提的是，APMIC在這場語言模型的賽局中，是台灣唯一將自身定位於提供參數量70B以上大模型的業者，可提供70B、123B、340B到最新的405B模型。
為什麼要瞄準大模型？吳柏翰解釋，根據Google、微軟等團隊研究指出，企業若採用小語言模型，再加上檢索增強生成（RAG）技術，也就是直接從內部準備好的答案中進行挑選，其生成內容的準確度仍只能達到83.9％，但若要追求高達90％的精準度，就必須使用更大尺寸的模型及相應的算力資源。
「像是金融業就很注重準確率，」吳柏翰強調，再加上APMIC可提供地端解決方案，還能符合部分客戶注重隱私而不想上雲的需求。
吳柏翰以CaiGunn 70B模型與GPT 4o進行對比，指出前者實力雖略輸一點，但每個符元（tokens）成本是新台幣0.000005元，遠低於後者的0.0003元，一年相差的成本達千萬元之多；至於CaiGunn 405B模型表現則與GPT 4o不相上下，一年仍可省下百萬元。
APMIC共同創辦人暨產品負責人林益弛則以過往應用場景舉例，曾有製造業想透過LLM進行200個系統的程式碼轉換，原本需要投入200名工程師、耗兩年時間，採用CaiGunn後人數、時間都減少一半；也曾有公家單位需藉AI進行判決書閱讀、分析整合，透過AI進行人事時地物等資訊萃取後，整體效率提升50％。
攜AI伺服器品牌廠合作，軟＋硬打國際盃
根據研究機構P&S Intelligence數據，自然語言理解全球市場規模在2024年為189億美元，預估在2030年達803億美元，年複合成長率（CAGR）達 27.2％，其中，北美市場將是需求最大者。
APMIC早早抓住自然語言理解的技術，但其實，這套商業模式要成功走向海外，其實相當仰賴外部資源，這也是為什麼，APMIC在今年展開與HPE、Dell的合作，將AI伺服器與CaiGunn進行軟硬整合；再加上輝達所提供的算力，等於為客戶完成一整套解決方案。據了解，APMIC也持續與其他AI伺服器品牌廠洽談合作中。
這之於台灣更重要的意義在於，雖然台灣已是全球AI供應鏈的關鍵角色，在軟體領域仍需追趕，如今透過本土軟體廠商與硬體業者攜手打合作盃，有望將台灣的能見度再往上推一個層次。
「我們去守住這個（大模型）市場，就可以回頭促成台灣硬體廠商推動硬體設備，這是相互連結的，」吳柏翰說，「也讓各界知道，台灣在AI時代不是只有硬體，也有軟體。」
