還在使用美系AI服務ChatGPT嗎？IC設計龍頭聯發科推出本地大語言模型MR BreeXe，硬體支援則來自輝達（Nvidia）。當聯發科一併推出AI服務平台「達哥」，期望串聯台灣軟體生態圈，推動達哥進入產品化階段。令人好奇，台灣企業作的大模型有多厲害？
ChatGPT風行一年半之後，帶著技術夢想、文化留存使命的「台版GPT」，進入產品化階段。
IC設計龍頭大廠聯發科技，今天（4月9日）正式推出生成式AI服務平台「MediaTek DaVinci」，亦稱「聯發科技達哥」，由聯發創新基地發表平台上最新的強大繁體中文大型語言模型（LLM）MediaTek Research BreeXe，簡稱MR BreeXe，其在繁體中文測試項目（TMMLU+、MT Bench TW）超越GPT-3.5，並對台灣常見的地端應用，特別進行優化，提升產業界使用生成式AI 與檢索增強生成（RAG）的體驗。
聯發科董事長蔡明介看重AI人工智慧發展，多年前就已提醒團隊跟上技術發展，認為這將是一個「新電力」時代。人工智慧暨數據工程處協理葉家順表示，生成式AI要提升企業生產力，需要的催化劑是什麼？從聯發科最熟悉的手機市場反覆思考，認為基本元素是開放式平台、資訊安全、簡單易用，也需要豐富的應用（App）、兼容開放的標準、上架共享的市集（Store）。
葉家順一併揭開聯發科AI應用的神秘面紗，表示內部導入生成式AI的實作已經非常多元，聯發科有兩萬名員工，其中一萬人會寫程式，所以很早就在使用工具提升效率，應用滲透率達到96%，跨部門的生成式AI專案超過50個，88%的使用者認同生產力得以提升。
「台灣硬體很強，軟體相對的比較弱，剛好生成式AI天時地利人和的到來，聯發科做IC設計，（軟體技術）比較隱秘，沒辦法擴及各行各業，可生成式AI就有機會，可以深入各行各業，」葉家順直言，「這是一個很有意義的事情」。
聯發科團隊並於現場演示達哥使用情境，從產品經理的工作場景來看，以自然語言鍵入達哥對話框，加上專案元素，就能生成各項任務的執行時間表（甘特圖）的程式語言，導入圖像工具就能完成團隊協作計畫。
有鑑於達哥平台的好用，聯發科進一步開放給外部企業申請串接，成為新成形的「達哥生態圈」，上個月開放之後，已有超過8千次下載，陸續有數十家來自高科技、金融、電信、法律、製造、銷售、服務、系統整合、雲端服務等行業的企業，以及教育機構、新創公司加入。
「生成式AI服務平台達哥的三個特色，一是安全，二是技術上，達哥幫你迭代模型，三是企業裡的資訊長，可以把數據留在公司裡，不斷地自主研究，」葉家順表示。
使用輝達最新超級電腦DGX H100
此外，支持達哥平台的大語言模型MR BreeXe，則是由聯發創新基地自研而成，硬體支持則來自輝達（NVIDIA）。
「我們兩年前就將技術對標OpenAI，這次我們是『八道風，吹在一起』，BreeXe背後有八個模型，各有專長，就像千手觀音一樣，任務輸入時就調用適合的模型執行，」聯發創新基地負責人許大山，對於研究成果可以進入產品化階段，顯得非常興奮。
MR BreeXe以Mixtral 8x7B模型為基礎開發，繼承Mixtral多專家模型特有的節省運算資源、提升速度優勢，再加上聯發創新基地的預訓練（pre-training）之後，於輝達的Taipei -1 GPU超級電腦DGX H100上進行訓練，透過MediaTek Davinci，支援全地端與部分地端的佈設場景，並可依需求進行多樣本學習（few-shot learning）甚至微調（fine-tuning）的客製化。
本地模型強於連結本地生態圈
首波加入達哥生態圈的意藍科技，產品主要為語意分析、社群數據分析、搜尋引擎訊息追蹤的輿情與情報系統，策略行銷副總經理張建文表示，意藍將核心的即時輿情資料庫，串聯達哥技術，分別做出「風向小精靈」、「炎上小精靈」兩個對話式服務，可以摘要出熱門事件的發展趨勢，也能提出處置建議，是生成式AI產品化的實作。
從達哥應用的實際操作來看，使用介面與ChatGPT非常相似，就連回答的語句也都頗為近似，如果兩個大語言模型效能相近，對企業來說為何非得選擇達哥？此刻來看，達哥是「免費」申請使用，優於字句計費的ChatGPT，但如此昂貴的技術平台，收費是遲早的事，屆時本地AI服務平台達哥，還有優勢嗎？
一名進入達哥生態圈的軟體服務商表示，自家產品同時串接過達哥與ChatGPT，其實兩者在內容生成的結果上，差異並不大，除了看好達哥未來發展潛力，不過與本地企業合作的好處，是「在地親近」，往後模型技術發展，不管是變得更小，或是變得更大，都可以早一步跟上，這也是與本地模型合作的重要原因。
