在人工智慧（AI）融入產品、智慧生產流程的前景中，除了人類與人工智慧必須協作，人工智慧模型之間也必須協作。曾在「聯邦學習」領域做出關鍵貢獻的AI科學家楊強為何認為「協作式生成AI」將是未來前進的方向？
AI模型能力突進，但企業落地應用仍然困難重重。問題不僅幻覺，更關乎資料隱私安全。對此，「聯邦學習」先驅、香港理工大學人工智能高等研究院（PAAI）院長楊強認為，聯邦學習將是模型發展的下一個階段。PAAI團隊提出的「協作式生成AI」（Co-GenAI），可望加速不同領域的應用與跨界協作。
在《遠見》專訪中，楊強表示，協作式生成AI可以說是聯邦學習的分支。在中心化訓練的大模型展現對世界知識、廣泛推理能力的突破後，落地應用需要接入垂直領域的訓練資料，這就是聯邦學習可派上用場之處。
讓模型「聯邦學習」保護資料隱私
聯邦學習（federated learning）是一種機器學習的技術。由Google團隊在2016年提出，起初的應用是為了優化Android 鍵盤上的預測輸入準度。當時，訓練模型需要把資料彙整到中心伺服器，也就是所謂的「中心化訓練」。但將大量使用者的打字數據上傳到雲端，有侵犯隱私的疑慮。
工程師們提出的解方是：讓模型移動到地端，而非將資料彙集到雲端。等到模型使用地端資料訓練完成後，只將「學習結果」（模型更新的參數）傳回中心伺服器，再彙整各節點的成果形成一個更佳的全域模型。因為學習任務由大量位於用戶端的裝置形成的鬆散聯盟完成，這個方法被稱為「聯邦學習」。
而後，將這項技術從「個人手機端」帶入「企業與機構端」，並推廣聯邦學習的國際框架的關鍵人物，正是楊強。
Google團隊設計的聯邦學習針對手機裝置上的同質數據，當時領導微眾銀行人工智慧團隊的楊強，則將這套運作方式拓展到不同機構、不同維度的數據。例如，在同一批使用者中，銀行擁有財務數據，電商擁有消費數據，透過加密協作來聯合建模，可在保護數據隱私的情況下提煉出實用的商業洞見。
近期，在聯邦學習的基礎上，PAAI團隊提出「協作式生成AI」訓練與應用框架。在訓練面，這種分散、協作性的模式，可彙整大量特定領域模型的能力，訓練出強大的基礎模型。藉此保障數據隱私，也大幅降低生成式AI的訓練門檻。
在應用面，模型可以根據需求採用多種協作模式，一個常見的可能是師生模型。例如，金融業的資料隱私標準高，數據不能輕易上雲，但地端的算力又不一定足以運作基礎模型。這種情況下，可以將擁有強大推理能力的大模型留在雲端，與地端的專業小模型協作。
「大模型是老師，有通用能力。」楊強解釋，「本地小模型是學生。學生可以保有隱私，不告訴老師，但它也能從老師那裏學到基礎知識。」
PAAI執行院長楊紅霞也曾在演說中解釋，對企業落地來說至關重要的領域專業數據，大多不存在公開網路上。例如，想開發癌症治療大模型，是不可能以中心化訓練的方式，彙整各大醫院的病歷數據到同一伺服器上。但若讓各醫院使用自己的數據訓練出小模型，再融合這些小模型的能力，就能形成一個更加通用的癌症治療大模型。
代理式AI取得「主動推理」能力，須被設定邊界
楊強是美國人工智慧協會（AAAI）首位華人院士，也是加拿大工程院及加拿大皇家科學院兩院院士。他在北京大學主修天文物理學，後前往美國馬里蘭大學取得電腦科學博士，曾任職加拿大滑鐵盧大學、西門菲莎大學與香港科技大學。是全球聯邦學習、遷移學習研究及應用先驅，擁有超過200項人工智慧相關專利。
論及自己從物理學轉向電腦科學的歷程，楊強指出，若說物理學是對宇宙的運作建立模型，AI研究則是對人腦的運作建立模型，藉此進行預測。
因而，他認為AI模型的推理能力與人腦的推理能力是類似的。楊強指出，人類也是根據經驗，對未來進行預測。人腦推理主要含括幾項特質，例如將複雜的任務拆解成較簡單的任務，推估未來事件發生的機率。「這兩個任務現在都可以用大模型完成。」他表示，「人的推理與電腦推理，基本上是一樣的。」
這項推理能力，也是現前「代理式AI」超越以往能力邊界的核心動力。在任職微眾銀行首席人工智慧官期間（2018～2025），楊強便帶領團隊應用多種「AI代理」，執行資料審核、語意分析等各種任務。
但現前的OpenClaw這類開源AI代理系統，已經從過往的被動推理進化到主動推理。也就是能夠根據人類指派的目標，拆解出達成目標需要執行的子行動，並在需要時調用相應的電腦工具。「這是一個重大的區別。」楊強說，「在過去，這些工作都是由人來做的。」
隨著AI的推理能力及行動力提升，人機協作中，人類的角色也發生轉變。楊強認為，AI目前仍做不到的是主動設定目標方向，人類也需要培養引導、控制AI的能力，其中一項就是為AI「劃定邊界」。
近來，成功延攬OpenClaw開發者斯坦伯格（Peter Steinberger）的OpenAI提出「駕馭工程」（harness engineering）的概念。意指人類扮演建構環境、引導前行方向的「掌舵者」，人工智慧負責執行。這種合作模式在程式設計任務上已愈來愈成熟。楊強亦看好AI代理的隱私邊界問題，會逐漸獲得解決。
在這樣的發展曲線中，楊強預期AI會愈來愈易用，也會愈來愈普及。在使用風險上，他建議使用者去理解AI的限制所在。例如，出於統計學的本質，語言模型的「幻覺」是無法根除的。但這也是模型能脫出數學邏輯計算，給出看似具有「想像力」的答案的根由。
楊強指出，從指令搜尋到現在的駕馭工程，AI能力與人機協作的形式都展現出進化，這也是人機協作「普世化、平民化」的發展，「這個趨勢還會繼續下去。」
