在台灣時間11月19日的Microsoft Ignite 2024大會中，微軟執行長納德拉（Satya Nadella）分享微軟將AI深度嵌入其產品的策略。他的演說軸線始於其最熱門的應用Copilot功能升級開始，接著開始延伸說明，生成式AI如何進化成為有自主行動的AI代理（AI Agent）。此外，他也談到AI泡沫疑慮與企業投資人工智慧可以得到的回報。這可能才是企業界最想聽到的資訊，軟體界領袖怎麼說？
每年的Ignite大會，都能見到微軟重新收攏過去一年陸續發表的消息，接著重新組合、包裝，最後提出新的論述，讓人看得更加清晰。2024年的Ignite大會亦然，在生產力軟體加入Copilot、在既有服務中介接Agent，雖然是10月以前先提過的更新，但在納德拉精湛的架構與演說能力加持下，卻能讓人看到明確的軌跡。
Copilot進化，互動變得更簡單
實際進入新品介紹以前，納德拉先替聽眾勾勒出AI進步如何改變產品與服務的藍圖。在他眼中，增加資料與參數並提升算力、模型就能進步的縮放定律（scaling law），就是AI時代下的摩爾定律。
事實上，過去幾週，人們正在激辯縮放定律是否已經遇上瓶頸，Google DeepMind的研究者透過在推理時增加運算量改變模型表現，希望能夠增進推理能力、處理複雜任務，便是發掘替代做法的解方之一。
納德拉沒有選邊站，而是強調縮放定律主要來自經驗觀察，並非牢不可破的物理定律。就開發應用與服務來說，樂見有更多研究者投入尋找新方向，他也感到樂觀，認為技術仍會向前行。
隨著模型進步，AI能力便可以改變產品與服務，包含讓互動介面變得通用（universal）、提升推理與計畫能力、拉長記憶力與上下文能力。這幾項效益，使得AI代理變得普及，也成為微軟鎖定的重要方向。
Copilot還能幫忙敲定會議，整合代辦事項
納德拉沒有直接討論AI Agent，先把目光放在扮演人類副駕駛的Copilot。延續過往更新，Copilot加入更多替使用者省下時間的自動化功能，例如取用日曆後，幫助使用者與同事敲定會議，還有能夠自動整合代辦事項，或者搜集團隊成員想法的Copilot Actions。
納德拉特別提到，他會利用Copilot Pages，把和Copilot的對談內容，一鍵生成會議簡報文件，接著分享給同事們參考。這個做法，恰好也是Google高階主管利用NotebookLM所做的事情，同樣都是以AI為基底連結現實（grounding），並萃取對話中的知識，這是AI賦能工作者的經典案例。
對企業來說，投資AI可能有不錯的預期收益，但初期成本不知要投入多少才能見到盡頭的光，讓不少人因此躊躇不前。因此，就評估AI泡沫來說，有不少分析師會拿Copilot的付費率當成重要觀察對象，因為這是AI產品營收的指標性案例。
企業投資AI如何評估回收？
企業額外添購Copilot服務，最終當然希望能夠得到回報，但真的能夠帶來多少效益？納德拉分享，他個人思考推廣、採用Copilot帶來的價值時，會以不同階段區分。
第一階段，當然是希望能夠推給更多人使用Copilot，例如評估組織中現在有多少人使用Copilot，比例愈大愈能提高並彰顯Copilot帶來的價值。
第二階段，則是設法延伸Copilot的影響力，例如把Agent加入服務裡，如此一來，就不只有個體性的生產效率提升，而是整個生態系都得到AI賦能。最後一個階段，就會跳下來測量投資報酬率（ROI， return on investment），有多少工作流程被改變？產出哪些成品幫上人們？這些都是衡量投報率的方式。
微軟這次也推出新工具Copilot Analytics，用來衡量Copilot帶來的成效，例如直接比對Copilot的使用率（usage）高低，和帶來業務的客單與成功比率。納德拉表示他知道企業客戶對於投資能否收效的擔憂，「（衡量Copilot的成效）是管理『變動』的問題，」Copilot Analytics就是用來確認工作流程和生成內容是否真的帶來改變。
AI代理將普及，企業應用內部資料是重點
如果說在納德拉眼裡，Copilot是「人工智慧使用者介面」（UI for AI），幫助人們更能輕易透過對話取得、整理、產出資訊，Agent則是更進一步，透過自主行動，替人們分憂解勞。
集合過去幾個月以來的更新，納德拉介紹了數種AI Agent的應用，例如先前曾分享過的，在SharePoint所建置出的企業內部入口網站背後加上Agent，並串接外部工具，讓AI無需經過人，就能自主完成部分任務，例如收到信件後，觸發後續完整流程，人類只有在檢核或者有高度敏感的階段才要介入。
就Agent的定義來說，必備構成要素有將任務自行分拆的規劃與推理能力、調用外部工具的能力、擁有記憶力、可以反思等，因此有辦法採取行動。
就微軟公布的Agent來說，因為本就是企業端（enterprise）服務，早已定義出完整流程，因此規劃推理、調用外部工具、記憶力等都不是重點，能夠取得資料才是關鍵。
空有能力、沒有資料或者權限的AI代理，注定無法大展身手，而微軟Agent的強項，便是與第三方企業緊密合作，例如Workday的人事管理、SAP的企業商務流程，能夠得到個人化的資料，自然得到發揮空間。
Copilot讓人互動、Agent讓人放權，最後微軟還要讓兩者更加普及，因此提出Azure AI Foundry，讓開發者能夠自行建置Copilot以及Agent，不用等官方定義。微軟提供超過千種模型，再加上評估功能，讓人能夠選擇適合自家任務的模型；開發者也能夠補上私有資料，微調模型改善成效。
硬體也沒漏，微軟推自家安全晶片和DPU
在軟體層次大展拳腳以外，納德拉也沒漏掉硬體的更新，除了高喊多時、企圖搶攻話語權的Copilot＋PC以外，他向聽眾介紹了新迷你主機Windows 365 Link，無論是系統、應用，全都在雲端上運行，主要讓企業和教育事業採用。
另外，雲端服務商自研晶片的爭戰也在繼續。
微軟端出主打安全的晶片Azure Integrated HSM，把重點放在強化金鑰管理與加密上；另外還有微軟第一款客製化的資料處理單元（DPU）Azure Boost DPU。跳進AI技術堆疊的底層開發晶片，「核心在於能夠將計算、儲存、網路、邊緣運算以及晶片整合起來，實現針對所有工作負載的總持有成本（TCO）效能。」納德拉如此解釋。
從Copilot到Agent，再到放手讓開發者自行構建，微軟正在加緊腳步，提升AI賦能人類的速度。
