Facebook Pixel
訂閱
快速註冊 已是會員,立即登入

為您推薦

會員權益

AI同事扛再多也不累,將從職場協作角色變主導?

AI Agent現身〉AI代理走進數位世界

曾子軒
user

曾子軒

2024-06-28

瀏覽數 4,400+

鏈奇國際創辦人何建幟表示,生成式AI擅長處理非結構化資料,再加上感知和推理能力,讓AI代理能夠有彈性的見機行事。賴永祥攝
鏈奇國際創辦人何建幟表示,生成式AI擅長處理非結構化資料,再加上感知和推理能力,讓AI代理能夠有彈性的見機行事。賴永祥攝

喜歡這篇文章嗎 ?

登入 後立即收藏 !
00:00
00:00

本文出自 2024 / 7月號雜誌 重啓花蓮旅遊方程式

以前,AI總扮演輔助角色,但隨著對增加生產效率的要求、大型語言模型的發展,AI日益進化,變得愈來愈強大。未來,人機協作模式會「主客易位」嗎? 

從助手到助理,再到副駕駛(copilot),彷彿是為了要讓滿溢著焦慮的社會安心,企業推出生成式AI服務時,始終以「讓AI扮演輔助角色」,作為人機協作的主旋律,表示人類仍具有最高掌控權。 

然而,大型語言模型席捲世界後,安裝AI大腦的機器,能做的就不再只是自動(automated),而是進化到自主(autonomous)。以前AI擅長對付重複且固定的任務,如今就連不確定的工作都能接下。 

這麼一來,人工智慧不僅接手部分任務,更扛起完整職能。也就是說,「Computer」從計算機變身為名符其實的「電腦」。 

系列題組
AI Agent現身〉從數位到物理世界,AI代理來了!
AI Agent現身〉數位篇:AI同事扛再多也不累,將從職場協作角色變主導?
AI Agent現身〉物理篇:黃仁勳力推!AI落地物理世界,人形機器人商機再現

當AI代理能夠使命必達

可以不用真人介入,AI自行完成任務,那會是什麼樣的景況? 

試想,有一家想尋找客戶的新創,既沒有國內路線上廠商的通訊錄,也不知道國外的產業圖像,「這時候,就可以派出AI代理,去整個網際網路理解產業、尋找聯絡方式。」鏈奇國際創辦人何建幟說。獲得美國頂尖創投YC投資,並因此與前YC總裁、OpenAI執行長奧特曼(Sam Altman)結緣,如此解釋AI代理上陣的情境。 

依照真人的行為模式,想建立潛在客戶清冊時,會先選定產業,接著打開搜尋引擎,鍵入不同的關鍵字,再瀏覽各家公司官網、LinkedIn,或是臉書粉絲專頁,記下電話與聯絡窗口,待整理出名單後,開始寫信。 

改換AI代理上場,便能充分利用感知、推理和行動等能力,完成獲取資訊的流程。何建幟指出,AI業務背後,有一套預先定義好的代理流程(pre-defined agentic workflow),把「建立潛在客戶清冊」,細拆成分解關鍵字、造訪網頁、辨識聯絡資訊並記錄,以及最後的發送客製化訊息。 

不過,每個網頁外觀相異,聯絡窗口和通訊方式又四散各處,要如何找到所需資訊? 

這時,就能見證AI代理的威力。 

因為能解析程式,它可「吃進」大量網頁原始碼,就像工程師按右鍵查看前端結構,AI代理能藉著推理能力,找出信箱和電話的正確位置。 

取得聯繫方式後,AI代理也能撰寫詢價和接洽訊息,與潛在客戶搭上線。這背後既要規模化的創作,又要力求客製化,何建幟以「重複性的創意」,來描述大型語言模型的特長。 

AI代理有能力從零到一完成探索到寄出信件的所有流程,中間也能讓客戶在檢核點介入,例如令其確認信件內容。「這就是『人類在迴路當中』(human-in-the-loop),」不只使企業主放心,也能讓AI代理掌握使用者偏好,藉此改善表現。 

貼合業務場景,是發揮關鍵

不過,並非所有場景都像業務拓展一樣,可以讓AI代理獨立作業。以客服代理、生產力代理來說,就需要整合企業資料與流程;還在追逐規模化的鏈奇,便選擇不在這些領域競爭。 

對比之下,軟體和雲端大廠早就乘載用戶豐厚的資料,因此,發展AI代理服務成為必然之路。雲端三巨頭AWS、微軟和Google,還有在企業服務耕耘甚深的IBM和SAP,紛紛推出AI代理,只是路線上有所差異。例如,Google強調提供平台工具和服務,使用者能自由探索哪裡適用AI代理;SAP則將AI代理鑲嵌於既有產品之上。 

資料來源:AWS、微軟、Google、SAP、IBM 整理:曾子軒

資料來源:AWS、微軟、Google、SAP、IBM 整理:曾子軒

SAP台灣客戶諮詢負責人吳孟穎指出,全球有超過九成500大企業是SAP客戶,系統上已具備明確應用場景,因此,會用AI代理加值產品服務。「我們看的不是單點,會以流程跟場景為優先。」 

SAP系統的AI代理Joule,既會主動提供建議採取的決策,也會被動回應。在業務流程中的關鍵節點,使用者能夠向Joule發問、請它採取行動,例如連結外部資料,請它確認特定指標。 

吳孟穎舉例,當客戶利用SAP產品檢查碳排資料,若發現有異常情形,可以讓AI介入,自主分析原物料狀況,找出待改善空間,再進一步比對歷史採購資料,確認採購策略。接著,評估要聯繫的供應商和下單數量,最後請Joule提出報價申請和需求建議書,確認後即可送出。 

「感知、分析完數據以後,要做決策和計畫,再接著執行。執行完要回收資料,再回頭改善(行動)。」吳孟穎口中的連串動作,正是Joule做為AI代理的構成元素。 

應用有成效,對內使用居多

SAP展示的應用著重「業務相關」,但有不少企業還在探索階段,旅遊新創KKday便是一例。他們找上Google Cloud,打造客製化的AI代理服務,應用在客服場景中。 

西堤餐券+雜誌一年才 $2,680,這組合太划算!立即訂閱>>

KKday數據部技術主管陳柏翰分享,團隊整理商品資訊、使用者提問和用戶評論等多樣資料,以Gemini模型為基礎,建造出熟諳KKday業務的AI虛擬專員。 

有人可能會問,把散落各地的資料打包整合,藉此避免資料孤島出現,並從中萃取出寶貴洞見,這是行之有年的企業知識管理議題,和AI代理有何關係? 

最關鍵的差異在於,生成式AI增進機器的自然語言理解,整理資訊時利用大型語言模型,從商品資訊提煉出更高一階的概念,所以有能力提供更精確和更有關連的內容。 

同時,大型語言模型有創造性,也可以帶給使用者更好體驗。而隨著能力提升,還有機會延伸出其他服務。 

對內,當KKday的真人客服在回答使用者問題時卡關,過往主要利用關鍵字,在雲端上的茫茫資料海中搜尋,現在可以直接用問答方式,請教AI虛擬專員;對外,KKday將AI虛擬專員部署在對話機器人後頭,藉此彌補人力空缺。 

目前對話問答並不涉及個資,當使用者想要修改訂單、申請退票,會離開對話機器人,因為有系統串接和隱私問題。不過,若AI虛擬專員串上公司服務,技術上可以完成後續動作,陳柏翰表示,這是未來發展方向。 

當使用者人在異國旅遊,向聊天機器人提問購買行程的集合時間和地點,沒有太多出錯空間。左起Google Cloud台灣業務副總王譔博、KKday數據部技術主管陳柏翰、Google Cloud台灣業務經理李長軒

當使用者人在異國旅遊,向聊天機器人提問購買行程的集合時間和地點,沒有太多出錯空間。左起Google Cloud台灣業務副總王譔博、KKday數據部技術主管陳柏翰、Google Cloud台灣業務經理李長軒

企業已開始探索AI代理揮灑空間,也有人取得好成績。不過,無論是新創或大廠,向企業展示的應用案例,很大程度局限於客服,也以內部使用居多。為何還沒見到AI代理四處擴散? 

橡子園太平洋基金合伙人吳德威認為,關鍵在於品牌的容錯率不大。他已看到行銷和銷售領域的新創加入戰局,並以AI代理為賣點。 

然而,這些新創的客戶即便添購AI代理服務,也還沒有足夠信心,讓大型語言模型直接與消費者對答,因為只要出錯一次,便會造成重傷。「如果我在NIKE官網上提問,說想找好的慢跑鞋,結果回答慢跑鞋應該找New Balance的話,不就糗了!」 

陳柏翰也分享,目前KKday對外服務的問答,暫時還採取選單形式,沒有讓大型語言模型自由產出內容,關鍵就在於擔心犯錯。「旅遊產業面臨到的挑戰在於,我們解決的,都是用戶直接在現場的問題。所以,假設有1%回答錯,讓客人跑錯地方,就會是很大的災難。」 

因此,KKday雙管齊下,一方面透過檢索增強生成(RAG)等技術,確保資料正確性,一方面先用選單限制空間,或是將問答轉交給真人客服,避免回覆錯誤帶來的嚴重損失。 

信任與責任是最大挑戰

Google Cloud台灣業務副總王譔博補充,使用者對生成式AI不夠信任,很大原因就是擔心它可能捏造資訊,因此透過接地(grounding)方式,提供生成內容的參考來源。例如,出自KKday商品或政策的文件,讓客服同仁看到憑據,就不會太過擔心。 

信任以外,還有責任。若AI代理要做決策,甚至是不同企業都派出AI代理互相溝通,Google Cloud北亞區董事總經理李孔源指出,「技術上是可以做到沒有任何人為介入的,」但這背後有授權議題,AI代理能否負起決策責任?企業必須考慮清楚。 

不只企業應用時擔心犯錯,消費者端場景也有相似挑戰。 

鎮日與AI代理新技術為伍,DeepLearning.AI工程經理陳奎翰分析,AI代理已能採取影響真實世界的行動,例如,自主至電商比價、挑品,技術上已不是問題,但當AI代理完成選購任務,最後要下單刷卡時,「還是要人去決定,這會有信任問題。」 

陳奎翰指出,因為AI代理進展太快,還不夠普及,又因為有部分決策看似黑箱,無法解釋背後緣由,使用者容易裹足不前。 

不過,隨著大型語言模型的推理能力變得更強、能吸納的指令上下文長度變得更長,他相信,AI代理只會變得更成熟,不管是信任問題,或是計畫不夠細緻等挑戰,都能逐步克服。 

展望未來,AI代理會先在容錯率較高的場景落地,接著漸次拓展到更多元的非結構化應用。 

已走進你我職場的AI代理,儘管遭到束縛,暫時扮演副駕駛的協作角色,但這些數位員工,終有坐上主位的那天。 

延伸閱讀

AI教父黃仁勳的創業領導成功之道
數位專題

AI教父黃仁勳的創業領導成功之道

AI晶片巨頭輝達(NVIDIA)執行長黃仁勳勢不可擋!1993年創立輝達以來,公司市值近來創下歷史新高,黃仁勳身價更是破千億美元榮登全球前15大富豪。隨著Computex 2024登場,他帶來的A

請往下繼續閱讀

登入網站會員

享受更多個人化的會員服務