如果說去年（2023）生成式AI年會中分享的導入，還在辨識組織內適合應用生成式AI的場景，屬於尋找機會的探索階段，那麼今年生成式AI年會的主旋律，可說是逐漸踏入深水區，玉山銀行與網紅志祺七七怎麼分享第一線的慘烈導入經驗談？
對金融業來說，生成式AI代表著無窮機會。大語言模型（LLM）能夠扮演副駕駛，若客服人員被客戶的問題淹沒失去航行方向，它便能快速地從知識之海中找出對應資訊，給與輔助。對櫃員和業務員來說，LLM也能作為磨練口才的最佳陪伴，模擬與客戶對話的諸多情境。在企業內部場景中，也有提升生產效率、總結既有檔案等多重用途。
玉山銀行：開發好AI工具結果沒人要用
玉山銀行智能金融處主任工程師徐銘霞分享，玉山銀行開發生成式AI平台GENIE，結合如個金、法金等業務的專有知識，同時納入公司的金融產品，使用者能夠藉著與平台對話增進對行內業務的理解；同時提供其他對話式LLM都有的生產力服務，完成潤飾信件、翻譯等任務。
隨著LLM演進，多模態功能增強，接地能力（grounding）也跟著進步，玉山期許以GENIE為基礎，從通用的提升工作效率，上升到完成金融業務，藉此建構出完整的生成式AI應用圈，理想可謂遠大。
徐銘霞分享，在服務上線前，歷經調查應用場景、尋找長官支持，也走過試營運等歷程，滿心歡喜的推出GENIE後，「怎麼使用的人數占開放人數才20％，（同事）不是說它掌握玉山的關鍵之鑰嗎？」
血淋淋的營運數字，讓玉山團隊開始研究使用率低下的根源，結果發現「不用」的原因各異。有人不需要用、有人不會用，有人有需要但不滿意品質。找出問題後，接著就是對症下藥，例如替不會用的人提供課程與工作坊，針對會用但不滿意的人，導入RAG串起內部資訊，甚至是分辨出其實不用生成式AI，也能完成任務的項目，藉此不斷改進。
徐銘霞説，剛開始的跌跌撞撞，讓團隊意識到推廣產品，以及反覆檢視新需求的重要性。就前者而言，要找到願意支持的長官，喚醒能夠接觸到的潛在使用者，「不然我們其實有點像自己在自嗨，工具推出來也沒人要用、也賺不到錢。」
志祺七七：AI工具導入後愈來愈痛苦
與玉山銀行遇到的情況相似，既是YouTuber、也是簡訊設計共同創辦人的張志祺，提到生成式AI蔚為風潮時，有很多同事迅速開始在工作中應用AI工具，但隨即遇上困難，人均AI技能落差很大、使用AI經驗難以移轉，以及當時AI工具仍不擅長處理複雜任務，讓組織內出現AI應用速度不一的問題。
使用時撞牆、愈用愈失去信心、和同事求助也無果，張志祺説，在種種負面因素疊加之下，使用AI的挫折感一天天加深。看見本該是助手的AI工具，反倒成為打擊信心的負能量來源，公司決定從頭開始處理「AI不夠好用」的問題。
他們採取的作法是，將原先交由AI處理的指令拆解，細分為小項目，不再靠著單一模型、單次指令完成；另外，召開AI導入會議，讓負責開發和實際使用的同仁能夠正式的交流，「讓擅長的人和不擅長的人，都能夠各自找到自己的位置。」
其實，若檢視簡訊設計開發出的工具，底層就是OpenAI的API，市面上不乏擁有相似功能的競品，甚至功能更為優異。但正如張志祺所說，他很鼓勵大家多比較、試用不同工具，但比起工具本身，他個人更在意的是「策略、假設，以及具象化的過程。」換句話說，導入AI遇上問題，設法解決的過程才是真正寶貴的經驗。
從實驗性質專案，轉變成確實解決問題、能夠創造價值的工具和平台；從發掘現有業務人員痛點，針對應用場景提出解法，進步到實際導入後其他問題浮現，例如轉換成本高、使用者習慣難以撼動等，親身經歷就算內部砸錢砸資源研發工具，也沒人要用的痛苦過程。
生成式AI年會的不同分享案例中，讓人看到大企業與新創的艱難應用之路。但這些與會者背後都有共通特點－即便解決問題的途中遇到更多問題，只要抱持著不肯放棄的精神，在追求不斷進步的路上，終究能夠找到出路。
