編按：AI代理從聊天工具，進化成能動手做事的數位管家。本地端執行與高度隱私看似完美，卻因高權限與設定門檻，讓一般用戶暴露在前所未見的資安風險中，也讓他們成為駭客最愛的入侵目標之一。
這陣子，全球科技圈最熱門的話題，莫過於那個在社群平台上瘋傳的個人化AI助理。這款最初被稱為Clawbot，後來因為名稱爭議，而改名為Moltbot的開源專案，在短時間內，就在開發者社群掀起驚人熱潮。
原本，大家以為終於找到一個可以擺脫大型科技公司雲端監控，而且完全在自己裝置上運行的「數位管家」；沒想到，這個管家不但沒把門鎖好，還差點把主人的家當全部攤在路邊，隨便路人翻閱。
AI帶來效率，也帶來風險
的確，這種熱度背後反映的，是現代用戶對隱私與效率的雙重渴求，但隨之而來的資安風暴，也給所有人澆了一盆冷水。資安專家與區塊鏈安全機構接連發出警告，指出這類標榜本地運行的智慧代理程式，在設計上存在嚴重的驗證漏洞。許多技術門檻不夠高的用戶，在架設過程中，因為不熟悉反向代理伺服器的設定，導致原本應該只有本人能存取的管理介面，直接赤裸裸地暴露在網路上。
這類軟體為了要「幫主人做事」，通常需要極高的系統權限，包括讀寫檔案、執行指令，甚至是控制瀏覽器與通訊軟體。當這類權限落入錯誤的人手中，受害者的API金鑰、聊天紀錄，甚至是訊息平台的機密資訊，都會在幾分鐘內被洗劫一空。這類事件的爆發，正式宣告了AI發展，已經從單純的聊天機器人，邁向更具行動力、但也更具風險的代理程式時代。
「能自動執行任務」的代價，就是系統安全性面臨本質上的挑戰，以往我們與AI互動，頂多是把資料傳上雲端，但現在的智慧代理程式，是駐紮在我們的電腦與手機深處，握有開啟所有應用程式的萬用鑰匙。如果使用者沒有足夠的技術能力，去落實嚴格的防火牆規範或網際網路協定篩選，這把萬用鑰匙很快就會變成駭客的入侵捷徑。
本地端AI成必備品
這場資安混亂，其實傳遞出一個極為關鍵的訊號，隨著生成式AI的應用進入下半場，市場重心正在從雲端的大規模運算，快速轉向使用者手上的終端設備。開發者與高階用戶愈來愈無法忍受雲端傳輸帶來的延遲感，更不希望自己的私密指令被大型企業看光。這種對於低延遲與高隱私的極致追求，讓「本地端執行環境」成了下一個十年的關鍵戰場。
但問題就在這裡，普通用戶真的有能力，自己管理一個具備高權限的本地端AI系統嗎？從這次專案產生的漏洞來看，大多數人其實並不具備自行維護資安的能力。這也正是為什麼掌握硬體入口的科技巨頭，像是蘋果，很可能會在這場競爭中笑到最後。當軟體與硬體能高度整合，並在晶片底層就設計好安全隔離機制時，這種「本地端AI」才能真正從玩家的玩具，變成大眾日常生活的必備品。
AI代理程式的未來，確實令人嚮往，它能主動跟我們對話、提醒行程，而不是等著我們去輸入指令。但這次的資安教訓告訴我們，功能愈強大的工具，危險程度也愈高。如果我們想要享受智慧生活帶來的便利，就必須正視「全天候連線」帶來的潛在威脅。任何能執行任意指令的程式，在本質上，都具備成為後門程式的潛力。
嚴格安全規範有其必要
當我們在追求讓AI「真的動手做事」的同時，資安門檻的設定，必須要更加防呆。軟體開發者不能再假設使用者，都懂得如何設定複雜的安全機制，而是應該在初始設計時，就將最嚴格的安全規範預設在內。否則，這些原本是為了簡化生活的智慧代理程式，最終只會變成把使用者個人隱私、通訊紀錄，甚至是財務帳密，雙手奉上給駭客的幫兇。
這場由開源專案引發的風波，只是AI典範轉移的一個小插曲。它提醒我們，即使技術再先進，安全防護依然是不可逾越的底線。未來的競爭核心，將在於如何平衡便利與安全，誰能讓用戶在不需要具備工程師技術背景的情況下，也能安心享受到本地端AI代理程式的服務，誰就能在下一波的科技巨變中站穩腳跟。AI的落地期才剛剛開始，而安全意識的覺醒，則是我們這群使用者必須交出的第一份學費。
本文章反映作者意見，不代表《遠見》立場
（作者為台北商大前校長、叡揚資訊數位轉型大使）
