編按：AI逐步參與公共決策與行政流程！美國政府引入AI參與醫療給付、行政文書與法律審查，正引發對公共治理透明度與責任歸屬的質疑。當演算法被賦予判斷權限，決定誰能獲得資源，這不只是技術革新，而是權力與倫理界線的重新劃定。
當人工智慧被引入公共治理的核心程序，從行政文書處理到醫療保險給付審核，這不再是一場單純的技術革新，而是一場關於權力轉移與責任的根本辯論。近來，美國政府大規模引進生成式人工智慧於聯邦機關，例如，社會安全署、退伍軍人事務部及國防部，甚至教育部與醫療保險中心也推動將決策程序部分自動化。這些措施無不顯示一個關鍵趨勢：我們正在見證一個「機器治理」的萌芽期。
「演算法病歷審判」時代悄然而至
以表面邏輯看，AI的介入或可提高效率、減少浪費、精簡流程，正如政府宣稱的，這些技術能協助辨識「不當」「浪費性」的支出，甚至被用來對申請醫療給付的案件，進行先期授權決策。但問題的癥結，並不在於技術能否處理資訊，而在於它是否應該被賦予這種判斷權限。當AI被賦予「決定誰有權獲得醫療照護」的能力，其實，我們是將道德選擇，交付給無法承擔倫理責任的系統。
這樣的問題，在法律領域亦有所體現，從退伍軍人事務部用AI撰寫程式碼，到美國陸軍部署AI工具審查內容，是否涉及多元與包容議題，再到社會安全署使用類似ChatGPT的系統，協助員工撰寫電子郵件與文件摘要，這些看似無害的應用背後，實則隱含政府對人類專業角色的重新界定。一項研究指出，即使是專為法律設計的AI系統，其產生錯誤或捏造資訊（所謂「幻覺」）的機率仍高達17～33％。這些錯誤不只是技術上的漏洞，更可能在關鍵時刻，誤導政策決策者或侵害民眾權益。
尤其值得警惕的是，美國政府目前推動AI介入醫療給付審查的試辦計畫，將由AI決定某些醫療服務是否為「合宜」支出。這不僅改變醫療制度的審核機制，也開啟「演算法病歷審判」的時代。雖然官方聲稱，此舉為了防止詐騙與資源濫用，但演算法背後的商業機構，有強烈動機傾向否決給付申請，將造成更大的不公平與社會分裂。更遑論演算法本身，是否有足夠的透明度與可解釋性，來應對日益複雜的醫療倫理爭議。
在這些發展中，我們看到的，不是謹慎、負責的技術導入，而是政治力與商業利益，急於將AI套用到治理程序的躁進。只有在設計是基於既有工作流程，且經過嚴格評估的AI介入方式，才可能真正提升效率，並維持公信力。而目前的部署則缺乏這種細緻規劃，多數機構並未清楚界定AI產出與人類決策之間的責任歸屬，甚至無法確保技術開發者與政策制定者有足夠溝通，這將導致政策應變能力與系統調整機制的雙重空洞。
「由人作主」的治理原則必須捍衛
這樣的趨勢令人憂慮，在一個民主社會中，治理的根本精神在於透明、問責與人民參與。當AI開始承擔篩選、決策、授權的角色時，我們必須重新思考民意的表達還有多少空間？政策的形成，是否仍可容納不同價值觀的辯證？我們是否正在構築一個以效率為名、實則逃避責任的自動化官僚體系？
不容忽視的，是AI系統對法律知識的理解，極易因時間與情境而失效。舉例來說，關於墮胎權的法律判例，曾因最高法院的新判決而被推翻，許多AI卻仍依據過時資料給出錯誤結論。這類知識的不穩定性，讓AI難以應對動態變化的公共政策問題，而政府若未能妥善設定校正與回饋機制，將使錯誤決策不斷複製，傷害民眾對整體制度的信任。
因此，我們必須捍衛「由人作主」的治理原則。在技術尚未成熟、制度配套尚不完整之際，貿然將決策權交予AI，無異於將治理責任外包給黑箱。AI可作為工具輔助行政作業，但不能取代人類的判斷與責任。我們需要的，不是效率至上的治理幻象，而是更透明、更可回應人民需求的智慧制度設計。
本文章反映作者意見，不代表《遠見》立場
（作者為台北商大前校長、叡揚資訊數位轉型大使）
