當AI全面滲透日常，一座擁有400萬人口的超級城市，該如何駕馭這股強大力量？新北市政府資訊中心主任陳富添形容，「AI治理就像城市版的機械法典」，它不只是追求技術的創新與效率，更是建立信任、確保城市運作安全可靠的防線。從山區到海邊，從都會到鄉村，新北市正走在一條截然不同的AI之路上，目標是讓城市不僅會思考，更懂得防禦與回應，成為市民能安心信賴的智慧夥伴。
2019新北市政府資訊中心成立以來，團隊結合AI、大數據和公民參與，實踐創新技術、跨領域合作和永續發展的理念，成功推出了5G智慧共桿、城市幣等多項具影響力的智慧城市解決方案等等。
《遠見 ON AIR》邀請到新北市政府資訊中心主任陳富添，與我們深度解析全台人口第一大城的「AI治理進化論」，揭開新北市如何從制度、技術到人才培育，一步步建構出可追蹤、可究責、可信賴的AI治理模式。
讓我們來一起瞭解：
============
遠見雜誌總編輯 林讓均（以下簡稱總編輯）：
請教新北市AI治理是什麼？
新北市政府資訊中心主任陳富添（以下簡稱主任）
AI治理簡單的來講，就是我們希望在AI幫我們做任何工作之前，要先學會怎麼來管理他。新北市最早在幾年前我們AI開始興新起的時候，我們就已經有意識到說，如果AI沒有規範，沒有一個風險管控，他有可能在一般提升我們工作效率同時，一邊也是在放大他的風險。那我們希望AI不是一個黑箱，是一個透明、可以追蹤、可以監督的，所以新北市所做的不是只有導入AI的技術，而是要再建立治理的機制。這個機制的話，包含風險分級審查流程，以及資料治理的規範。我們希望每個AI的應用，都是有制度可依的，也成為我們對城市治理信任的基礎。
在公部門，導入AI的應用最大的挑戰不是技術的問題，而是治理的缺乏跟跨局處的協調不足，各局處往往把AI是作為專業的一個技術，它忽略了整個流程的整合資料治理，還有責任歸屬的問題，所以有時候無法直接納入我們的政策裡面，或是AI做出一個錯誤的決策之後，無法去追蹤；資料層面也有可能因為不同局處的資料格式不統一，容易造成訓練模型的偏差或訓練的不完整。
所以我們最重要的如何接軌AI，還是要回到人的身上。我在8月25號「智慧防線新升級新北資安向未來研討會」之中特別有提出來，在專案的啟動之前，一定要做好風險的分級與管控錯誤的影響，建立安全網。
實際上，我們新北市也透過自己制定的「新北市政府使用人工智慧作業指引」，為建立AI治理框架及促進AI技術標準化應用，進而提升公共服務效能與智慧治理能量，並打造一個民眾可信賴的AI應用環境。
總結來說，AI治理就像城市版機械發電，不只是技術的安全，也是確保AI能夠符合人員跟管理上的運作。
總編輯：
AI它其實可以放到各個情境裡面，那它各個情境的管理難度跟需求都是不一樣的，主任你說公部門導入AI最大的挑戰，其實不是技術，而是「治理缺位」，您剛剛也有稍微提到這件事情，所以可以幫我們來舉例說明嗎？
主任：
這句話的意思是，AI專案常常做出成果，卻進不了制度。
比方說，一個局處開發了AI模型能自動判斷補助資格，但如果沒有明確的「責任歸屬」與「人工覆核機制」，出了錯誰負責？
所以我們要求所有AI專案在上線前，都要建立「人機協作責任鏈」。AI可以算、可以判，但最後的決策必須是人。這樣才有治理的安全網。
總編輯：
所以「新北市人工智慧作業指引」就是您說的安全網嗎？它最重要的規範是什麼？
主任：
對。這份指引就像公部門的AI憲章。
我們參考了美歐的規範來編撰，它有六大重點：風險分級審查、資料治理、模型透明、供應鏈控管、人機互動規範、以及上線後監測。舉例來說，「高風險AI」必須經過資安與倫理檢測，並保留人工覆核與救濟機制。
「新北市府使用人工智慧作業指引」的核心目的，是建立統一AI治理框架，促進AI標準化應用，並確保公共服務效能與可信度。具體來說，指引解決了三大問題：
一、跨局處導入時缺乏標準與責任歸屬
二、資料治理與個資保護缺口
三、高風險AI缺乏審查與驗證流程
指引的規範要點包括：
（1）風險分級與審查機制：高風險AI系統需通過資安、隱私、倫理及準確性檢測
（2）資料治理：最小授權、去識別化、資料品質指標
（3）模型透明與可追溯：訓練資料來源、版本管理及決策依據留存
（4）人機互動規範：明確人工作業介入與最終決策責任
（5）第三方供應鏈管理：供應商合規與合約條款
（6）監測與回饋：上線後持續監控模型漂移與資安事件。這套指引直接對應到公務部門導入AI時常見的治理與資安挑戰。
總編輯：
我們接下來就會談到AI治理的風險管理，因為主任剛才也跟我們強調，風險是非常重要的，請跟我們說一下。
主任：
我們是分為四個等級，第一個等級的話是不可接受的風險，那所謂的不可接受的風險，就是像對人類的尊嚴、自由以及民主制度構成嚴重威脅，這種東西是不能開發的。我舉例來講，以法院如果說我今天要建立一個AI系統，代替法官來做審判，這就是不能開發的。
第二個：高風險--影響個人安全或是基本權利，而且為社會關鍵領域的運作，像醫療、交通教育執法等等這一類，的話，一般公務體系都是涵蓋在這裡面，這一塊的部分就是要做AI評測，進AI產品與系統評測中心（AIEC）來去探討它的風險，他有沒有這些風險，你要去怎麼規避。
第三個：有限的風險，他就是涉及跟人互動的時候，資訊不對稱風險。舉例來講，現在很流行的，像AI數字人，你去看他，像真人一樣跟你講話，那這個東西會造成民眾的誤解，以為他是真人，所以如果你是開發類似這樣的東西的話，你就需要明確告知，等於說，你在系統上要僅是讓人家知道說這是AI做的，他不是真的要不然就以為是有人在跟你聊天了。
第四個等級的話，就是所謂的最低風險，也就是指不構成風險。部分舉例來講，就像AI翻譯或是用AI來做會議記錄，這個就是屬於最低風險，這個就是可以安全的開發，這就是我們作為風險規避的準則。
總編輯：
AI這樣講起來，其實我覺得要深奧也是很深奧，因為它可以從基礎的部分，然後一直進階到很高階的風險管理等及新北市，我們知道有28個局處聽說也已經開過，上百堂的AI課沒錯，所以你們都學什麼啊？
主任：
我們其實把AI的課程是分為三個層面：基礎、應用、策略
做推廣還有基礎跟應用的部分，新北市政府從113年至今，共28個局處針對其同仁與民眾開辦了118堂AI課程，計1萬3千餘人次參加。此外，策略面上為落實跨領域協作與技術落地的目標，新北市府資訊中心特於今年6月舉辦「人工智慧應用策略工作坊」，邀請學界和產業界精英，聚焦探討人工智慧在市政服務的創新應場景用與數據融合策略，為市府團隊建立起AI技術落地之永續性及可信任能力的認知。
這些課程不只是培訓，主要是在創造一個AI的文化。我們現行已經有11個局處陸續導入了這些創新AI技術，譬如環保局採用了AI影像的辨識跟機器手臂做資源回收，每個月可以處理800噸資源回收物；水利局也運用在新北市的智慧防汛平台，也是希望透過各類的監測資料庫的整合，運用AI來精進水災應變跟防汛的作業。交通局的運輸走廊動態可以做號誌控制，也導入AI偵測即時車流，動態調整號誌時間，提升道路通行效率。地政局推出了預售屋契約，由AI的比對系統減少建商和購物者存在的爭議，來保障預售屋交易市場的透明度和安全性，農業局動保處有智慧寵物照顧存摺，提供AI智慧服務以及健康數據雲端管理來守護毛小孩健康等等。
總編輯：
所以這樣聽起來，其實各個局處，都有自己的創新提案。新北市府有沒有內部的黑客松競賽？
主任：
我們在明年也會跟台北市一起合辦，我們是希望利用兩個直轄市的力量來推動這個AI黑客松的比賽，讓雙北地區的市民都了解，政府創新的政策其實在日常生活當中。
當然，我們還是希望真正的主軸是AI的應用，才能讓市民有感，一起參與。
總編輯：
那剛才主任也幫我們提到AI是資安鑑識實驗室，這是什麼？
主任：
這個實驗室負責AI上線前的「全面體檢」。我們會測試五大項：準確性、公平性、可靠性、資安與個資保護。高風險AI專案像社會救助、自動審核系統等，都必須經過這道關卡。這樣能避免模型誤判或資料外洩。
「AI不只是幫城市變聰明，更要幫城市變可靠。」因為科技可以提升效率，但信任才是永續治理的核心。在AI時代信任是很重要的，那也包括說，在整體的數位環境AI的時代裡面，我們怎麼去打造所謂的數位孿生＆數位韌性。
簡單的先解釋兩個名詞，一是數位孿生，就是兩個分身，如果他是上線中的系統，它會面臨到一種問題，我定會更新跟正在線上的版本，如果工程師在一個測試環境測試好之後將訊息放上去，有可能會出現問題，也不可能拿下來重來，數位孿生好處是指有兩個一模一樣的系統，我可以在另外一個可控的系統裡面處理，我只讓少部分的使用者在這邊，確認之後再整個推廣下去，這就是數位孿生，做到無縫接軌的程度。
所謂的數位韌性，講白一點，就是治癒的能力，以系統來說的話，當他遭到一個攻擊或是災害發生，譬如說火災的時候，導致他的資料壞掉（crash），但就算是備援都會有時間差，譬如說你現在的備份都是還原昨天的資料，那你今天的資料都沒了，今天資料怎麼辦呢？
數位韌性以我們新北市來講，我們利用我們未來的三重的第二行政大樓，作為我們的數位孿生，新北市政府現在的板橋大樓跟明年年底會完工的二辦之間，拉了一條八點八公里長的光纖網路串接這兩個機房，在三重二辦的大樓裡面，十五樓也將有一個全新的AI機房，就是我們作為數位孿生跟數位韌性的一個代表，如果災害發生的時候，他可以隨時切換到另外一邊，為市民帶來使用上的安全與保障。
總編輯：
數位孿生跟數位韌性真的是很重要，還有一件事，聽說新北的AI算力池像城市大腦一樣，可以「思考、模擬、預測」？
主任：
沒錯。算力池是我們的AI中樞，提供跨局處共用的運算環境，避免重複採購。它能同時支援防汛、交通、市政效率等AI模型運作，也兼顧資料隔離安全。我們正在打造的是「具備韌性的大腦」，讓城市越用越聰明。
因為現在的AI發展非常的快，他面臨到的有幾個問題，就是現行的機房都無法來作為AI的機房，因為AI的使用它有幾個特性：
第一個是高耗電，以傳統機房來講的話，高耗電狀況讓整個電盤都要改。第二個部分是高熱能，以現行來講散熱系統不夠用。因此在我們的三重第二機房設計上有因應未來的趨勢，採取浸沒式冷卻，顧名思義就是將整台伺服器放進不導電的液體當中，就像泡澡一樣解熱；另外一部分，傳統的機櫃一般都是60公分左右，那以現在的AI的主機來講的話大部分都是到90幾公分，所以我們當初在設計這個三重的第二行政大樓的AI機房的時候，就採取寬機櫃的部分，包括他的電力，還有它的散熱都重新調整，那也算是AI基礎建設的1個很重要的一環。
總編輯：
很棒的分享，原來有這麼多眉眉角角要注意。然後主任，你覺得在資訊中心職務上很難，但是很值得堅持的會是什麼事呢？
主任：
最難的是「讓制度跑在科技前面」，科技的發展很快，如何設計一個制度保障我們這個科技的發展不會影響到市民的權利，所以說AI技術每天都在變，但治理的原則必須要如何兼容這件事情上要努力。最值得的，是看到公務員、學界、企業都能用同一套語言談AI，這代表城市真的進入「共學、共治」的新階段。
總編輯：
比如說你剛才提到，28個局處都上了100多堂課，她某一種程度就是讓大家用同一個語言在講話，那侯市長呢？有需要把他特別上個課，或者是他對這個有什麼特別的期待嗎？
主任：
我們的大家長，對於我們AI的部分也是非常的重視，他也在多次公開的會議裡面，希望大家跟上AI的1個腳步，所以這一部分也是我們努力在跟各局處推廣AI治理最主要的原因。不管是企業、學校或公部門，最上位者的支持，其實是很重要的推動力量。
總編輯：
在最後想請主任幫我們來談一談，如果說，市民聽我們的遠見OnAir，若用一句話來記得新北的AI治理，你希望大家想到什麼呢？
主任：
我希望大家想到的，就是「可信任」這三個字，因為新北市的AI治理它不是一個炫技，也不是一個空談，它是希望讓市民放心，那如何要讓市民放心我們是希望打造一座會思考會、防禦、會回應的智慧城市。
總編輯：
希望大家對於AI的瞭解更多，然後也回饋給新北市政府，那其實呢？如果大家想要了解新北市的AI治理與智慧城市的新布局的話，其實也歡迎大家打一下關鍵字喔：叫做「新北市智慧城市主題網」，所以在這個主題網裡頭，主任也有策展demo很多新北市現在的努力，那也可以參考我們資訊欄的，連結我們直接把這個連結放在我們的資訊欄上面，那主任之後有沒有什麼要補充給大家的呢？
主任：
我希望我們新北AI的發展是領先於六都的，謝謝。
==========================
【AI狂潮】AI不只要變聰明，更要變可靠！新北市如何打造會思考、懂防禦的智慧大腦？ft. 新北市政府資訊中心主任陳富添
當AI全面滲透日常，一座擁有400萬人口的超級城市，該如何駕馭這股強大力量？新北市政府資訊中心主任陳富添形容，「AI治理就像城市版的機械法典」，它不只是追求技術的創新與效率，更是建立信任、確保城市運作安全可靠的防線。從山區到海邊，從都會到鄉村，新北市正走在一條截然不同的AI之路上，目標是讓城市不僅會思考，更懂得防禦與回應，成為市民能安心信賴的智慧夥伴。
本集《遠見 On AIr》邀請到新北市政府資訊中心主任陳富添，與我們深度解析全台人口第一大城的「AI治理進化論」，揭開新北市如何從制度、技術到人才培育，一步步建構出可追蹤、可究責、可信賴的AI治理模式。
🔺 「AI治理」與傳統的「資安」有何不同？為何後者只是前者的其中一環？
🔺 全台首創的「AIEC」是什麼？它如何扮演AI系統上線前的「健康檢查中心」？
🔺 「數位孿生」與「數位韌性」是什麼概念？
🔺 為何導入AI最大的挑戰不是技術，而是「治理缺位」？新北市如何填補這個缺口？
主持人／遠見雜誌總編輯 林讓均
與談人／新北市政府資訊中心主任 陳富添
（新北市政府廣告）
