歐盟 AI 法案（EU AI Act）旨在規範 AI 系統，以確保其安全、可靠且尊重基本權利。為有效落實法案的目標，歐盟建立嚴格的市場監督和執法機制，以監督 AI 系統的合規性並對違規行為進行處罰。本文將深入探討歐盟 AI 法案中的市場監督和執法要求， 並分析其對 AI 產業的影響。
人工智慧的快速發展為社會帶來諸多益處，但也伴隨著潛在風險。歐盟 AI 法案強調風險管理，特別是針對高風險 AI 系統，例如用於醫療保健、交通運輸和執法應用等關鍵領域的系統。法案要求這些系統的開發者和部署者需符合嚴格的義務，並接受市場監督機構的審查。
歐盟AI法案市場監督和執法機制
歐盟 AI 法案的市場監督和執法機制主要包含以下方面：
1. 市場監督機構：歐盟各成員國需指定負責 AI 法案執法的市場監督機構和指定的公告機構（notified body）。市場監督機構負責監督 AI 系統在市場上的合規性（compliance），並採取措施確保 AI 法案的有效執行；公告機構則負責評估和認證高風險 AI 系統的符合性（conformity，慣稱為驗證）。（article 70）
2. 符合性評估：高風險 AI 系統（附件 1, 3 所列的產品及服務）在進入歐盟市場之前，必須經過符合性評估程序。評估程序可能包括文件審查、實驗室測試和現場評估驗證等，以驗證 AI 系統是否符合法案的要求。符合性評估程序之目的在於確保高風險 AI 系統符合歐盟 AI 法案的要求，包括資料數據品質、技術文件、透明度、人為監督、準確性、穩健性（resilience） 和網路安全。（article 43）
3. CE 標誌：通過符合性評估的 AI 系統需加貼 CE 標誌，以表明其符合歐盟的安全、可靠性和效能標準，以便在歐盟內部市場自由流通。CE 標誌應清晰可見、易讀且永久地貼在高風險 AI 系統（產品或服務）上。如果由於高風險 AI 系統的性質，無法或不必要貼上 CE 標誌，則應在包裝或隨附文件明確標示。（article 48）
4. 違規行為的處罰：歐盟 AI 法案針對違規行為制定嚴厲的處罰措施，適用對象包含供應商、部署者、進口商和分銷商。罰款金額取決於違規行為的嚴重程度，最高可達全球年營業額的 7% 或 3500 萬歐元，以較高者為準。對通用 AI 模型的供應商處以罰款，如果他們故意或過失地違反 AI 法案的相關規定，最高可達全球年營業額的 3% 或 1500 萬歐元，以較高者為準。（article 99, 101）
5. 合作與資訊共享：歐盟成員國需互相合作並共享資訊，以確保 AI 法案的有效執行。各國的市場監督機構應與其他會員國的市場監督機構合作， 進行聯合調查和執法行動。同時也由歐洲人工智慧辦公室（AI Office） 負責協調各成員國的執法行動，並提供技術支援，共享有關嚴重事件和違規行為的資訊。
6. 申訴機制：任何受到高風險 AI 系統決策影響的個人都有權獲得清晰且有意義的解釋，說明 AI 系統在決策過程中的作用以及決策的主要依據。任何自然人或法人，若認為自身權益受到 AI 系統侵害，皆有權向市場監督機構提出申訴。市場監督機構需依法調查申訴案件，並採取必要的措施。（article 85, 86）
案例分析
除先前幾篇文章討論過的招聘、醫療和自動駕駛案例，以下案例也能說明歐盟 AI 法案的市場監督和執法機制：
● 金融市場的 AI 交易系統： 若此類系統被發現存在操控市場或內線交易等違規行為，市場監督機構有權進行調查，並對相關企業處以罰款。
● 社交媒體的 AI 內容審核系統： 若此類系統被發現存在歧視性或侵犯言論自由的行為，相關機構可要求系統開發者進行調整，並確保其符合法案的要求。
● 公共場所的 AI 監控系統： 若此類系統被發現存在侵犯隱私權的行為，例如未經同意收集或使用個人資料，市場監督機構可要求系統部署者停止使用，並進行矯正改善。
小結
歐盟 AI 法案的市場監督和執法機制旨在確保 AI 系統的安全、可靠和合乎道德。通過嚴格的監管和執法措施，歐盟希望建立㇐個可信賴的 AI 生態系統，確保 AI 系統的合規性，保護公眾利益和基本權利，為 AI 技術的發展和應用創造良好的環境。
歐盟 AI 法案的實施將對全球 AI 產業產生深遠影響。通過建立嚴格的市場監督和執法機制，歐盟為 AI 產業的發展和應用樹立新的標杆，並為全球 AI 治理提供重要參考。
行動呼籲
● AI 企業應深入瞭解歐盟 AI 法案的市場監督和執法要求，並建立完善的合規體系。
● 開發者和部署者應積極配合市場監督機構的調查，並主動採取措施解決違規問題。
● 使用者和受影響者應積極行使自身的權利，並勇於向市場監督機構舉報違規行為。
