訂閱
快速註冊 已是會員,立即登入

為您推薦

會員權益

歐盟AI法案通過只是第一步,制定標準與共通規範是關鍵

張凱鑫
user

張凱鑫

黃國寶(KP Huang)
user

黃國寶(KP Huang)

2025-01-08

瀏覽數 550+

為了在人工智慧迅速發展中,確保其安全、可且尊重基本權利,歐盟AI法案因應而生。Photo by Carl Gruner on Unsplash
為了在人工智慧迅速發展中,確保其安全、可且尊重基本權利,歐盟AI法案因應而生。Photo by Carl Gruner on Unsplash
00:00
00:00

為了在人工智慧迅速發展中,確保其安全、可且尊重基本權利,歐盟AI法案因應而生。其中,標準和共通規範提供具體的技術和程序指引,協助開發者和部署者落實法案的目標,在AI法案中扮演關鍵角色。這將如何制定?又將對AI產業帶來什麼影響?

歐盟 AI 法案採取基於風險的監管方法,將 AI 系統分為不同風險等級,並針對高風險 AI 系統制訂更嚴格的義務和要求。制訂標準和共通規範之目的在於促進人工智慧領域的投資和創新,並同時提高法律的確定性,增強歐盟市場的競爭力。標準和共通規範有助於明確這些義務和要求的具體內容,為開發者和部署者提供可遵循的操作指南,並促進 AI 技術的發展和應用符合道德和法律規範。

標準和共通規範 

歐盟 AI 法案中關於標準和共通規範的主要規定如下:

1. 制訂機構:

・標準的制訂: 歐盟委員會將委託歐洲標準化組織 (ESO),例如歐洲標準化委員會 (CEN) 和歐洲電工標準化委員會 (CENELEC),制訂與 AI 系統相關的調合標準 (harmonised standards)。這些標準將涵蓋 AI 系統的設計、開發、測試、驗證、部署和使用等各個環節,以確保其符合 AI 法案的要求。

・共通規範的制訂: 歐盟委員會可以制訂「共通規範」(common specifications),作為滿足 AI 法案特定要求的技術規範。共通規範與標準具有同等法律效力,開發者和部署者可以選擇遵循其中一種或同時遵循兩種規範。(article 2)

2. 標準和共通規範的應用:開發者和部署者可以依據標準和共通規範證明其 AI 系統符合 AI 法案的要求。符合歐盟調合標準的 AI 系統將被推定符合 AI 法案的相關義務。

如果高風險人工智慧系統符合相關的調合標準,則可以推定該系統符合法案的要求。採用調合標準可以簡化合規流程,並讓AI提供者更容易證明其系統的合規性。

如果AI提供者沒有完全符合調合標準,則必須通過其他方式證明其系統符合法案要求。這可能需要額外的測試和評估。

如果調合標準存在限制、不適用或不完整,AI提供者也則必須通過其他方式證明其系統符合法案要求

3. 標準和共通規範的更新:歐盟委員會將定期更新標準和共通規範,以反映 AI 技術的最新發展和應用。

4. 行為準則(Codes of conduct)除標準外,法案鼓勵制訂自願性的行為準則,以適用於非高風險的AI系統,並促進能源效率高的AI設計、訓練和使用。這些行為準則也是一種標準的形式,可以幫助業者更好地理解和應用法案的原則。(article 95)

案例分析

除先前討論過的案例,關於標準和共通規範的規定,將對多個產業產生深遠的影響,以下列出一些可能適用的產業案例和應用情境(但不僅限於此),這些標準的制訂者和參與制訂者,將有機會成為改變遊戲規則的人。

醫療保健產業

遠見 39 週年,感謝你的陪伴>>訂兩年雜誌再送一年

診斷輔助系統:使用AI分析醫學影像(如X光片、MRI)的系統,用於協助醫生診斷疾病。這些系統屬於高風險AI,需要符合相關醫療領域專業標準,確保診斷的準確性和可靠性。以及配合共通規範,將規定AI系統如何處理病患數據、如何進行影像分析,以及如何呈現診斷結果。這些規範有助於確保醫療AI系統的安全性、準確性和公平性。

藥物開發:AI用於加速藥物開發過程的應用。這些AI系統可能需要符合特定的數據品質和模型驗證等醫藥領域專業標準。共通規範則可定義訓練數據的格式、驗證方法的嚴格性,以確保藥物開發過程中的AI系統的可靠性。

手術機器人:AI驅動的手術機器人,由於直接影響患者安全,屬於高風險AI,必須符合嚴格的既有或新訂的外科醫療作業標準,包括安全性和可靠性的測試標準。

使用AI分析醫學影像(如X光片、MRI)的系統,屬於高風險AI。(僅為情境示意)取自Pexels

使用AI分析醫學影像(如X光片、MRI)的系統,屬於高風險AI。(僅為情境示意)取自Pexels

金融服務產業

信用評分系統:AI用於評估個人信用風險的系統,這些系統的運作方式必須透明且無偏見。除了既有或新擬定的金融管理授信等專業標準外,共通標準可能包含如何處理個人財務數據、如何避免歧視性偏見,以及如何解釋信用評分結果。

高頻交易系統:AI驅動的高頻交易系統,若出現故障可能導致市場動盪,屬於高風險AI,需要符合特定金融管理、證券交易專業標準所要求的風險控管和安全標準。

反洗錢系統:AI用於偵測洗錢活動的系統。除金融領域特定標準,這些系統也需要符合特定的數據處理和隱私標準之共通規範。

行動呼籲

AI 開發者和企業應積極參與標準和共通規範的制訂過程,分享其專業知識和經驗,確保標準和規範的實用性和可操作性。

台灣主管機關可參考歐盟做法,積極推廣或與國際接軌此類標準和共通規範的應用,提供必要的資源和支持,協助開發者和企業落實 AI 法案的要求。

研究機構和學術界應積極研究 AI 技術的標準化和規範化問題,為 AI 法案的實施和完善提供理論和技術支持。

小結 

歐盟 AI 法案中的標準與共通規範作為其核心組成部分,不僅為 AI 產業的發展與應用提供清晰的技術與程序指引,還在降低潛在風險的同時,推動 AI 技術的負責任創新與應用。透過這些標準的實施,開發者與使用者能確保其 AI 系統符合法案要求,從而構建出一個安全、可靠且值得信賴的 AI 生態系統。歐盟通過積極推廣這些規範的應用,不僅為 AI 技術的可持續發展奠定基礎,更將進一步促進社會福祉,展現出對人類社會負責任的技術願景。

你可能也喜歡

AI教父黃仁勳的創業領導成功之道
數位專題

AI教父黃仁勳的創業領導成功之道

AI晶片巨頭輝達(NVIDIA)執行長黃仁勳勢不可擋!1993年創立輝達以來,公司市值近來創下歷史新高,黃仁勳身價更是破千億美元榮登全球前15大富豪。隨著Computex 2024登場,他帶來的A

請往下繼續閱讀

登入網站會員

享受更多個人化的會員服務