隨著人工智慧（AI）技術日益融入我們的生活，確保 AI 系統的安全和可靠性至關重要。歐盟 AI 法案（EU AI Act）不僅規範 AI 系統的開發和部署，還明確界定與AI系統相關的產品責任和補救措施，以保障使用者和受影響者的權益。本文將深入探討歐盟 AI 法案中關於產品責任和補救措施的規定，並探討其對 AI 產業的影響。
歐盟 AI 法案將 AI 系統依風險程度分類，涉及人命安全的產品，諸如 CEMarking 安全規範的醫療器材、自駕車、電機機械、電梯、個人安全用具等，高風險 AI 系統需符合嚴格的義務和要求，台灣出口產值以資訊通訊產業占比超過 60%，必然涉及相關的產品。一旦這些高風險 AI 系統之產品造成損害，法案提供㇐套追究責任和尋求補救的機制，強調 AI 系統的供應商、部署者和其他相關方在確保 AI 系統安全性和合規性方面承擔主要責任，以保障受影響者的權益。
產品責任和補救措施
法案針對高風險 AI 系統制定一系列嚴格的要求，涵蓋風險管理、資料品質、技術文件、人為監督、準確性、穩健性和網路安全等方面。這些要求旨在最大程度地降低高風險 AI 系統可能造成的危害。如果高風險 AI 系統造成損害，未能遵守這些要求的供應商或部署者可能會承擔法律責任。以下就不同角色的在產品責任和補救措施方面的主要規定如下：
1. 供應商責任及義務：高風險 AI 系統的供應商負有主要責任，包括確保其高風險 AI 系統符合法案要求、建立品質管理系統、保存文件、進行上市後監控、採取必要的糾正措施，並配合主管機關的調查，並對因系統缺陷造成的損害承擔責任。
2. 部署者責任及義務：部署者也需承擔一定的責任，例如在使用高風險 AI系統之前進行基本權利影響評估、確保人為監督、監控系統運作，並向供應商報告任何嚴重事件。也在確保 AI 系統被負責任地使用，並在出現問題時可以追溯責任。（Article 26, 27）
3. 嚴重事故通報：若發生與 AI 系統相關的嚴重事故，供應商和部署者都需立即通報相關機構。
4. 市場監督和執法：歐盟各國的市場監督機構負責監督 AI 系統的合規性，並有權採取措施，例如調查、要求供應商提供資訊、採取糾正措施、要求供應商召回或停用不符合規定的系統，市場監督機構根據違規行為的嚴重程度、對社會造成的潛在危害以及供應商的配合程度等因素，來決定是否採取制裁措施以及制裁的力度。（Article 74）
5. 申訴權：任何自然人或法人，若認為自身權益受到 AI 系統侵害，皆有權向市場監督機構提出申訴。
6. 解釋權：受高風險 AI 系統決策影響的個人，有權要求部署者提供決策過程和主要依據的清晰且有意義的解釋。
7. 補救措施：歐盟 AI 法案提供多種補救措施，例如要求供應商修復缺陷、賠償損失、或停止使用相關 AI 系統。
案例分析
以下是一些案例，說明歐盟 AI 法案如何保障使用者和受影響者的權益：
• 金融風險評估系統：若此類系統因演算法缺陷導致錯誤評估，造成使用者貸款被拒絕或信用評級下降，使用者可根據歐盟 AI 法案要求系統供應商提供解釋，並依法追究其責任。
• 智慧農業系統：若此類系統因故障導致農作物損失，農民可要求系統供應商賠償損失，並要求相關機構監督系統的安全性。
• 客服聊天機器人：若此類系統因設計缺陷導致提供錯誤資訊或服務，造成使用者損失，使用者可向系統開發者或部署者提出申訴，並要求採取補救措施。
總結
歐盟 AI 法案並未取代現有的產品責任法規，例如歐盟產品責任指令（CouncilDirective 85/374/EEC）。因此，如果 AI 系統造成損害，受害者可以依據現有的產品責任法規尋求補救。但歐盟 AI 法案透過強化供應商和部署者的義務、加強市場監督和執法，以及賦予個人申訴權和解釋權，來強化產品責任和補救措施。歐盟 AI 法案為 AI 產品責任和補救措施建立清晰的框架，旨在確保 AI 系統的安全、可靠和可信賴。需要注意的是，歐盟 AI 法案是一個複雜的法規，實際執行可能存在差異。對於特定情況的法律建議，請諮詢專業的法律人士。
行動呼籲
• AI 產業應深入瞭解歐盟 AI 法案中關於產品責任和補救措施的規定，並採取措施確保合規及必要保險等措施。
• 開發者應在設計和開發 AI 系統時，充分考慮潛在風險，並採取措施降低風險。
• 供應商、部署商應確保正確使用 AI 系統，並建立有效的監控、通報、追溯和管理機制。
• 使用者和受影響者應瞭解自身的權益，並積極行使申訴和解釋權。
