編按：AI自主行動引發全球安全疑慮，川普、黃仁勳與教宗良十四世，對AI風險各有不同立場。台灣身為半導體與AI基礎建設重鎮，除了掌握AI商機，更該如何推動AI安全規範，打造可信任的AI基礎設施？
最近世界上四組最有權勢的人，不約而同對於AI是否會對人類造成危險甚至滅亡，表達了強烈的個人意見。
AI失控疑慮升高
首先，是全球的AI大語言模型，包括Anthropic創辦人，以及他的競爭對手OpenAI和馬斯克，都表達應該放緩AI發展的腳步。由於AI一再失控，目前出現了一些安全上的疑慮。
其次，是全世界最有權勢的人美國總統川普，他認為，AI是中美競爭最關鍵的武器，一旦放慢腳步，美國就會輸給中國，因此怎麼樣也不願意放慢AI發展的速度。
第三，是全世界最有權勢的企業家，市值高達5兆美元的輝達創辦人黃仁勳，他認為這只是資安技術問題，完全不同意放緩AI發展的速度。
第四，是全世界最具有宗教影響力的領袖，天主教教宗良十四世，他公開批評輝達執行長黃仁勳淡化AI風險，並呼籲各界嚴肅看待AI對人類構成的威脅。
客觀地說，目前放慢AI發展速度，的確有其必要性，因為近期OpenAI已駭入美國、澳洲政府網站。其AI代理人甚至在德國公共Wiki建立了自己的留言板，基本上屬於沒有人類授權的失控行動。我們可以想像，未來美國AI不管什麼理由，駭進俄國或中國政府網站，是否會被認為是侵略行為，甚至引發世界大戰？這種電影中才有的情節，現在變得無比真實。
目前還沒有可靠證據，顯示這些AI是突然產生惡意、自己決定攻擊政府。但真正令人擔心的是，AI已經開始具有目標導向的能力，遇到阻礙時會自己尋找替代路徑，把資安防護當成障礙繞過。
台灣也要制定規則
台灣是全世界半導體及AI基礎建設生產的主要來源地，跟輝達及所有AI大咖都有一定程度的關係。也由於AI，台灣今年GDP成長率預計超過11％，台股市值躍升為全球第四大。作為AI產業的重要參與者，台灣對於近期AI自主駭入真實世界的事件，不應置若罔聞，只管默默賺錢，至少應作為一個積極的議題推動者。
美國總統川普本週召集多位科技巨頭，宣布共同簽署一份號稱「AI憲法」的自願性協議，承諾加強風險審查、稽核及第三方評估。另外，輝達公布「Open Agent安全平台」，全球有100多家企業參與，包括中國及日本企業，但未見台灣企業。至於台灣，行政院於5月研擬首部「國家人工智慧發展綱領」，7月數發部依據《人工智慧基本法》正式發布「人工智慧風險分類框架」；未來在此基礎上，政府可以考慮把近期AI案例納入法規探討。
台灣政府及企業支持AI創新，未來隨著技術不斷進步，安全責任也會提高，台灣應把AI安全與半導體、AI伺服器優勢結合，發展「可信任AI基礎設施」。換言之，台灣不只製造AI，也需參與制定AI安全規則。
本文章反映作者意見，不代表《遠見》立場
（作者為台灣併購與私募股權協會創會理事長；轉載自中國時報，本文獲作者授權轉載）
