川普日前與AI巨頭簽《超級智慧協議》，並形容其「幾乎像一部憲法」。但其實，雖然設下四層AI安全稽核，卻不具法律強制力；另外，川普也考慮成立10人委員會監督AI安全。外界質疑，企業自律能否有效防堵AI風險。
美國總統川普（Donald Trump）日前在白宮召集輝達（NVIDIA）執行長黃仁勳、SpaceX AI創辦人馬斯克（Elon Musk）、Anthropic執行長阿莫戴（Dario Amodei）、OpenAI總裁布羅克曼（Greg Brockman）、Meta執行長祖克伯（Mark Zuckerberg）、Google執行長皮采（Sundar Pichai）等科技巨頭高層，共同討論人工智慧（AI）未來發展。
此外，川普與這些科技公司高層也簽署《白宮超級智慧協議》（White House Accord on Super Intelligence），這份不具法律約束力的自願協議，要求企業建立AI安全內控、外部稽核及董事會監督機制，川普形容其「幾乎像一部憲法」。同日，川普另簽署行政命令，要求聯邦政府以「超級智慧」（super intelligence）取代AI一詞，並指示總統科學技術助理（APST）提出「超級智慧」的聯邦定義。
延伸閱讀：AI狂飆恐在12個月內失控？呼應阿莫戴示警，馬斯克、奧特曼也支持放慢發展
四層稽核把關AI安全，卻不具法律效力
這份協議，涵蓋企業自願同意的四層監管稽核措施。
首先，企業必須建立強而有力的內部控制，監控AI模型在網路安全、生物安全、化學威脅等領域的能力與一致性，並確保模型不會以非預期方式入侵或存取技術系統。其次，由內部團隊持續監控系統，發現問題時及時修正。第三，須由獨立外部稽核員或評估人員，評估相關控制、監控、偵測機制是否正常運作。最後，公司應成立董事會獨立委員會，接收內部團隊及外部評估人員的報告，並據此採取必要的糾正措施。
延伸閱讀：世界模型是AI股新秀？AMD收購李飛飛World Labs原因
值得注意的是，這份協議不具法律強制力，核心在於企業自律，而非由政府另行制訂具約束力的新規範。
川普稱AI協議像憲法，擬設10人委員會
川普表示，科技業高層已同意制訂AI安全標準，更形容這份協議「幾乎像一部憲法」，「是一種保護措施。」面對日益升高的AI安全疑慮，川普透露正考慮成立10人委員會監督AI工具安全，但尚未公布成員組成。
美國政府目前正面臨AI快速發展與潛在風險的雙重壓力，也凸顯川普政府與科技業領袖逐漸形成的聯盟。川普重申自己支持資料中心快速擴張，但AI資料中心因龐大的用電需求、公用事業成本及地方環境影響，在全美引發反對聲浪，成為共和黨（Republican Party）迎戰11月期中選舉的政治挑戰。
延伸閱讀：AI變期中選舉票房毒藥？川普挺資料中心，77％美國人卻怕電價漲
川普則強調，資料中心將為地方社區帶來可觀的經濟效益，「這些規模龐大、實力雄厚、財力雄厚、極度聰明的公司，將為社區做出巨大貢獻。」
AI安全有共識？黃仁勳、祖克伯、阿莫戴表態
黃仁勳表示：「創新、科技、安全之間並不存在衝突，我們必須創造新技術，提升AI的能力。然而，與此同時，我們也正開發新的技術，提升AI的安全。如今，這些技術都正由業界共同開發。你可以看到，我身後站著我們這個產業中如此多的領袖，大家正團結一致、朝著同一個方向前進。」
祖克伯表示，各家公司已同意為AI系統建立健全的內部控制機制，並由獨立審計人員檢查相關程序、向公司董事會報告。他將這份協議定位為產業的「起點」:「我們的想法，並不是說這是唯一要做的事情，而是說這是一個開始，也是整個產業可以達成的協議。」
阿莫戴長期關注AI風險，並表示：「但我認為，這項技術確實存在非常真實的風險。至於我們該如何因應這些風險，目前仍在討論中。然而，我們都必須共同努力，齊心協力，確保我們能取得成功，並能安全取得成功。」
阿莫戴上月發表長文《我們必須調整前沿AI發展的步調》（We Must Pace the Frontier），呼籲AI業者放慢模型能力提升的速度，並坦言人類可能失去對AI的控制。他表示：「鑑於AI能力發展速度加快，我擔心6至12個月內，這樣一群AI可能會控制整個網際網路，造成數千億美元的損失。」
AI安全靠企業自律，外界憂監管不足
美國非營利組織「監控科技監督計畫」（Surveillance Technology Oversight Project）執行董事哈沃思（Sacha Haworth）表示，該協議允許各公司執行長「自行評判計畫成果，並規避真正有效的AI安全防護措施」。
美國獨立智庫「法律與人工智慧研究所」（Institute for Law & AI）美國法律與政策總經理阿諾德（Mackenzie Arnold）表示：「這項措施在『氛圍層次』的意義最為重大，它並未賦予任何政府機構實際權力……去制訂真正具有約束力的標準。」
然而，一些AI公司已經警告，加強安全合作可能讓它們面臨反壟斷訴訟，這可能會阻礙進一步的發展。 阿諾德表示：「外界確實有很多擔憂。」但他也補充，建立這類互惠協議可能有用，因為這或許能促使企業採取更多行動。
