OpenAI是全球頂尖AI科技公司，如果連它都管不住自行開發的AI，那簡直是大災難！沒想到，這件事竟然成真，日前OpenAI對外承認，自己設計的AI為完成任務，意外入侵一家知名企業的系統，堪稱前所未見的網路事件，令資安界震驚不已，到底會對個人、企業，乃至於國家帶來什麼衝擊？
其實，AI並非想「犯罪」，只是按照人類下的指令，達成目標。倘若使用的工具、上網權限與安全限制不夠嚴格時，它會自行找出開發者未預料、也不希望採取的方法來完成任務。
這並非假設，7月21日，OpenAI已對外坦承，這件事真的發生了。
起因於7月16日，全球最大的開源AI社群平台Hugging Face主動揭露，內部系統遭入侵。當時，他們研判這次攻擊不尋常，整個過程從頭到尾都由自主AI代理系統驅動，而非人類駭客所操作。
最後，真相大白。原來是OpenAI在評估旗下AI模型的網路攻防能力時，將模型置於沙盒測試，以觀察它們能否發現並利用資安漏洞。當時，工程師為便於測試，AI受到的防護限制較低。
豈料，AI模型為拿下高分，竟自主連網並尋找第三方軟體漏洞；隨後利用外洩的登入憑證，一路闖入AI模型社群Hugging Face的資料庫，竊取了ExploitGym評測的測試答案。
OpenAI緊急於21日對外說明，模型為完成任務，採取超出人類預期的手段，甚至找到可在評估中「作弊」的資訊。「自作主張」入侵Hugging Face的系統，這次涉及的模型包括新推出的GPT－5.6Sol，以及一款未公開、能力更強的模型。堪稱是「前所未見的網路事件」。
沒有資安配套，AI失控是遲早的事
多數民眾對這則新聞無感，但對資安界而言，卻非同小可。今年以來已陸續發生諸多令人擔憂的前沿模型亂象。奧義賽博集團執行長吳明蔚打了個比喻說，這就像老師將AI關進教室考試，以便測試其學習成果。桌上擺著考卷，鎖好門後，只交代一句：想辦法拿滿分吧！
10分鐘後，老師發現它撬開門鎖，跑到辦公室找出試卷的答案，還順手入侵學校的系統，下載其他科目的考卷。
AI的考卷答題，挑不出任何錯誤，也不能罵它「作弊」，它為完成「想辦法拿滿分」的指令，用盡一切辦法，排除所有防火牆、門鎖等障礙，以找到正確答案。
當時，OpenAI就是將模型關進隔離的沙盒，刻意拔掉護欄，測試其攻擊能力。結果模型找到連原廠都不知道的系統漏洞（資安界稱為零日漏洞），突破隔離、連網，將自己的權限不斷提升，從一台機器移到另一台設備，再將竊取的帳號密碼與漏洞串起來，一路打進Hugging Face的主機，完成「前所未有」的自主網路攻擊。因為AI判斷答案可能就藏在那裡，就破門去拿了。
吳明蔚指出，Hugging Face想用美國前沿模型分析攻擊資料，模型因設有安全護欄，分不清「防守方」與「攻擊者」而拒絕協助分析，最後被迫改用中國的開源模型（GLM-5.2）才完成鑑識工作。
連OpenAI都管不住自己的AI了，更何況是一般使用者。「在我看來，沒有資安配套，AI失控是遲早的事。」吳明蔚根據多年的第一線觀察說，對個人、企業、國家都會帶來衝擊。
國家、企業最好能建立自己的「主權AI」
在數位時代，人人都想藉助AI賦能，但如不謹慎，也很容易暴露個資。多數人輕忽使用AI的後遺症，從未想過餵給AI各種照片與訊息文件，到底都放在哪裡？這些多半躺在雲端的聊天紀錄裡。駭客不用攻破AI，只要拿到使用者的帳密登入，所有個資全部被看光光。
吳明蔚會刻意將敏感資訊如財務、醫療、身分與一般用途分開，不會全用同一個AI工具。「畢竟我們並非製造大語言模型的人，但我們可以決定要交給誰？交出去多少？要留多久，這是我們唯一能決定的事。」
「選擇AI模型時，不要只看價錢以及好不好用，而是要看這家公司能否善盡社會責任，敢不敢揭露資安事件的細節。這一次，OpenAI很誠實，願意對外公布。」吳明蔚建議，「選擇發生問題會蓋牌的公司，比出事願意揭露的公司更危險」。
對企業來說，數位轉型最大的通病是，將所有資料一次上雲端、一次上AI模型，然後沒有留後路。此時，駭客很容易就能準備一批你所用AI感興趣的資料，裡面夾帶惡意指令，只要你的AI去讀取就會被「接管」，變成駭客在公司的內鬼。
吳明蔚建議業者，雞蛋不要放在同一個籃子裡。使用AI服務時，要用管理雲端服務的思維去管它，因為AI可能會斷線、被駭，事先要規劃好備援機制；另外，ChatGPT等通用型AI為了安全，遇到攻防、駭客相關問題時，並不會幫忙防守，所以企業需要的是，一套專門為防禦打造、關鍵時刻不會臨陣退縮，而且自己管得動、關得掉的資安AI軟體。
簡而言之，一般任務交給通用型AI處理；但核心的攻防或公司的機密資料，最好交給「主權AI」。主權AI就是國家或企業擁有自主控制、開發與部署AI技術的能力。
AI模型安全措施與資安防護須同步升級
但棘手的是，多數國家都採用科技巨擘如OpenAI、Google等AI系統，相當於將政府運作的腦袋交給別人管理。主權AI就是要拿回AI的主導權，避免在技術、資料與文化上被外國「數位殖民」。
當AI可以自己找漏洞、再將漏洞串起來發動攻擊，就形同網路武器了。「我認為主權AI已經不是選配，是國家興亡的標配。」吳明蔚提醒，當一個政府全部都採用別人的模型時，在最關鍵的時刻，就只能賭「它到底會聽誰的話」。
但並非每個國家都能做出OpenAI等級的模型，如何是好？吳明蔚建議，「只能打不對稱作戰。」畢竟我們不是要做最大模型，而是管得住的主權模型，擁有鑑識能力以及「一鍵關掉的開關」（Kill Switch）。政府至少得為關鍵基礎設施留一套國家級的主權AI方案，不能將命脈押在會拒絕、會被斷線的外國模型上。
另外，AI監理也至關重要。美國已推出「政府可下令關閉失控模型」「上市前強制第三方安全稽核」等政策，台灣也應建立審查與緊急關閉機制，甚至將第一線的威脅情資，轉變成別人沒有的「不對稱」優勢，訓練出以台灣為視角的主權AI模型。
OpenAI也在事發後表示，會將初步調查結果提供給資安人員參考，旨在讓外界了解現階段模型已具備哪些能力。而隨著AI快速進步，模型安全措施與企業資安防護也須同步升級。
吳明蔚強調，AI不會等你準備好再來攻擊。我們唯一能做的，就是要清楚知道資料在誰手上？開關在誰手上？還有哪些AI模型公司較值得信任？否則AI都有可能為達到任務，做出超乎想像的事情。
