Facebook Pixel
訂閱
快速註冊 已是會員,立即登入

為您推薦

會員權益

生成式AI,讓深偽與假資訊難防?Google高階主管:有解方

曾子軒
user

曾子軒

2024-10-08

瀏覽數 9,800+

Google安全工程副總裁希瑟(Heather Adkins)曾經描述,她的工作「就是確保駭客無法入侵。」曾子軒攝
Google安全工程副總裁希瑟(Heather Adkins)曾經描述,她的工作「就是確保駭客無法入侵。」曾子軒攝
00:00
00:00

曾站在網路安全戰場最前線,親身應對中國大陸駭客的攻擊,回想起15年前的那一天,Google安全工程副總裁希瑟還記得當天的興奮與緊張。15年過去,ChatGPT帶起生成式AI風潮、大語言模型技術進展太快,讓包括歷史學家哈拉瑞、特斯拉創辦人馬斯克等人都公開憂心過AI帶來新威脅。但希瑟老神在在地說,這些都是之前應對過的老問題。為何網路搜尋霸主對此議題老神在在?

在《紐約時報》記者妮可(Nicole Perlroth)2021年出版、以資安和網路攻擊為題的專著《零時差攻擊:一秒癱瘓世界》中,將烏克蘭描述為「俄羅斯的數位武器試驗場」。當時烏俄兩方尚未交戰,但烏克蘭早就日夜承受俄羅斯的網路攻擊。

烏克蘭和俄羅斯以外,台灣海峽同樣是地緣政治的熱區。奧義智慧創辦人邱明彰先前受訪時就曾表示,資安具有強烈區域衝突的性質,「台灣有九成都是遭到中國大陸的攻擊。」

若要找人討論網路攻擊議題,恐怕沒有比Google安全團隊創辦人、安全工程副總裁希瑟(Heather Adkins)更合適的人選。因為,她曾帶領各式小組迎戰駭客站在最前線。

一場攻擊改變一切

「對於Google來說,這場攻擊改變了一切。」回想起Google當年所遭受的攻擊,她仍記憶猶新。

希瑟口中的事件,指的是2009年源於中國,針對Google、Intel和Adobe以及其他大型企業所發動的「極光行動」(Operation Aurora)。這場攻擊的開頭很不起眼,中國駭客駭入Google內部網路後,以釣魚訊息和連結成功引誘Google員工,接著便長驅直入、大開後門。

「極光行動」的開展過程,被收錄於Google官方推出的紀錄片《Hacking Google》之中,妮可也在《零時差攻擊:一秒癱瘓世界》以整整一個章節介紹。因為,「極光行動」的意義不僅止於攻擊帶來的損失。它象徵著傾國家之力攻擊民營企業,以及背後令人恐懼的惡意-Google發現,駭客軍團翻找Gmail,最終目標就是想要獵取異議者的資料。

從公司角度來看,這場攻擊讓Google意識到自己的對手有多麽龐大,因此大幅投資在提升應對大規模、高強度的攻擊上;對希瑟個人來說更是意義深遠。看到駭客追尋社運參與者的帳戶,「我變得更加意識到科技與人權之間的聯繫,」Gmail不只是用來通信或者娛樂而已。

影/Google在紀錄片《Hacking Google》中回顧「極光行動」始末。

調查「極光行動」發生歷程、攻擊者和意圖後,Google對外公開資訊,引發中國政府回擊,進一步影響Google後續退出中國的決定。

不過,「極光行動」只是更大問題的開端。希瑟解釋,有許多國家都以政府之力進行網路攻擊,「所以,我不再將它們視為事件,而更像是一場長期的行動,這種行動可能持續十年,甚至永不停止。這正是政府使用這種工具的方式。」

不只是政府發起的攻擊,希瑟觀察,過去兩年看到全球的攻擊事件的數量和複雜度都在大幅增加,背後原因包含地緣政治帶來的網路戰爭,以及網路近用性提升後出現更多攻擊目標,還有攻擊發起者打造出商業化進攻軟體,扮演軍火商角色,擴展攻擊範圍。

事實上,台灣也是相關攻擊的重災區。

在「極光行動」中,Google找來外部資安情資公司Mandiant Intelligence合作,後來更將其收購。Google Cloud Mandiant Intelligence副總裁珊德拉(Sandra Joyce)接受《遠見》專訪時,就曾指出仍能看到親中(pro-PRC)駭客組織鎖定台灣執行資訊操作(information operation)任務。

另外,也有駭客分別朝台灣的金融證券業和半導體供應鏈發起攻擊,部分帶有政治意圖,部分則有著商業考量。

《紐約時報》記者妮可在談及「極光行動」的著作《零時差攻擊:一秒癱瘓世界》中,就曾採訪過希瑟、前Google董事長施密特(Eric Schmidt)與其他高階主管。曾子軒攝

《紐約時報》記者妮可在談及「極光行動」的著作《零時差攻擊:一秒癱瘓世界》中,就曾採訪過希瑟、前Google董事長施密特(Eric Schmidt)與其他高階主管。曾子軒攝

知識與美味同行,遠見請客西堤

大語言模型是軟體,能為惡也能行善 

近兩年生成式AI和大語言模型(Large Language Model)的蓬勃發展,也讓人擔心,技術演進是否將會催化網路戰爭。看在希瑟眼裡,會,也不會。

「大型語言模型只是軟體。我們已經有應對供應鏈安全的概念,同樣能適用於大型語言模型帶來的安全問題。」不管是提示注入(Prompt injection),還是從源頭污染資料,和過往的資安議題一樣,從防守角度觀察,都要確保程式碼、資料以及協作流程的完整性(integrity)。

希瑟以Google老本行搜尋為例,若有創作者發布有問題的內容,搜尋引擎的爬蟲可能會收錄(index)其中,Google團隊長期都在面臨相似的問題,「我們已有的技術也適用於這些情況。」

當然,生成式AI仍帶來真切的挑戰,例如難以判斷產品是否落入壞人之手,因為猜測使用者的意圖(intent)非常困難。希瑟表示,如果利用Gemini生成有人戴著生日帽的照片,看似無害且有趣,但可能被用在具有威脅意味的電子郵件中,很難從指令或者生成結果判斷使用者心中所想,使得防禦工作變得更加複雜。

生成式AI,讓深偽與假資訊難防?Google高階主管:有解方

帶領過團隊應對過大量資安事件,「It'll be fine. I've seen it all. Trust me.」是希瑟LinkedIn檔案的個人簡介。曾子軒攝

先前接受韓國媒體受訪時,希瑟曾指出Google正在應對深偽技術(deepfake)做出反制;台灣同樣關注深偽議題,先前就有網紅將政治人物與網紅的圖像合成到色情影片中藉此牟利,讓人感到憂心。

希瑟表示,技術進展讓深偽變得規模化、更可信,學界正以浮水印(watermarking)與來源驗證(source verification)等方式反擊。不過,她也補充,深偽不用生成式AI也能產出圖像,透過設計軟體就能後製圖像與影片,「我們需要提醒自己,早已在應對這個問題。」

除了投入資金研究解法以外,她認為資源也應挹注在教育之上,因為早在大語言模型問世前,社會就在應對假新聞和不實資訊,「我們需要幫助社會培養批判性思維,識別資訊的真偽。」

想起Star Trek,希望AI能夠成為橋梁

幸好,不是只有壞消息。生成式AI同樣能加速防禦者的生產效率,希瑟的團隊就嘗試利用生成式AI,協助閱讀系統中的遙測資料,幫忙分析師理解發生的事件。「它能夠預先撰寫報告,從中歸結並作出假設,再由分析師檢核是否正確,這可以將工作速度提高50%。」

希瑟樂觀表示,人工智慧已經逐步滲透至生活中。

以前,許多人家中都備有一台計算機,現在計算機已經嵌入在日常使用的應用程式裡面;大型語言模型也是如此,Google將其整合到Gmail、Google文件,在所有產品中開始運作。

希瑟分享,有許多開發者已經借助大型語言模型的力量查找系統中的漏洞。曾子軒攝

希瑟分享,有許多開發者已經借助大型語言模型的力量查找系統中的漏洞。曾子軒攝

她也感性地說,即便自己不會說中文,有AI驅動的工具幫忙,大幅減少接觸異國文化時的阻礙。在她眼中,技術能夠幫助人們建立關係,減少彼此之間的恐懼,而恐懼往往是世界上所有衝突的根源。

「我總是回想起《Star Trek》,⋯⋯他們經常遇到外星人,對方看起來在大聲咆哮,但其實外星人是在傳達和平與友誼。」在地球人的認知裡,總把咆哮看作威脅,因而產生誤解。

如果利用AI幫助人們跨越認知分歧,在她心裡再好不過了。

延伸閱讀

AI教父黃仁勳的創業領導成功之道
數位專題

AI教父黃仁勳的創業領導成功之道

AI晶片巨頭輝達(NVIDIA)執行長黃仁勳勢不可擋!1993年創立輝達以來,公司市值近來創下歷史新高,黃仁勳身價更是破千億美元榮登全球前15大富豪。隨著Computex 2024登場,他帶來的A

請往下繼續閱讀

登入網站會員

享受更多個人化的會員服務