頂尖AI新創Anthropic近期因自家研發的資安模型Claude Mythos能力過於強大而暫緩釋出,引發外界疑慮。這究竟是過度謹慎,還是AI資安危機正式浮上檯面警訊?
5月中的台北,南港展覽館裡冷氣開到最強,讓參加資安大會的聽眾不得不披上外套。只不過,台上的講者講到激動處,雙頰卻已經發紅。
他們的出發點截然不同,有人談基礎設施,有人談雲端,有人談政府治理。議題看似毫無交集,話鋒卻總會在某個時刻驟然一轉,提起4月底,在資安圈悄然引爆的新模型。
「某些開源軟體自設計之初就存在漏洞,人類技術人員找了20多年都沒發現,前沿AI模型卻在短短幾秒鐘內就抓出來了。如果我用它去攻擊你的系統,你還能多安全?」美國上市資安大廠Palo Alto Network亞太區政策與政府事務副總裁奎因(Nicole Quinn),向滿座的資安主管與工程師示警。
奎因說的模型,就是當今全球最受關注的AI新創Anthropic,推出的Claude Mythos。
究竟,Mythos何以能夠掀起軒然大波?