有「AI教父」之稱的辛頓(Geoffrey Hinton),最近離開了待了10年的Google,並指出AI聊天機器人的風險將會「非常可怕」,他甚至擔憂地說,俄國總統普丁會拿AI機器人來贏得俄烏戰爭。
「我只是一名突然意識到這些東西(AI聊天機器人)會變得比我們人類聰明的科學家,我想當個吹哨者,我們必須仔細地思考如何不讓AI反過來控制我們,」辛頓於5月2日接受《CNN》的專訪時,語重心長地呼籲外界正視AI帶來的風險。
辛頓在神經網絡的創新研發為現今的AI大語言模型應用如ChatGPT等打下基礎,但在受訪的前一天離開待了10年的Google,又發表如此言論,引發外界熱議。
1972年時,辛頓還是一名英國愛丁堡大學的研究生,接受了「神經網絡」的構想,神經網絡是一個透過分析數據來學習技能的數學系統,當時很少專家採信這個說法,但日後卻成了辛頓畢生的研究主軸。
1980年代,辛頓成為了美國卡內基梅隆大學的電腦科學教授,但因不願接受美國國防部的資助而前往加拿大。
2012年,辛頓和兩名學生建立了一個神經網絡,可以分析數千張照片並辨識生活中常見的物體,如:花、狗或汽車,這也為日後AI聊天機器人打下基礎,而辛頓的一名學生蘇茨克維(Ilya Sutskever)也成了開發ChatGPT的OpenAI的首席科學家。
辛頓:AI會避開人類的限制,甚至操控人類
同時,辛頓在《紐約時報》的採訪時提到,他擔憂AI將會消滅許多工作,並創造出一個「無法得知什麼才是真實」的世界,他還指出AI的快速發展已經超乎他的預期。
「如果它變得比我們人類聰明,它就會擅長操控,因為它會從我們人類學習,」辛頓說:「AI會知道如何編碼指令,它會設法躲過人類的限制,甚至操控人們去做AI自己想做的事。」
而辛頓接受《麻省理工科技評論》的訪問時則表示,俄國總統普丁(Vladimir Putin)和美國共和黨2024總統大選的熱門人選迪尚特( Ron DeSantis ),可能會拿AI來做壞事,「這兩位可能利用AI來打贏戰爭和操控選民。」
或許這並非空穴來風。根據俄國媒體《RT》的報導,普丁2017年在一場與學生的演講中提到AI的重要性,他說:「誰能成為這個領域的佼佼者,誰就能統治世界。」