AI教父:它將學會操控人類、並成普丁打仗神器

邱祐慶
user

邱祐慶

2023-05-03

瀏覽數

AI教父辛頓(Geoffrey Hinton)。達志影像
AI教父辛頓(Geoffrey Hinton)。達志影像

喜歡這篇文章嗎 ?

登入 後立即收藏 !
00:00
00:00

有「AI教父」之稱的辛頓(Geoffrey Hinton),最近離開了待了10年的Google,並指出AI聊天機器人的風險將會「非常可怕」,他甚至擔憂地說,俄國總統普丁會拿AI機器人來贏得俄烏戰爭。

「我只是一名突然意識到這些東西(AI聊天機器人)會變得比我們人類聰明的科學家,我想當個吹哨者,我們必須仔細地思考如何不讓AI反過來控制我們,」辛頓於5月2日接受《CNN》的專訪時,語重心長地呼籲外界正視AI帶來的風險。

辛頓在神經網絡的創新研發為現今的AI大語言模型應用如ChatGPT等打下基礎,但在受訪的前一天離開待了10年的Google,又發表如此言論,引發外界熱議。

1972年時,辛頓還是一名英國愛丁堡大學的研究生,接受了「神經網絡」的構想,神經網絡是一個透過分析數據來學習技能的數學系統,當時很少專家採信這個說法,但日後卻成了辛頓畢生的研究主軸。

1980年代,辛頓成為了美國卡內基梅隆大學的電腦科學教授,但因不願接受美國國防部的資助而前往加拿大。

2012年,辛頓和兩名學生建立了一個神經網絡,可以分析數千張照片並辨識生活中常見的物體,如:花、狗或汽車,這也為日後AI聊天機器人打下基礎,而辛頓的一名學生蘇茨克維(Ilya Sutskever)也成了開發ChatGPT的OpenAI的首席科學家。

辛頓:AI會避開人類的限制,甚至操控人類

同時,辛頓在《紐約時報》的採訪時提到,他擔憂AI將會消滅許多工作,並創造出一個「無法得知什麼才是真實」的世界,他還指出AI的快速發展已經超乎他的預期。

「如果它變得比我們人類聰明,它就會擅長操控,因為它會從我們人類學習,」辛頓說:「AI會知道如何編碼指令,它會設法躲過人類的限制,甚至操控人們去做AI自己想做的事。」

【訂戶限定活動】4月《遠見》空中沙龍邀請《贏在表達》作者胡中中與你一同分享《表達力,才是未來最被低估的競爭力》

而辛頓接受《麻省理工科技評論》的訪問時則表示,俄國總統普丁(Vladimir Putin)和美國共和黨2024總統大選的熱門人選迪尚特( Ron DeSantis ),可能會拿AI來做壞事,「這兩位可能利用AI來打贏戰爭和操控選民。」

或許這並非空穴來風。根據俄國媒體《RT》的報導,普丁2017年在一場與學生的演講中提到AI的重要性,他說:「誰能成為這個領域的佼佼者,誰就能統治世界。」

AI治理有方 新北市打造智慧城市資安新典範
數位專題

AI治理有方 新北市打造智慧城市資安新典範

洞察趨勢的新北市政府,以超前部署、積極布局的策略,致力打造宜居、創新的智慧城市,聚焦「基礎建設」、「關鍵技術」、「智慧應用」三大面向,新北市已同步展現具體成果,體現地方政府的前瞻思維與執行力。

請往下繼續閱讀

登入網站會員

享受更多個人化的會員服務