在「人類三部曲」的基礎上,國際知名的歷史大師哈拉瑞,推出聚焦人工智慧的新作《連結》。他在書中的大師觀點相當呼應AI軍備競賽、民粹主義崛起等現代挑戰的著作,為人類社群指出科技的黑暗面,但也不乏抱持希望的警示。
當代關鍵公共知識分子哈拉瑞(Yuval Noah Harari)那恢弘而具興味的筆觸,在新書中聚焦於人類史上出現過「最強大的資訊技術」:人工智慧。
從泥板、印刷機,以致於電報及網際網路,綜觀過往,每一次資訊技術的重大突破,都促成了社會變革。愈臻緊密的資訊網路讓人類得以大規模合作,打造出複雜的現代文明。但倘若資訊網路不再受人類控制,將會如何?當代民主制度是否也將隨之崩解?
在天下文化出版新書《連結:從石器時代到 AI 紀元》(Nexus: A Brief History of Information Networks from the Stone Age to AI)中,哈拉瑞提出了一個戒慎的推測。「這並不是說歷史將畫下句點,」他寫道,「而是說:由人類來主導的部分即將終結。」
人類建構的「資訊網路」首度出現非人類行為者
「資訊」及其流動,一直是哈拉瑞關注的重點。他對資訊的定義要點在於建立人事物之間的各種連結,這形成了一張「資訊網路」,具有在被連結的主體之間創造出新的現實的能力。這可以是國族想像,也可以是宗教神話。
但這建構於資訊網路中的論述,並不一定符應於真理真相。哈拉瑞駁斥一種他稱之為「天真的資訊觀」:認為資訊愈多、流通愈自由,資訊網路就能愈發現、接近真相,使眾人受惠。
這近似於Google的使命,也是Facebook等諸多社群網路的運作價值觀。但哈拉瑞以印刷機不只印出推進科學革命的《天體運行論》,也印出促成大規模獵巫行動的《女巫之槌》為例,提醒讀者資訊技術不只具有正面意涵,也可以散播有誤的毒性資訊。若無人為篩選機制,無從保障真相能在資訊海洋中自然地勝出。
人為決策的角色逐漸淡化,是在《連結》中敲響警鐘的一項關鍵因素。
哈拉瑞指出,人工智慧是人類史上第一個能自行做決策與產生想法的科技,也是連結人類的資訊網路中,首次出現的非人類成員。這將對資訊網路及其支持的社會體系帶來重大變革。
不僅是人與人之間的連結出現電腦作為中介,還產生了全新的電腦與電腦之間的連結。從金融趨勢分析、罪犯行為預測,到銀行放貸及企業徵才,機器正在參與愈來愈多的社會決策,甚至是建構出「存在於電腦之間的現實」。人腦可能無法理解這些新的連結關係,那麼建立完善的人為篩選、除錯機制,也更加困難。
陷入危殆的民主機制,能否吸納AI科技為所用?
由於擁有更強韌的自我修正機制,哈拉瑞認為民主政體,是比較適合監管這樣的新電腦網路的政體。但使得大規模民主運作成為可能的資訊技術,如今似乎正在反噬健全民主對話的可能性。
哈拉瑞在書中未指明當代民主資訊網路趨向崩解的緣由。但從媒體訪談中,可見得他推測臉書、X這類社群媒體平台是對話破裂的導因之一。
他描述,人們無法在最基本的事實上達成共識,無法傾聽對方。即使在生活品質良好的國家,人們也被仇恨與憤怒籠罩。
在接受《遠見》等媒體、自媒體聯訪時,哈拉瑞提到,社交媒體及演算法衝擊了民主社會,但不表示民主制度必將崩潰。人類社會有適應新技術的能力,例如台灣就是一個適應了新資訊技術的民主社會的正面實例。
但人類需要時間來學習、試錯,哈拉瑞擔心的是在今日的AI競賽中,人類社會不會有足夠的時間來適應。如此一來,後果可能相當慘烈。
在《紐約時報》(NYT)訪談中,哈拉瑞表示,身為一名歷史學者,在人工智慧加速進展的前景中,他最擔心的不是人類滅絕,而是歷史重演。
以工業革命為例。諸如蒸汽機、紡織、煉鐵等促成工業革命的許多技術突破,本身可以是無害的。但人類花了許多時間、進行了各種實驗,來學習如何善用這些技術。在這期間,帝國擴張、極權主義以及世界大戰都為世界帶來龐大苦難。
哈拉瑞表示,如果要他給人類使用工業化科技的表現評分,他會給C─。如果這次在面對人工智慧技術上,人類再度只能繳出C─的表現,可能預示著比過往更加慘重的犧牲與磨難。
放慢速度、加強人類監管,AI未必帶來末日
因此,哈拉瑞給科技圈的建議是:放慢發展AI的速度,讓人類可以跟上。
雖然自身不是科技重度使用者,哈拉瑞在科技圈頗受敬重。如蓋茲(Bill Gates)、祖克柏(Mark Zuckerberg)、貝佐斯(Jeff Bezos)等許多科技領袖都是他的讀者。
哈拉瑞認為,各方政治人物、科技領袖會向自己尋求意見,是因為「他們意識到這是一項非常強大的科技,將改變歷史進程。因此你需要一個歷史視角來理解現正發生的事,以及可能的後果。」
雖然哈拉瑞認為人工智慧與先前的資訊技術有本質性的不同,但相信過往的資訊革命仍可提供寶貴的經驗與教訓。這也是他寫作《連結》的一大初衷。
「不是為了預言未來的厄運,而是為了警告人們潛在的危險。」哈拉瑞說,「讓我們在現下做出明智的決策,避免最壞的狀況發生。」