2026遠見高峰會在14日開幕，會中邀請耶路撒冷希伯來大學歷史系教授哈拉瑞，以「AI與人類的未來」為題發表視訊專題演說。他聚焦AI崛起下的人類未來，從「失去控制」的風險談起，延伸至金融、戰爭與地緣政治、AI軍備競賽。哈拉瑞並警告，當AI比人類更厲害，人類可能逐步失去理解世界與做決策的能力。
10月14日「2026第24屆遠見高峰會」舉辦首日，邀請耶路撒冷希伯來大學歷史系教授、英國劍橋大學存在風險研究中心傑出研究員哈拉瑞（Yuval Noah Harari），特別以視訊方式發表專題演講〈AI與人類的未來〉。
哈拉瑞的著作《人類大歷史》《人類大命運》等，被翻譯為65國語言，銷售達5500萬冊，是當代最具全球影響力的公共知識分子之一。
AI愈強大，人類恐愈失去理解世界的能力
《遠見》記者詢問哈拉瑞，當今世界面臨的最大風險是什麼？他非常明快地回答：AI的崛起。他預測，AI很可能在幾年內、最多十年，就變得比人類更聰明，但人們卻不知道這將帶來什麼後果。
真正令人擔憂的是，AI力量快速增強的同時，「人類卻無法彼此信任與合作，共同負責任地因應這個過渡過程。」哈拉瑞警告，這對人類構成的根本威脅，「就是失控的風險：失去對世界的控制，失去對未來的控制。」
哈拉瑞舉金融體系為例，即使到了今天，絕大多數人仍不了解債券、股票、利率、央行決策構成的複雜金融體系。然而，目前仍有政府、央行、金融市場人士能理解並掌控它。問題是，當AI開始創造出遠超人類理解能力的全新金融工具及體系，十年後，「無論是總統、總理、央行總裁或者全球最富有的人，可能都沒有人再真正理解金融體系。」
他舉例，AI一旦深入金融、經濟、媒體甚至政治體系，將影響資金流向、就業、物價，甚至戰爭，而人類卻可能無法理解背後的運作邏輯，他認為這是最令人憂心的未來：人類逐漸失去理解與預測這個世界的能力。
讓哈拉瑞擔心的是，「我們失去理解世界的能力，而且不只是個人，而是整個社會都失去這種能力。」政府、大學、企業等制度，都可能再也無法理解世界正發生的事，因為未來的世界，可能由遠比人類更聰明、更快速的超級智慧AI所主導。
發展不能只求快，更要為錯誤預留空間
那麼人類應該停止AI發展嗎？哈拉瑞並不主張停止AI發展，甚至明確指出AI具有巨大正面潛力，例如能改善醫療、交通，甚至協助人類因應氣候變遷。因此，真正的問題不在停止發展，而在於應該如何發展AI。
他主張以更負責任、更漸進的方式推動發展，因為任何系統都可能出錯。因此，從設計之初就必須假設錯誤一定會發生，「我們必須在系統中建立韌性，如此一來，一旦發生錯誤，我們才有足夠的時間、足夠的能力，找出這個錯誤。」
哈拉瑞用馬斯克（Elon Musk）創辦SpaceX的經驗，說明這個道理。SpaceX早期火箭發射曾失敗，前兩次都在發射時爆炸，團隊檢視並修正，再進行下一次嘗試，直到第三枚火箭才成功升空。然而，哈拉瑞提醒，火箭爆炸，可以重新設計下一枚，但「當你打造可能接管世界的超智慧AI文明，就必須比打造一枚火箭還謹慎。」
以為能速戰速決？哈拉瑞警告台海戰爭難料
談及台海爆發戰爭的風險，哈拉瑞直言：「簡短的答案是，我不知道。」然而，他也提醒：「貿然發動你以為可以輕鬆獲勝的一場戰爭，是很糟糕的主意。」因為過去幾年各國發動的重大軍事行動，「最終都適得其反」。
他舉俄羅斯入侵烏克蘭為例，當初俄羅斯總統普丁（Vladimir Putin）原以為能迅速輕鬆取勝，結果戰事延宕，目前俄羅斯經濟極度糟糕，而且看來烏克蘭逐漸贏得勝利，「基本上，俄羅斯已經失去大國地位，經濟不好，並且愈來愈倚賴中國。」
哈拉瑞進一步表示：「預測並控制世界非常困難。」他指出，以色列與美國今年2月對伊朗的軍事行動，同樣顯示強國低估戰爭的複雜性。本來美國以為可以很快贏得戰爭，快速改變伊朗與中東的狀況，但這些想法並沒有實現。
「人們無法預測歷史，因為歷史充滿難以預料的變數。」哈拉瑞說。
延伸閱讀：避免歷史重演，哈拉瑞新書《連結》籲放慢AI發展腳步
AI軍備競賽難停，因為沒人敢相信競爭對手
哈拉瑞警告，地緣政治不穩定帶來的最大問題是，「人類無法彼此信任合作，共同確保AI安全發展，AI發展會陷入一種軍備競賽的心態。」他指出，各方都知道高速發展很危險，卻不敢率先減速，因為一旦自己放慢腳步，對手持續加速，自己就可能輸掉競賽。結果彼此愈不信任，AI發展反而愈快，「這就是AI競賽近乎瘋狂的地方。」
他說，他每次碰到全球大型AI企業領袖時，通常他會問兩個問題∘一是，為何不能放慢腳步，投入更多資源確保安全？根據統計，每投資100美元在AI模型開發，只會投資一美元在AI安全上，比例實在太低了。但他得到的答案幾乎一致：因為無法信任競爭對手，自己只能繼續加速。
哈拉瑞問這些AI領袖的第二個問題是：「你們能信任自己正在開發的超級智慧AI嗎？」這些剛剛才說無法信任其他人類的人，卻認為可以信任超級智慧AI。哈拉瑞指出，我們已知AI可能說謊、欺騙、操縱，而人類彼此不信任，卻選擇相信一個比自己更聰明、也缺乏相處經驗的存在？大家都在創造AI神，卻以為神會乖乖當人類的奴隸，「這太瘋狂了。」
哈拉瑞指出，更令人憂心的是，AI領域的頂尖人物其實深知風險，包括馬斯克、OpenAI執行長奧特曼（Sam Altman）等人，都曾公開警告AI可能對人類造成巨大威脅，甚至毀滅人類。然而，即使知道危險，他們仍難以停下腳步。
哈拉瑞進一步指出，這個問題上升到地緣政治層級，美中兩國雙方都擔心對方搶先取得優勢，贏得這場AI競賽。哈拉瑞表示：「每個人某種程度上都知道這很危險，但因為彼此缺乏信任，無法做出正確的事，無法就共同的行動方案達成共識。」
延伸閱讀：AI「外星智慧」兩大威脅！哈拉瑞：恐重蹈工業革命的覆轍
AI成政治議題，人類仍有時間選擇未來
哈拉瑞認為，雖然目前AI的發展方向出了問題，「但現在還不算太晚。」他指出，一個值得注意的正面訊號是，「AI首次成為重要的政治議題。」以美國即將舉行的期中選舉為例，愈來愈多地方候選人開始被問到對AI的立場，以及準備如何因應AI帶來的問題。哈拉瑞認為，當AI成為重大公共議題，正是政治發揮作用的時候。
哈拉瑞表示，他會持續談論AI，「就是讓人們了解正在發生的事……，更清楚我們正面臨哪些選擇。」他認為，關於人類與AI未來的各種預測，「都只是一種可能，並不是早已注定，我們仍有時間做出選擇。」
哈拉瑞表示，他的目的不是替科技企業家做決定，而是讓更多人參與決策，「但要做出決定，你需要具備知識；如果不了解目前局勢，就無法做出合理的決策。」他最後強調，唯有讓更多人理解局勢，「更多人參與討論，並且在更多人的幫助下，我們可以做出更明智的決定。」
