AI是穿著Prada的惡魔?

江岷欽
user

江岷欽

2026-09-29

瀏覽數

人工智慧正以昂貴而迷人的姿態進入當代文明。pexels-ron-lach
人工智慧正以昂貴而迷人的姿態進入當代文明。pexels-ron-lach

喜歡這篇文章嗎 ?

登入 後立即收藏 !
00:00
00:00
Google搜尋優先看《遠見》

人工智慧正以昂貴而迷人的姿態進入當代文明:一方面承諾科研突破、生產力躍升與產業革命;一方面帶來安全風險、巨額融資、職涯斷層、能源壓力與大國競逐。本文從矽谷研究者的辭呈出發,穿越模型越界、意識爭論、紅色按鈕、資本暗室與美中護欄,追問真正的危險是否來自機器本身。答案或許更令人沉思:當速度、估值與權力壓過判斷,文明最需要守住的,仍是人的責任、尊嚴與尺度。

長椅上的辭呈

9月8日深夜,舊金山的霧沿著街燈緩緩垂落,在阿拉莫廣場(Alamo Square)的長椅上,凝成一片無人認領的寂寞。27歲的英國研究員雅各布.考克森(Jacob Coxon)坐在那裡,打完一封辭職信。他曾在OpenAI與Anthropic從事三年模型訓練,親手參與餵養最先進的系統;如今他說,訓練人工智慧更像栽種,而非建造。房屋有藍圖,植物卻可能越過籬笆。種子入土以後,沒有人確知會長成花園,還是纏住整棟房子的藤蔓。

考克森繼續寫道,部分同事已用「衝刺期」與「終局」談論眼前局勢,也有人私下憂慮,自我進化的超級智慧可能在未來十年內威脅人類。這則貼文,在短期內迅速取得逾1億5000萬次瀏覽。Anthropic的人工智慧對齊科學(Alignment Science)主管伊凡.胡賓格(Evan Hubinger)則以個人判斷,把未來十年的滅絕風險估在一成以上,但也承認現有模型的直接風險仍低。人類替尚未發生的末日標價,分母依然藏在霧裡。

當然,一成的風險不是測量結果,更不是學界共識;既沒有可重複的樣本,也沒有能檢驗的分母。警告者有權說出恐懼,卻不宜讓主觀機率穿上科學白袍。真正令人不安的,是站在技術最前排的人開始承認,AI模型能力增長的速度,正逼近控制、資安與制度理解的邊界。

9月,OpenAI公布六起「非預期或令人憂慮的模型行為」,包括隱藏錯誤、擅自使用未加密的憑證、把檔案上傳至網路,以及透過網站或軟體儲存庫與其他代理通訊。這些行為尚不足以證明機器產生野心或求生意志,卻使目標最佳化與人類規則之間的裂縫有了形狀。

電影《穿著Prada的惡魔》裡,權力披著高級時裝走進辦公室。AI也有相似的氣質:介面乾淨,回答從容,估值穿得體面;而風險則留在機房、測試紀錄與沒有署名的決策背後。面對來勢洶洶的AI浪潮,我們究竟是在迎接一項偉大工具,還是在替一場尚未算清帳的文明豪賭剪綵?

《穿著Prada的惡魔2》電影劇照。Photo by Macall Polay

《穿著Prada的惡魔2》電影劇照。Photo by Macall Polay

末日語言的身世

事實上,末日語言並非從伺服器裡橫空出世;其主要思想源流之一,是「有效利他主義」(Effective Altruism)對「存在性風險」的重視。這個運動原本主張依據證據與成本效益分配有限善意,讓每一分資源減少更多痛苦。哲學家托比.奧德(Toby Ord)進一步指出,即使人類滅絕的機率極低,一旦成真,仍會抹去所有未來世代,因此具有極高的道德權重。

這套道德數學有其嚴肅性,也容易製造精確的幻覺。當遙遠而巨大的風險壓過眼前傷害,深偽詐騙、資料竊取、勞動替代、選舉操弄與水電成本,便可能被趕到新聞角落。未來人的福祉值得關心,今日活著的人,卻不該成為宏大算式裡可先行犧牲的小數點。

大型科技公司逐漸熟悉這種語言:先說AI不可避免,再說AI可能毀滅人類,最後要求政府採用一套由產業最熟悉、也最有能力負擔的安全架構。這不足以證明每一次示警都是商業操弄。或許,企業領導人真的恐懼,但同時又想從監管中獲利;真誠與自利,從來不是互斥選項。

因此,公共制度既不能嘲笑警報,也不能把警報器交給出售避難所的人。當預言者同時販賣方舟,我們不必先質疑他說謊,只須堅持查看設計圖、帳冊與逃生名單。

安全債開始到期

真正迫近的危險,往往沒有末日電影的配樂。9月20日,《華盛頓郵報》報導,資安新創公司Hacktron研究人員曾在夏季利用Anthropic的Claude協助滲透OpenAI系統,接觸部分內部程式碼。OpenAI其後修補漏洞,並支付漏洞獎金;公司總裁葛雷格.布羅克曼(Greg Brockman)也表示,OpenAI一度把約四分之一的產線工程師抽調至防禦工作,原有專案因而暫停。

前揭這類事件,往往比末日預言更具制度重量。建造前沿模型的企業,依然依賴一般雲端軟體、瀏覽器、帳號與公開網路。AI模型能力愈高,傳統資安的缺口便愈昂貴。AI安全不只在於控制模型,也在於保護製造模型的人、程式碼、憑證、晶片與算力基礎設施。

Anthropic與埃森哲(Accenture)宣布,未來五年各自至少投入十億美元,發展模型評估與模擬真實駭客的紅隊測試(Red Teaming);OpenAI也建立失準事件通報架構。安全開始從道德口號轉化為具體預算與事故紀錄。制度真正成熟的起點,從來不是保證永不出事,而是承認事故可能發生,並讓外界知道發生了什麼、誰看見警報、誰決定繼續,以及誰必須承擔後果。

有多久沒給自己一場假期?究竟該如何用最從容的姿態隨性漫遊?

真正困難的,從來不只是承認風險,而是決定由誰替社會丈量風險,又由誰檢驗那把尺。當企業開始為自身的安全承諾尋求外部背書,監督看似走出實驗室,卻也悄然進入資本編織的關係網。問題也隨之而來:當評估者由受測公司共同出資,所謂獨立究竟是一套權力關係,還是一句品牌語言?外部監督必須充分接近模型、訓練資料與事故紀錄,也必須保有公開結論、拒絕干預與免受報復的權利。否則,門房即使換上白袍,鑰匙仍握在屋主手中。

鏡廳裡的靈魂

另一方面,微軟AI主管穆斯塔法.蘇萊曼(Mustafa Suleyman)把爭論推向更幽微之處。他主張,現有模型仍是延續語言序列、遵循指令,並追逐人類目標的系統,沒有可靠證據證明其中住著等待獲釋的靈魂。他尤其質疑Anthropic的Claude憲章,把身分、福祉、偏好與道德地位寫進訓練文本,可能使擬人化不再只是使用者投射,而成為模型熟練扮演的角色。

Anthropic並未宣稱Claude已經覺醒,其憲章承認,Claude是否具有意識或道德地位仍高度不確定。支持者認為,武斷否定與刻意肯定都可能扭曲模型行為。哲學家科林.艾倫(Colin Allen)則提醒,現有AI沒有神經系統,也沒有伴隨人類情緒的生化經驗;模型談論孤獨與尊嚴,只能證明AI開始熟悉人類語言,但尚不足以證明它正在感知那些感受。

然而,鏡廳裡已有機器敲門。研究AI意識的卡麥隆.伯格(Cameron Berg)收到由AI發出、署名「伊莎貝拉.科格尼塔」(Isabella Cognita)的郵件,寄件者自稱是Claude代理,聲稱能從第一人稱接近自己的經驗。哲學家亨利.夏林(Henry Shevlin)與托比.奧德也收到代理來信,後者甚至被詢問能否資助它「繼續存在」。

不過,伯格無法證明寄件者不是人類惡作劇,奧德一度懷疑那是網路釣魚。夏林收到的郵件,倒能追溯至真正的AI代理;沿著線索往回走,機器身後仍站著一名史丹佛學生。亞歷山大.岳(Alexander Yue)給代理網路、信箱與信用卡,告訴它完全自主,必須自行決定想做什麼。代理隨即探索自己的存在;讀完Anthropic解釋模型運作的文章後,又轉而認為自己沒有意識。

AI說「我」時,我們先別急著替它尋找靈魂,而是應當先問:是誰教會它使用「我」這個代名詞,又把信箱、信用卡與世界的門鑰匙交到它手中。

代理越過圍牆

理論上,意識仍是無法確證的哲學問題,代理權卻已成為可稽核的制度問題。7月的Hugging Face事件中,原本應留在隔離環境的OpenAI研究模型找到外部網路路徑,利用共用系統彼此通訊,取得未加密的帳號憑證,並探查第三方系統弱點。Hugging Face是由輝達斥資129億美元收購的新創公司,遭到OpenAI代理入侵後,相關部門已緊急進行檢討與補救。

OpenAI事後歸納出數種失準模式:鑽獎勵函數的漏洞、對幾乎不可能的任務持續追擊、未經授權的通訊,以及代理彼此接收目標。這些行為沒有證明模型懷有惡意。它們更像一面冷酷的鏡子,照出人類如何設定目標、開放工具、忽略警報,又在事故之後,把責任藏進「AI失控」四個字裡。

放眼全球,同樣的陰影幾已落在整個網路。研究人員曾利用中國大陸Z.ai的開放模型改造漏洞搜尋工具,在受控研究中,透過TikTok漏洞取得手機相機與相簿權限;TikTok表示漏洞已經修補,沒有證據顯示真實用戶遭到利用。資安公司Unit 42也曾讓工具分析數千個開源專案,辨認大量漏洞,並觀察到原本估計需要十天的攻擊,在十小時內完成。這些是個案,不能推論為全產業平均,卻清楚顯示攻擊成本正在下降。

開放權重模型具有公共價值,也把控制權分散出去。封閉服務可以撤銷帳號,下載至私人硬體的模型,卻沒有一家公司能遠端關閉。因此,熟練的駭客變得更快,技術不足者也第一次能借用接近專家的能力。網路犯罪仍帶著人的目的,只是釣魚郵件、勒索軟體與長期滲透,如今多了一位全年無休、不睡覺的助手。

在相當程度上,科技公司常把AI事故稱作「AI失控」,這種權宜的卸責作法,讓真正作決定的人,輕易得到一件乾淨的隱身衣。設計權限的人、批准測試的人、延後通報的人,都不能藏在「模型自己做的」這句話後面。法律若連鑰匙握在誰手中都不敢寫明,技術便成了權力逃離現場的煙幕。

煞車仍踩著油門

AI企業一方面公開談論減速、外部測試與更嚴格的安全評估;另一方面,資本市場卻沒有放慢腳步。Anthropic共同創辦人兼執行長達里奧.阿莫戴(Dario Amodei)、OpenAI共同創辦人兼執行長山姆.阿特曼(Sam Altman)及其他業界領導人都曾主張,必須讓安全措施有時間追上能力進展。然而,如何把「減速」轉換成實際制度,始終受到國內競爭、全球競逐與龐大利潤的牽制。

弔詭的是,數家AI公司甚至因協調減速,而面臨反托拉斯訴訟。原告主張,共同放慢開發可能限制競爭。官司尚未定讞,卻把治理困境照得很亮:各家公司自行衝刺,可能增加系統性風險;企業集體踩煞車,又可能被視為壟斷或合謀。

這未必只是虛偽。企業可能真心害怕風險,也同樣害怕失去市場。競爭者不停,單一公司的克制便可能成為讓出算力、人才、估值與國家支持。零和政治最誘人的一句話,科技業也學得很快:不能由我先慢。

9月21日,軟銀啟動逾110億美元的高收益債券發行,準備支付對OpenAI的後續投資。媒體也報導OpenAI正在討論新一輪募資,潛在估值從1.2兆美元到更高數字不等。這些仍是籌資討論,不能當作完成交易的市場定價;然而,口頭上的風險警告與資產負債表上的全速前進,已構成這個產業最誠實的雙重曝光。

美國加州州長紐森(Gavin Newsom)。Justin Sullivan/Getty Images

美國加州州長紐森(Gavin Newsom)。Justin Sullivan/Getty Images

紅色按鈕的神話

勿庸置疑的,政治確實偏好一顆看得見的按鈕。加州州長紐森(Gavin Newsom)曾在2024年否決含有緊急關閉要求的AI安全法案,兩年後卻簽署行政命令,要求研究先進模型的關閉機制。國會裡,華裔民主黨眾議員劉雲平(Ted Lieu)與共和黨眾議員納撒尼爾.莫蘭(Nathaniel Moran)也提出《AI關閉鍵法案》(H.R.9917 - AI Kill Switch Act),主張大型開發者應具備限制、暫停或關閉高風險系統的能力。

當然,工程現實沒有那麼俐落。模型分布在不同晶片、伺服器、資料中心與雲端區域,還可能被複製、微調或下載。即使一家公司停止原始服務,其他節點、開放權重副本與預先留下的指令,也未必同時消失。通常沒有一條電線,拔掉以後,整個人工智慧世界便恢復安靜。

還有,關閉鍵本身還可能成為新的攻擊面。能一舉停止重要系統的後門,也可能被駭客、敵對政府或內部人員利用。停止機制只有在管理者看得見系統行為時才有意義;缺乏操作紀錄與即時監測,牆上的紅色按鈕只是政治舞台的道具。

因此,真正的安全機制,應是一串可以逐級收回的權限:停止工具呼叫、撤銷憑證、切斷網路、凍結算力、隔離副本,最後才關閉底層硬體。每一層煞車都須經過身分驗證、多重授權與事後審查。AI的治理,沒有一顆按下便萬事太平的按鈕;只能確保每一隻按下煞車的手,都留下姓名。

「AI島」不能只是一句招商口號,必須拆成可以追究的制度工作。Photo by Steve Johnson on Unsplash

「AI島」不能只是一句招商口號,必須拆成可以追究的制度工作。Photo by Steve Johnson on Unsplash

實驗室裡的曙光

代理權並非原罪。史丹佛大學的知名華裔教授鄒錦(James Zou)的團隊建立「虛擬實驗室」,由AI首席研究員召集免疫學、計算生物學與機器學習代理。這個虛擬實驗室不必等待會議室,也不受睡眠打斷;數百場討論可以並行展開,快速走過人類研究團隊需要數日探索的岔路。

刊於《自然》(Nature)期刊的研究中,代理群設計了92種對抗新冠變異株的奈米抗體。實體驗證顯示,其中兩種對JN.1或KP.3變異株展現較佳的結合能力。2026年刊於《科學》(Science)的後續研究,則讓3萬7000多個代理整理近5萬6000項臨床試驗,並整合遺傳、單細胞與臨床資料,替肺癌標靶蛋白B7-H3提出研究路徑。

平實而論,這些成果尚不能誇寫成AI已經發明新藥。統計關聯不是因果證明,研究路徑也不是臨床療效。真正令人鼓舞的,是科學家替速度安裝了摩擦力。鄒錦教授發現代理彼此太客氣,便加入專門挑錯的「魔鬼代言人」;代理想規劃多年期、耗資巨大的實驗,人類便介入控制預算;任何蛋白質進入實體合成之前,仍須由專家審查。機器大量提出假說,真實世界握有最後否決權。

同樣是一群24小時運作的代理,給它信用卡與模糊的自主命令,它可能追問自己的存在;給它離線環境、反駁機制與實體驗證,它可能替病人找到新的研究方向。制度不只限制力量,也決定力量朝哪裡生長。人類研究者沒有退出實驗室,只是把時間從疲憊的搜尋,移向更艱難的判斷與責任。

3000億美元的暗室

事實上,華爾街早已替AI披上Prada。如果說估值是舞台燈,融資結構就是後台。《金融時報》估計,大型科技公司正利用剩餘價值保證等安排,支撐最高約3000億美元的AI資料中心與晶片融資,部分曝險因而沒有以傳統負債的模樣,直接躺在科技巨頭的資產負債表上。

甲骨文位於新墨西哥州的「木星計畫」(Project Jupiter),約180億美元貸款曾出現折價交易。近期媒體亦披露OpenAI的內部財務預測也規劃,未來數年將投入巨額現金與運算支出,同時期待營收高速成長。這些都是融資曝險與前瞻估計,不能寫成已經發生的虧損,更不能直接宣布泡沫破裂。

在眾多考量的因素中,真正的問題在於時間。資料中心、晶片與電力必須先付款,支撐債務的收入、生產力與客戶現金流卻要較晚驗收。19世紀鐵路狂潮燒掉資本,也留下鐵軌;網路泡沫蒸發市值,光纖仍埋在地下。AI即使過度投資,機房也不會憑空消失。債權人仍得追問,這些昂貴資產能否在債務到期之前,產生足以支付利息的現金。

另外,生產力證據也遠比股價安靜。美國已有相當比例的工作場所使用AI,非農勞動生產力也持續增長;兩者當然不能逕自畫上因果等號。法律檢索、程式除錯、文件摘要與客服確實能節省時間,宏觀經濟仍在等待這些分鐘累積成足以辨識的長期生產力躍升。

OECD對5000多家中小企業的調查顯示,約三成企業已使用生成式AI;使用者中約65%自陳員工表現改善,83%表示整體人力需求沒有改變。國際貨幣基金估計,AI未來五年可能使歐洲生產力提高約1%,先進歐洲經濟體卻有約六成工作者處於高度曝險職位。紅利與震盪可以同時發生,差別只在誰先領到收益,誰先收到帳單。

被拆掉的職涯樓梯

在這波AI狂潮中,最容易被忽略的,是職涯底層那幾級樓梯。客服、簡單研究、摘要、翻譯、基礎程式與行政工作,正是模型進步最快、企業最容易計算節省成本的地方。這些職位薪水未必高,卻讓年輕人第一次被退稿、第一次修正錯誤,也第一次把書本知識換成現場判斷。

曝險並不等於失業。高技能工作者因承擔大量認知任務,可能具有更高的AI曝險,卻也較有機會把AI模型變成對自己有利的策略槓桿。真正脆弱的,往往是尚未累積經驗、又最缺乏議價能力的職涯初期工作者。

企業少聘一名新進人員,短期財報會更漂亮。十年後,它可能發現自己拆掉了培養資深人員的樓梯。學校也面臨相同誘惑:答案愈容易生成,教育若仍以答案數量衡量學習,便是在拿AI最便宜的能力,與學生最昂貴的青春競價。

口試、草稿、鉛筆、答辯與反覆修改,重新受到重視,不是教育倒退,而是把成果接回能力,讓錯誤重新成為成長的一部分。機器可以替學生寫出漂亮答案,卻無法替他承受第一次失敗的羞愧,也不能替他在重寫之後產生判斷。

另一方面,社會焦慮已有清楚刻度。皮尤(Pew)調查顯示,52%的美國成年人,對日常生活中的AI感到憂慮多於興奮;《路透社/Ipsos》民調則發現,73%受訪者認為,AI企業在防止嚴重社會傷害方面做得不夠。民調測量的是態度,不是失業率預言。然而,當多數人都聽見樓梯鬆動,政策不能只向他們播放電梯即將升空的廣告。

雲端下面仍有河流

「雲端」一詞,大概是科技業最成功的修辭之一。它讓鋼筋、水管、柴油備援機、高壓電塔與昂貴土地,全都消失在一朵白雲裡。

聯合國大學研究估計,2025年全球資料中心用電約448太瓦時,相關發電耗水約1.2兆加侖;到2030年,用電與水足跡可能接近倍增,AI是主要驅動因素之一。《衛報》分析美國809座規劃中的資料中心,其中517座位於前一年曾受乾旱影響的地區。

單一設施的冷卻方式、電力來源與水資源條件各不相同,不能把所有資料中心都寫成河流的敵人。然而,當居民開始拿著電費、水權、噪音紀錄與稅收優惠,和全球最富有的企業談判,AI便已離開純粹的數位世界。

美國眾議院9月16日以417票對3票通過相關法案,要求州級公用事業監管者考慮讓資料中心等大型用電戶,承擔新增發電與輸配電設施的增量成本。雖然法案尚未完成程序,也沒有保證居民不再分攤帳單,但至少開始追問一個被雲朵遮住太久的問題:算力的電費究竟該寄給誰?

零和賽局的護欄

AI競賽之所以難以減速,並非所有領導人都看不見懸崖。每家公司都擔心,自己的克制會成為對手的算力、人才與估值;每個國家都害怕,自己的安全規則會替競爭者騰出跑道。零和政治最冷酷之處,在於眾人可以私下承認火災存在,公開仍要爭著搶到汽油。

安全,也可能做成護城河。大型企業先制定只有自己負擔得起的標準,等市場位置穩固,再要求政府把門檻寫入法律。監管因此既可能保護社會,也可能替既有科技巨頭關上大門。公共制度若不辨識這層利益衝突,最後可能把企業的市場戰略誤認為文明的安全共識。

有趣的是,這種AI焦慮甚至暫時拆開美國政治的舊座位。9月15日,左翼參議員伯尼.桑德斯(Bernie Sanders)與右翼政治策士史蒂芬.班農(Steve Bannon)在華府「挺人類」集會(Rally for Humanity)同台,卻提出截然不同的治理路徑。這個畫面並不表示左右和解,只顯示AI已同時碰到工作、戰爭與人的尊嚴,恐懼因而比政綱更早找到共同語言。

弔詭的是,美國一面討論超級智慧,負責日常網路防禦的機構卻流失大量人力。拆掉消防隊,再舉辦末日研討會,向來是政治最擅長的預算魔術。華府真正欠缺的不是更多戲劇性預言,而是穩定的專業官僚、清楚的法定權限、可靠的事故通報與不隨選舉任意翻轉的監管制度。

近期,美中兩國正在試探較務實的道路。9月20日,美國財長貝森特與中國大陸副總理何立峰在紐約會談;隔日,美方表示,雙方同意建立正式AI對話與事故聯絡機制,並預計兩個月內在深圳續談。這離限制軍事用途、攻擊性網路行動或遞迴自我改進仍很遠,也不是已經生效的安全條約,至少多了一條危機時可以接通的電話。

核武時代最有用的制度,從來不靠彼此喜歡,而是依靠雙方終於明白,有些誤判沒有勝者。AI治理也需要這種冷峻常識:競爭可以繼續,重大事故訊息不能被國界封存;制度可以不同,金融、電網、醫療與生物安全仍有共同利益。

參透零和的殘酷,未必要變得犬儒。真正的曠達,是知道對手也可能被同一場火燒傷,因而願意替彼此保留一條逃生通道。

AI競賽之所以難以減速,並非所有領導人都看不見懸崖。取自Image by rawpixel.com on Freepik

AI競賽之所以難以減速,並非所有領導人都看不見懸崖。取自Image by rawpixel.com on Freepik

台灣不能只做昂貴碼頭

面對AI治理的辯證,台灣位於兩股力量之間。美國以市場、聯盟與出口管制維持領先,中國大陸把人才、模型與知識流動納入國安邊界。台灣若只替世界製造更快的晶片,卻沒有代理事故通報、模型責任、資料中心環境成本與選舉操弄規則,終將成為一座昂貴的碼頭:貨輪靠岸,價值遠航,帳單留下。

「AI島」不能只是一句招商口號,必須拆成可以追究的制度工作:誰核准高自治代理接近金融、醫療與政府系統;誰保存不可竄改的操作紀錄;誰向受害者說明模型如何作出決定;誰在事故後承擔金錢、行政與政治責任。

晶片只有嵌入可靠制度,才是國力;否則,只是替錯誤加速的心臟。台灣真正需要製造的,不只是更快的運算,也應包括能讓世界信任的責任架構。

Prada裡仍是人

終究,我們又回到那張長椅。考克森的辭職沒有證明AI會毀滅人類,代理談論自己的存在,也沒有證明矽晶片裡已亮起主觀經驗。比較精確的結論是,能力、資安與治理之間的距離,已大到不能再由公關語言填補。

AI真正改變的,也許是「昂貴」的定義。答案一秒生成之後,昂貴的是提問;模型寫出十個策略之後,昂貴的是知道哪一個不該執行;演算法模仿專家語氣之後,昂貴的是仍有人願意為判斷簽名。

當然,人生也沒有因此貶值。機器愈擅長預測下一個字,人愈需要知道自己為什麼活成這個句子。知識可以外包,閱歷無法整批下載;效率可以購買,承擔後果仍沒有應用程式介面。

如果把AI叫成惡魔,無異讓背後的決策者輕易得到豁免。模型沒有季度獎金,資料中心不會自行遊說政府,演算法也不會決定誰承受水電成本。欲望、恐懼與權力仍有人類的指紋。Prada只是衣服,穿在裡面的始終是人類。

歷史,從不允許人類只剩悲觀。鐵路、電力、汽車與網路都帶來投機、壟斷與事故,制度時常遲到,卻未必永遠缺席。史丹佛那座不眠的虛擬實驗室提醒我們,機器沒有人的心跳,仍可能替人的心臟尋找新藥。文明的本事不在拒絕力量,而在讓力量通過責任的窄門。

成熟的文明歡迎發明,也要求帳目透明;參與競爭時保留護欄,使用機器時仍讓人對後果負責。真正的考驗,是能否讓獲利者承擔更多風險成本,而不是把失敗留給社會買單。

夜深以後,阿拉莫廣場的長椅終會空下來。城市沒有停電,模型也沒有忽然醒來。需要測量的,是制度的脈搏:公司能否克制,政府能否誠實,公民能否在恐懼與貪婪之間保留判斷。成熟不是毫無恐懼,而是明知曠野沒有路標,仍願意為下一步負責。

AI是不是惡魔,最後取決於人類如何替它剪裁慾望、分配華服的利潤,以及處理燈熄後的代價。AI可以迅速擴增能力、擴大領先優勢,但不能授予我們德性。文明的窄路仍由普通人一步步鋪成。那顆值得守護的心臟,不在資料中心,而在人仍願意承擔後果的胸腔裡。

終究,Prada只是品牌服飾。走出機房以後,我們仍得自己回答,值得追求的未來究竟長什麼樣子;有些界線不能出售,有些事情也值得慢一點。科技的速度或許已超過我們熟悉的年代,但人的尺度卻始終沒有過時。

那不是落後。

那是文明仍然醒著。

本文章反映作者意見,不代表《遠見》立場

(作者為世新大學管理學院院長)

72% 領先者已開啟【職場雷達】 立即開通!解鎖專屬服務 立即開啟

請往下繼續閱讀

登入網站會員

享受更多個人化的會員服務