機器人會統治世界嗎？

幾章前提到，自1921 年戲劇R.U.R 介紹機器人開始，總會有電影或節目以機器人或AI 試圖控制世界為主題。然而，電影中的邪惡AI 與科學事實有何關連？ AI 真能統治世界嗎？它會怎麼做呢？它又為什麼想要統治世界呢？ AI 電影中的反派寫手，得要考慮動機和機會的問題。

尋找有意義的動機

我們先看動機。很少人會說，智慧（intelligence）本身就擁有統治世界的堅定渴望。你通過學校的測驗，必然表示你是罪惡的嗎？當然不是。在電影中，AI 通常因為害怕人類把它們關閉，會受到自保的動力所驅使。但我們會讓我們的AI 感受到威脅嗎？它們為我們提供種種好處，若說它們在為你搜尋離你最近的義大利餐廳時想要擁有自我認知感，似乎沒什麼道理。

另一個AI 之所以邪惡的普遍動機，是它們積極應用設定邏輯的熱情。舉例來說，一個常見主題是：保護地球的目標只要靠毀滅人類才能完成。這種邏輯造成的毀滅，是過去某個概念的殘留— 電腦會選擇一個停住的時鐘，而非一個慢兩秒的時鐘，因為停止走動的時鐘一天至少會正確兩次，至於慢兩秒的時鐘從未正確過。這類情節動機根植於脆弱的邏輯，再加上對生命的漠不關心。今日的AI 系統以不確定性依照數學推理，被設計成能安全地與人類一起工作，與上述情節似乎截然不同。其中一個經典是科幻小說作家艾西莫夫（Isaac Asimov）在他的機器人系列作品（I, Robot）所思考的「機器人三原則」，即所有的機器人都內建有不可逾越的規則，以防他們傷害人類。機會來敲門

當我們考量到AI 是否會統治世界時，我們某種程度上處於更安全的地位。知名的圖靈測驗，就是設定來測量機器進行可信對話的能力；前提是，如果你無法分辨AI 和人類的不同，AI 就通過了測驗，應該被認為和人類一樣聰明。

那麼能統治世界的圖靈測驗，測量的是機器的哪種「技能」呢？要探索這點，我們需要將AI 的反社交行為，跟人類統治世界的種種預期特徵做比較。統治世界的人往往會控制人們生活中的重要部分，如人們對金錢的使用或是購屋能力。事實上，AI 已經這樣做了：舉例來說，貸款決策通常是由能篩選如山高的資料而決定你信用評等的AI 做的；現在AI 也在股票市場上進行交易。

一個最高指導者下達命令，然後期待這些命令被遵從—任何曾無助地站在商店自助結帳櫃台前，被反覆下指令進行裝袋工作的人，都知道被AI 指使的感受。

統治世界賓果遊戲

讓我們來進行一個統治世界賓果遊戲，看看AI 統治世界的機會有多少？你需要製作你自己的統治世界賓果牌卡。在一張卡紙上畫上3x3 的格線，每一格都寫出一個你認為能統治世界的要素。為了幫助你思考，你可以想想統治世界的超級壞蛋當中你最喜歡的那一個會做些什麼，讓你知道他現在是老大？控制網路？決定人們可以去哪兒、不能去哪兒？還是控制稅收？將這些卑鄙行為分別寫在你的賓果卡中，直到把所有格子填滿。然後與朋友交換卡片。遊戲規則很簡單，參賽的每個人要在網路上搜索電腦、機器、機器人或AI 系統，搶先完成卡片上活動的具體案例。你需要盡可能多找一些例子。每當你找到一個例子，記錄下網址並把那格圈起來。試著像一般賓果遊戲那樣，畫出一條垂直、水平或傾斜的直線。

第一個連成一條線的人可以喊賓果（當然要以邪惡機器人的聲音），然後取得勝利，但要檢查被圈起的範例以及寫在紙卡上的活動彼此是否相符。如果你只有一點時間可以進行這個遊戲，那麼贏家就是那個圈起最多格子的人，但也一定要回頭檢查你找到的案例是否是真實的，相符於賓果卡上那些超級壞蛋的行為相符。

遠見陪你智慧行，閱讀有禮送好箱

進行這遊戲能讓你更加理解今日的機器人及AI 究竟可以做到什麼程度，到最後你要不是開始擔心，就會是感覺更安全。

追殺比爾？

好萊塢中任何自大狂機器人，若沒有一絲想殺光人類的欲望，就不算完整。我們已經設計出用來殺人的無人機。這些軍事機器人可以在沒有人類干預的情況下辨認目標，但在攻擊方面，仍是由人類控制者來下達指令。然而，這並不表示自動殺人機器人沒有存在潛力—我們只需改變電腦程式碼，就能讓它們這樣做。事實上，自動殺戮機器人已經存在了，只是不是用來殺人。當我們寫這本書時，在大堡礁已準備放置揮舞毒槍的機器人，它們會在水中自行偵測並獵殺破壞珊瑚礁生態的海星。這些機器人一旦放入水中，不需等待人類下達獵殺指令，AI 便會自行決定誰生誰死。這些例子某種程度上顯示，AI 確實控制了地球上有限生物的生命。但是非常明顯地，若真要統治整個地球（就像電影上演的那樣），這些個別的AI 需要共同合作創造出一支同步的AI 大軍。那個管太多的自助服務櫃台，得要和你的健康監測器對話，才能拒絕賣啤酒給你。而這兩者可能會和一個信用評分系統合作，只有當你買了雙內建GPS 的跑鞋，並吃掉從智慧冰箱中拿出的甘藍菜，它才會提高你的信用卡額度。當然，智慧冰箱只有在跑鞋上顯示你已跑完今日預定的五英哩之後才會打開。

想到這個場景就令人開始擔心，但幸運的是這不太可能發生。全世界的工程師在發展一種能將各種設備和物件結合在一起，以創造出新服務的事物網（Internet of Things）。這些都只是拼圖碎片，尚待拼湊在一起，形成統治世界的整體全圖。但這是不可能發生的情況，因為有太多事情需要配合以及合作。這與《ID4》這部電影中惡名昭彰的情節陷阱很像：一台蘋果電腦和外星人太空船的軟體，竟在沒有任何情節交代下，擁有跨平台的相容性—只要插上就可以使用。

我們地球上的AI 系統以各種不同的電腦語言書寫，以各種不同方式儲存不同資料，並使用著不同且不相容的規則以及學習技巧。除非我們將它們設計為彼此相容，否則在沒有人類干預的情況下，兩個經過安全設計，且分別由不同公司為了不同服務內容而發展出的AI 系統，不可能自動自發融合在一起，分享彼此的能力，從而形成更大的共同目標。當然，全球化意味著有股強大的推力，要促進事物的一致化，以符合現代全球化巨大型公司賺更多錢，進而控制市場的目標⋯⋯

所以AI，以及裝置有AI 的機器人，能通過考驗而統治世界嗎？按理說，如果我們這些聰明但微不足道的人類，允許它們並提供它們許多幫助，結果有可能如此。但我們為什麼要這樣做呢？可能就因為我們人類比較笨吧。

機器人會統治世界嗎？_img_1