現在國際社會已經在某種形式上，啟動了限制殺手機器人的談判，但是之後會如何發展仍是撲朔迷離。而且，如果真的能達成協議，對於哪些項目應該設限的爭論也一直都爭論不休。雖然很多主其事者都同意，世界強權應該擬定出某種形式國際規範的草案，引導自動化武器系統的研究方向和用途，但是具體上要禁止哪些項目、該如何執行禁令就很難達成共識了。比方說，是不是只要限制致命性的自動化武器就好？還是會讓人受到重傷，像是會使人失明的武器也要一起禁止？禁止的階段到底該設定在研發、生產，還是持有？是不是所有自動化武器系統都一律禁止？還是比照我們那封公開信的內容，只限制攻擊性武器，而不限制自動化防空快砲和對空飛彈等防禦性武器？如果只限制攻擊性武器，而防禦性武器又可以輕易闖入敵國境內，這樣還能算是防禦性武器嗎？此外，當大多數自動化武器的零件既可軍用也可民用時，要如何執行禁令？好比說，幫亞馬遜遞送包裹的無人機跟載運炸彈的無人機，說穿了也沒有多大的差別。
有些人認為，根本不可能制定出能有效執行的自動化武器系統禁令，所以沒必要在這件事情上浪費時間。他們大概不知道，當年甘迺迪總統在宣布登月計畫時曾經強調過，只要一件事情成功之後可以大幅提高未來人類的福祉，無論再怎麼困難都值得一試。此外不妨參照生化武器的情況，雖然惡意的欺瞞使得禁令執行異常困難，但是很多專家還是認為，禁令的頒布讓生化武器擺脫不了惡名，達到限縮使用空間的效果。
2016年我在一場晚宴上遇到前國務卿季辛吉，藉機請教他當年如何推動生化武器的禁令。他回想起那時自己是以美國國家安全顧問的身分，向尼克森總統做出「禁令有助於美國國家安全」的建議。高齡九十二歲的他思路敏捷、記憶力驚人，讓我留下深刻印象，而他以局內人出發的觀點更是讓我佩服得五體投地。當年因為美國已經在傳統武器和核武器兩方面建立起穩固的強權地位，一旦全球展開生化武器的軍備競賽，誰輸誰贏還在未定之天，對美國而言不啻是弊大於利的結果。也就是說，當你已經處處占有上風，恪遵「東西沒有壞就別去修」這句格言才是明智的選擇。
羅素在晚餐過後加入我們的對談，一起思考怎樣把一模一樣的論述套用在致命性的自動化武器上：會在這場軍備競賽中獲得最大好處的，不會是現有的強權，反而是流氓國家和恐怖份子這種連敵國都稱不上的貨色，他們有機會從黑市取得研發完成的自動化武器，成為最大的獲益者。
如果能夠大量生產，搭載人工智慧小型殺手無人機的售價，搞不好跟智慧型手機差不多。那麼，不管是想要行刺政治人物的恐怖份子，或是分手後想找前任算帳的恐怖情人，都可以把目標的照片和地址輸入殺手無人機，讓它飛抵任務地點鎖定目標後痛下毒手，然後還可以自行引爆，不留下任何犯案的線索。換到另一個種族清洗的場景，殺手無人機可以經由程式篩選，專門殺害特定膚色和特定族裔的對象；羅素大膽預言，只要這種武器變得更聰明，殺害一個人所需耗費的材料、火力和費用就會變得更少。他舉了一個例子，一架大小有如大黃蜂的殺手無人機只要將極少量的爆裂物投向目標對象的眼睛，穿刺的力量可以輕易透過眼睛柔軟的構造直入大腦，這樣就可以用很便宜的方式完成殺人任務。或者也可以在目標對象的頭上施放鋼爪，再把一顆微型炸藥植入頭蓋骨中就行了。
如果卡車上的貨櫃就可以釋放出上百萬架這種小型的殺手無人機，我們就要面對另一種新型態的大規模毀滅武器了：一種不會波及旁人，卻可以依照分類精準執行殺人任務的自動化武器。
常見的說法指稱，只要我們能讓殺手機器人具備道德意識，譬如說讓它們只限定殺害敵方士兵，就可以不用擔心這些問題。不過，既然我們都已經沒把握能夠順利執行禁令了，難道要求敵軍自動化武器的行為百分之百符合道德規範，會比在一開始就限制敵軍不准生產自動化武器，來得更容易？又如果說，認定文明國家訓練精良的士兵，在遵守作戰準則方面的表現會遠遠不如戰鬥機器人，同時卻認為流氓國家、獨裁者、恐怖份子這些勢力，會非常樂於遵守作戰準則，絕對不會使用破壞作戰準則的戰鬥機器人，這樣的想法會不會太過雙重標準，無法自圓其說？
本文節錄自：《Life 3.0：人工智慧時代，人類的蛻變與重生》一書，鐵馬克（Max Tegmark）著，陳以禮譯，天下文化出版。
圖片來源：pixabay
