AI發展方興未艾，有潛力徹底改變我們的世界，既令人興奮，又令人擔憂。當我們站在新時代的門檻時，積極參與塑造AI的未來，確保AI與我們的價值觀相符，並為大眾謀福利，實為當務之急。
起初，AI僅存於科幻小說中，對於機器能像人類一樣思考和推理的未來情景，吸引了作家和電影製作人加以描繪。但隨著技術的進步和運算能力的提高，AI開始從虛構走向現實。
直到20世紀後期，在大數據時代的來臨，和計算能力指數增長的助力下，AI才開始取得重大進展。1997年，IBM的深藍系統擊敗國際象棋棋王卡斯帕洛夫（Garry Kasparov），是一個分水嶺，證明機器能夠在曾被認為是人類智慧專屬領域的任務上勝過人類。
AI帶來期待也帶來擔憂
如今，AI已滲透到我們生活的各個層面，從虛擬助理和推薦演算法，到自動駕駛汽車和先進的醫療診斷，AI的快速發展，帶來了期待和擔憂，引發了關於這項技術在我們社會中的角色，以及其潛在影響的重要討論。
我們從進化歷史中可以學到的一個重要教訓，是適應能力的重要性，以及人類占據新生態體系的能力。在地球生命史上，重大的創新，使有機體能夠在以前難以生存的環境中生存。同樣的，AI為人類提供了探索新領域，以及擁抱嶄新生存方式的機會。
這種轉變並非沒有挑戰，隨著AI不斷發展，它有可能顛覆現有體系，並加劇現有的不平等狀況。AI驅動的自動化前景，可能導致大規模失業和經濟流離失所，進一步拉大了控制AI者與非控制者之間的差距。我們必須解決這些潛在後果，確保AI的利益能夠公平分配。
我們從進化歷史中可以學到的另一個教訓，是競爭和持續生存鬥爭的必然，隨著AI系統變得更加先進和強大，它們可能會與人類競爭資源，甚至可能追求自身利益而犧牲人類福祉，這引發了人類失去對AI的控制，以及人類滅絕的風險。
AI與人類價值觀須一致
為了減輕這些風險，制定明確的AI開發，以及部署道德框架和指引，就非常重要。這些準則應當優先考慮人類安全、促進透明度和問責制，並確保AI始終與我們的價值觀保持一致，為人類的更大利益服務。
一個基本作法，是在AI系統的開發和運作中，保持一定程度的人力參與和監督，儘管完全自動化，交由AI控制看似誘人，但這樣做，可能會導致意想不到的後果和喪失人類主導權。透過保持人類的主控權，我們更可以確保AI仍將是人類發展的工具，而非威脅我們的存在。
這些努力，需要前所未有的全球合作和遠見，與之前的技術革命不同，AI的影響超越了國界，並有可能影響整個人類，世界必須一致努力，來應對這一挑戰。但這無疑是一項艱鉅的任務，因為它需要克服政治和意識形態上的分歧，並在複雜的利益關係中進行協調。但由於賭注實在太高，我們無法置之不理，失敗可能會帶來災難性的後果。
本文章反映作者意見，不代表《遠見》立場
（作者為台北商大前校長、叡揚資訊數位轉型大使）
