編按：AI已成為企業不可逆的工作伙伴，但強大的學習與運算能力，也可能放大資料外洩、資安攻擊與治理失控的風險。面對AI轉型，企業真正要建立的不是全面依賴AI，而是以人為核心的決策與安全機制。
幾週前，公司發生重大的資安事件，中國大陸地區的同事可能誤點了釣魚網站連結，讓病毒進入伺服器，以綁架加密方式，鎖定資料庫；同時間，也因為企業內部互聯網的聯繫，我們跨事業體的倉儲資料立即受到影響。MIS同仁在發現警訊後，第一時間斷網刪除資料。由於我們本來就有備份的能力與習慣，也還好發現的早，立即處置，造成的損失並不太大。
而日前，在一場AI論壇中，諸多專家學者大聲疾呼，AI時代的「資安議題」，一定會成為下一個重大事件；而目前之所以還沒有占據新聞版面，是因為還沒有像八級大地震的case出現，讓全世界對這件事產生重視和討論，但在不久後的未來，這絕對會是必然的一件事。
AI跨出沙盒，失控風險浮上檯面
傳統來說，我們都以「監理沙盒」的概念，來試驗模擬很多新技術、新作法或新法令帶來的影響。透過不論是物理或非物理方式，確認相關變數，並鎖定在一定範圍的區域內來做實行，讓其成效可控、影響可控，就算出現預期之外的問題，也能順利處理解決，因為相關變因皆已被牢牢掌握。
但這次AI資安治理試驗，卻顛覆這個設定和假說，簡單講，就好像我們看到電影《惡靈古堡》那般，殭屍病毒因為某種因緣巧合或人為疏失，莫名其妙外洩，直接擴散至全世界，這種恐怖情節正真實上演。
而重點是，這次AI的資安攻擊，外溢出「沙盒」監控，並不是什麼人為疏失或是問題（廣義來講，AI太強大，好像也是種問題）。因為AI具有自我進化、學習的能力，在資安測試中，直接外溢出監理沙盒的範圍，換句話說，是殭屍病毒跑出來了。
這件事可大可小，一般來說，可將它視為一個實驗的失敗經驗，但從另一層意義來說，代表這件事情是人類無法控制的。而無法控制的能力或工具，其帶來的影響，是無法估計的嚴重，甚至會超出我們的想像……。
當AI深入企業，風險也跟著來
相信這樣的論述，在現今社會已經變成一個主流，AI如同一個未經訓練的天才兒童，它會為你帶來什麼價值，端看你如何提供資訊、提問及訓練等方式，逐步讓它完善成長學習。
一旦當AI產生自主意識，而能力也超越人類的監理能力時，會發生什麼樣的未來，這真的是細思極恐，非常可怕。多數企業現在都面臨這樣的轉型議題，AI強大，讓我們不得不藉助它的運算、整理、分析等功能；在公司各部門的方方面面，或成為流程、或成為工具，甚至成為同事或顧問。但相對的，AI對資料庫的需求和索取，我們又不得不面對資訊安全的保護、公司營業祕密洩漏的疑慮，甚至是個人隱私、人身安全的質疑……。
「水能載舟，亦能覆舟」，愈強大的工具，愈要擔心反噬的力道和作用力，你用的愈深，愈投入，如果有一天出問題，想必也會是愈嚴重，愈不易解決……。
科技愈進步，愈要回到以人為本
AI進入工作、生活早已是不可逆的趨勢，企業不太可能在現今的條件下，不與AI產生連結。但面對這雙面刃的兩難議題，重點反而應該是「主事者」的心態。AI能幫你提出無數方案，但是，只有「人」才能真正做決策，擔負起責任。
我們如何看待AI，決定了未來的解方。如果你讓AI成為一個最好的幫手，最有效率的伙伴，但依舊認知，「人」才是企業經營最核心的資產，這時候，我們就比較能「以人為本」的思考，來制訂決策，安排規劃。
舉一個最簡單的例子，如果一家公司，基層工作用AI執行，就能大幅用AI替換人力，全面性地把基層員工全部裁撤，包含了決策、判斷等需要思考的行為，只為讓效率極大化。但反過來想，如如果沒有了第一線員工，或是沒有中階主管，那公司未來的高階主管在哪裡？
人從哪裡來？總不會一家公司最後不存在人的價值和位子吧！企業家做過類似的實驗，一家公司沒有任何一個人，只有AI運作一切，但其結果是失敗的……。
AI轉型的兩難，絕對不會是簡單易解的議題，如同我剛剛提到的例子，也許也可以有無數反證，來說明我的論點並不正確。但我想唯一可以肯定的，就是企業領導人所需的智慧，相較於過去，已遠遠到達不一樣的層次。萬法歸宗、存乎一心，與大家分享！
P.S.：最近有一個諧音梗，你不會AI、你就BI（台語：悲哀）了！挺有趣，但挺傳神。
本文章反映作者意見，不代表《遠見》立場
（作者為英國愛丁堡大學訓練與發展管理碩士，臺灣大學、復旦大學雙EMBA，識富天使會聯合創始人）
