開發ChatGPT的OpenAI，最近發生了一系列令人震驚的事件，最終導致執行長奧特曼（Sam Altman）的戲劇性罷免和隨後的復職，也暴露了當今科技業所謂「AI安全」概念的缺陷。OpenAI長期以來，一直將自己塑造為一個有道德的組織，其監督是一個號稱非營利組織的董事會，以便公司集中精力、致力於發展造福人類的AI技術，而不是公司利潤的最大化。
但是這個傳奇故事，說明了負責任地開發通用AI的崇高理想，很容易成為基本強權政治、推動快速利潤化的經濟激勵措施受害者。最初的論點集中在OpenAI董事會，是因為要限制奧特曼在商業化步伐上的差異，以及對負責任AI開發的擔憂，但事實仍然模棱兩可。顯而易見的是，董事會嚴重錯誤地低估了奧特曼的廣泛人脈，和激怒微軟等資助者所引起的強烈抵制。
如果負責確保先進AI安全的董事會，沒有預見到解雇執行長會造成如此混亂，那麼就會讓人對他們真正監督潛在前所未有的技術安全開發的能力產生深深的懷疑。奧特曼在主要資助者的支持下回歸也表明，如果AI突破帶來重大的利益，以利潤為中心的董事會，就會表現出很大的克制。對大多數科技公司來說，道德和安全似乎主要是提供公眾保證，而不是限制進步，一旦它們對商業機會構成有意義的威脅，它們就會被拋棄。
政治和經濟誘因，破壞對產業強大技術負責任的監督
這個事件增強了主張不要限制進步的「有效加速主義者」（effective accelerationists）的影響力，這種趨勢可能只會進一步惡化，讓AI安全理論家因OpenAI的內訌而名聲掃地。OpenAI似乎準備在奧特曼的重新領導下恢復往常的活動，而幾乎沒有任何有意義的監督。更令人擔憂的是，最近的混亂可能只是冰山一角，這表明政治和經濟誘因，很容易破壞對整個產業強大技術負責任的監督。如果公司方向和基本結構不轉變，落實注重道德而非利潤，則未來可能會發生更嚴重的災難。
對OpenAI而言，未來應該進行徹底的治理審查，以確定所需的結構和程序變革，以履行開發造福人類的安全通用AI的使命。事實證明，目前的治理結構是不夠的。另外，也可以擴大董事會規模，在AI道德、安全和負責任的發展方面，添加更多獨立、受人尊敬的聲音，以提高決策和監督技術的透明度，安撫公眾。
對執行長奧特曼而言，既然回歸，就更應公開闡明平衡安全與進步的、細緻入微的領導理念，避免採取有利於不受控制的簡化作法，並倡導以安全為中心的有意義的內部和外部的監督流程，這可以恢復他作為道德領袖和技術先鋒的地位。
對任何AI公司的當務之急，是實現負責任的AI科技開發，需要實質的結構性變革，而不僅僅是擺擺公共姿態，如果沒有基本的改變，以轉向平衡安全和創新，未來更多的危機似乎不可避免。
本文章反映作者意見，不代表《遠見》立場
（作者為台北商大前校長、叡揚資訊數位轉型大使）
