OpenAI上週發表ChatGPT-4o後，竟引起電影《雲端情人》（Her）中，飾演AI莎曼珊（Samantha）的配音員喬韓森（Scarlett Johansson）震驚。她20日發表聲明，指控GPT-4o中的語音Sky與其非常相似。對此，OpenAI當日回應會處理這個問題，但不承認有深偽的事實。目前ChatGPT上的Sky聲音已經過調整後重新上架，也引起全球網友廣泛討論。到底前後版本聲音改變在哪？而如今AI模仿人聲的技術多先進，可以短短幾秒就改造？請看全文解析。
OpenAI於台灣時間14日發表最新的AI模型GPT-4o。直播結束後，OpenAI執行長奧特曼（Sam Altman）在X上寫下「her」，此舉不難聯想到講述人類與AI戀愛的電影《雲端情人》（Her）。
當眾人熱烈討論著電影中情節是否已能實現時，20日，《雲端情人》中的AI莎曼珊配音員、演員喬韓森發表聲明，指出她在看完新模型發表直播後，發現GPT-4o中的語音Sky與其聲音相似，因此「感到震驚、憤怒和難以置信，奧特曼竟然會選擇一個如此相似的聲音，以致於我的親朋好友和新聞媒體都無法分辨出不同。」
先來看14日OpenAI直播時，介紹最新模型GPT-4o的影片：
再看看喬韓森當年在《雲端情人》中替AI配音的片段：
喬韓森於聲明中表示，去年9月，她收到奧特曼的邀請，希望能請她為ChatGPT配音，「他認為我的聲音能成為科技公司和創作者之間的橋樑，並讓消費者在面對人類和AI的巨大變革時更加舒適。」喬韓森因為個人因素拒絕此邀約，而後她在發表會的前兩天收到奧特曼的再次詢問，但他們還沒來得及進一步溝通，大眾就已經聽見了Sky的聲音，並且與她極其相似。
OpenAI立即宣布停用Sky，並強調其與喬韓森無關
OpenAI團隊隨即在X上發布貼文回應，表示其會在處理這個問題的同時，暫時停用Sky，並附上一篇文章，說明ChatGPT如何挑選其語音來源。該文中，奧特曼表示：「Sky的聲音不是喬韓森的聲音，在與其接觸之前，我們就已經選定了為Sky配音的演員。」文中指出，目前ChatGPT的五個語音，是從400多位投稿的配音員和演員中選出的，並且經過長達五個月的協調和合作。
因此，目前OpenAI官方並不承認Sky是模仿自她的聲音。
We’ve heard questions about how we chose the voices in ChatGPT, especially Sky. We are working to pause the use of Sky while we address them.
— OpenAI (@OpenAI) May 20, 2024
Read more about how we chose these voices: https://t.co/R8wwZjU36L
貼文／OpenAI官方並不承認Sky是模仿喬韓森的聲音。
《遠見》記者23日實測ChatGPT的語音功能，發現目前五種聲音選擇中，仍有Sky的選項。不過Demo的Sky和實際與其對話時的聲音不同，應是OpenAI已調整了目前Sky的聲音，而Demo的Sky則是原先的版本。
▶︎ 目前ChatGPT的語音Demo，選擇Sky的聲音：
▶︎ 目前在ChatGPT實際使用Sky與其對話的聲音：
美國論壇Reddit上有數篇討論此事件的文章，許多網友指出目前Sky的聲音，已改成ChatGPT提供的五種語音選擇當中的Juniper。因此《遠見》也錄製了語音Demo中的Juniper聲音，供讀者參考。
▶︎ 目前ChatGPT的語音Demo，選擇Juniper的聲音：
AI深偽人聲，只要12秒就能辦到
在聲明末尾，喬韓森呼籲，在這個所有人都在應對深偽（deepfake）技術，試圖保護自身肖像、作品和身份的年代，「我期待透過透明化和制定適當的法律，來確保個人權利得到保護。」
到底AI深偽人聲多容易做到？根據陽明交通大學電機工程系副教授游家牧分析，只要兩段6秒音頻就能做到。更別說這些常常在電影中也讓聲音曝光的演員，要偽造她的人聲太簡單。但若被詐騙集團等有心人士使用，後果不堪設想。
｜延伸閱讀：AI偽造你聲音，連你爸媽都能騙？為何語音合成詐騙盛行？
針對此事件，美國科技媒體《The Verge》以法律角度分析，過去也曾有名人因聲音被模仿而上訴，並獲得勝訴的案例。例如1988年，歌手蜜勒（Bette Midler）起訴福特汽車（Ford）在其拒絕為福特演唱廣告歌曲後，福特仍然聘用她的合音歌手模仿她的聲音唱歌；以及同年，歌手威茲（Tom Waits）起訴零食公司Frito-Lay，其同樣也是在廣告中模仿威茲的聲音。
在這兩起案件中，提告的歌手皆獲得勝訴，這也為在未經他人同意的情況下，用AI複製他人聲音的爭議提供了判例。不過，《The Verge》指出，目前美國沒有統一的聯邦「公開權」（right of publicity）法律，也就是不同州的法律在處理名人聲音模仿和身份特徵保護時，可能有所不同。並且，名人也需證明自身聲音的獨特性，確保其聲音足以讓消費者在聽到時想到他們。
雖然目前喬韓森並未對OpenAI提告，但她發表聲明的行動，也促進了社會對利用AI偽造聲音爭議的討論。
