美國大選如火如荼進行，持續吸引全球目光，當然，亂象也不少。例如，前總統川普日前在他的社群平台Truth Social分享一則貼文，竟被發現是使用泰勒絲（Taylor Swift）照片生成的深度偽造（deepfake）影像！火上加油的是，馬斯克旗下的AI聊天機器人Grok，一週前也推出影像生成功能，恐讓deepfake攪局選舉的亂象，更加防不勝防。
8月18日，美國前總統川普在自己的社群平台Truth Social（真實社群），發布一則由多張照片組成的貼文，包括多位年輕女性身處造勢活動，身上穿著印有「泰勒絲粉絲支持川普」（Swifties for Trump）字樣的上衣，配上燦爛笑容。甚至，還有一張照片，是泰勒絲裝扮成經典人物「山姆大叔」（Uncle Sam）的，頭戴美國國旗帽，手指向前方，配上「泰勒絲希望你投票給川普」（Taylor wants you to vote for Donald Trump）字樣。
顯然，這些照片深得川普歡心，還在貼文中打上「我接受！」。
川普轉發「深偽」造勢照片，泰勒絲成苦主！
事實上，這些照片最初來自社群平台X，由散播錯誤資訊的右翼帳號發布，被專家質疑經使用「深度偽造」（deepfake）技術生成，且混合真假照片，讓大眾更難以識別，進而塑造出流行天后泰勒絲，以及她廣大粉絲群支持川普的假相。
「深度偽造」是透過AI生成技術，將照片加工、改製，只需取得他人肖像，便可輕易「換臉」，創造一張張能以假亂真的影像。這項技術問世以來，從政壇到藝文界的名人，或多或少都成為「臉被偷走」的苦主。同樣的技術，也被廣泛應用在於假造聲音、影像，尤其音頻更容易難以辨別真假，也導致詐騙橫生。
其實，對2024總統大選，泰勒絲至今並未明確表態支持哪組候選人，但她過往政治傾向偏向民主黨。回顧2020年，她曾向《Vogue》透露，會全力支持拜登和賀錦麗，也曾公開在X抨擊川普宣傳白人至上、種族主義，更寫道「我們11月將投票讓你下台」。
沒想到，深偽照片讓她瞬間變川粉。
川普雖向《福斯財經網》澄清，自己對這些AI偽造照片「一無所知」，但這不是第一次川普成為深度偽造的亂源。
就在不久前的8月12日，川普才在Truth Social 發文宣稱，賀錦麗（Kamala Harris）8月7日於底特律大都會機場的造勢活動經AI造假，「她『人工智慧』了照片，以展示一大群所謂的追隨者，但他們並不存在！」
川普在Truth Social 發文宣稱，賀錦麗8月7日於底特律大都會機場的造勢活動經AI造假。取自Truth Social@realDonaldTrump
事實上，由於賀錦麗那場造勢活動有眾多目擊者，川普的謊言很快便遭到戳破，但這凸顯深度偽造與AI生成技術若缺少監管，將造成這場美國大選更加動盪。
不只泰勒絲是受害者，就連7月中震驚世界的川普槍擊案，照片也難逃深度偽造的魔手，護衛隊嚴肅的表情被竄改成笑臉，意圖使人以為槍擊案是一場騙局。拜登的聲音也曾被用於機器人自動語音電話（robocall）中，幸好涉嫌偽造者已遭刑事調查。
深度偽造干預選情，馬斯克Grok新功能恐成幫兇？
隨著選情加溫，兩黨接連舉辦全國黨代表大會，科技巨頭微軟8月19日舉辦一場活動，警告深度偽造技術對全球政治的干預程度，可能遠比大眾所想還嚴重。
微軟「民主推動計畫」（Democracy Forward Program）總經理巴丹尼斯 （Ginny Badanes），接受《芝加哥太陽報》時表示，最令人不安的深度偽造事件，發生於2023年10月、斯洛伐克國會選舉前兩天，一段自由派政黨候選人西梅茨卡（Michal Šimečka）討論如何「操縱選舉」的音檔在Facebook上流傳。
儘管當事人迅速譴責，法新社事實查核中心也確認該音檔經過AI假造，但因爲受到選舉法限制，48小時內不得政治宣傳，競選團隊與媒體皆無法協助澄清。最終，西梅茨卡以微幅差距輸掉選舉。
巴丹尼斯表示，微軟提供一款確保「內容完整性」（content-integrity）的免費工具，鼓勵候選人與競選團隊「標記所有官方影像」，避免被不肖人士用為假造的素材。
雖說多數科技公司皆有意協助杜絕AI假造，另一方面，特斯拉創辦人馬斯克（Elon Musk）卻反其道而行。馬斯克旗下的AI聊天機器人Grok，8月新推出圖片生成功能，因為相關審查機制並不完全，能生成諸多在其他AI平台遭限制的影像（暴力、露骨、侮辱宗教等），恐進一步攪亂當前已經紛亂的選情。
深度偽造技術之所以引起專家擔憂，不只因為將造成虛假資訊流竄，還可能進一步形成「騙子紅利」（liar's dividend）。非營利組織「自由之家」（Freedom House）報告指出，當大眾對多數資訊信任度大幅降低，甚至對所有媒體產生懷疑，將使政客等人更可能否認真實的證據。
不僅如此，真假不分的混亂社會中，具有群眾魅力的獨裁者將更容易煽動民意，創造對自己有利的「真實」論述。
南韓禁政治deepfake，新加坡、菲律賓有意跟上
對於深度偽造技術影響選情，部分國家已考慮立法限制，如南韓政府為應對4月大選，制訂選舉日前90天不得發布「具政治意圖的深度偽造影片」，違反者將處最高七年監禁，或是5000萬韓元的罰鍰，法令於 1月29日生效。
值得注意的是，根據南韓選舉委員會（NEC）數據，從生效日至2月16日，短短半個月，便檢舉129起違反選舉法的AI造假影片。
《Rest of World》報導，預定於2025年舉辦大選的新加坡，也正考慮修法禁止政治相關的深度偽造內容。新加坡卸任總理李顯龍曾出現在幾部深度偽造的影片中，包括他在討論投資議題、新加坡外交事務等。
「除了模仿我的聲音，將虛假音檔疊加在我的真實影像上……，詐騙者甚至將我的嘴部動作與音檔同步，」李顯龍在Facebook的貼文中形容，而他對此大感擔憂，「看影片的人可能被騙，以為我真的說過這些話。」
網路上也流傳多部菲律賓總統小馬可仕（Ferdinand Marcos Jr.）遭深度偽造篡改的影片，包括吸食毒品、在南海關係緊張之際，大談對中國動用武力等虛假內容。對此，菲律賓選舉委員會也呼籲，在2025 年參議院選舉前，實施類似南韓的禁令。
AI科技日新月異，對人類社會的衝擊與隱憂也日益明顯。尤其，2024年正逢全球大選年，深度偽造技術對政治的干預也浮上檯面，如何因應、防範假訊息猖獗，成為各國政府與社會大眾不得不面對的難題。
