美國新罕布夏州23日舉行共和黨第二場黨內初選，卻有許多新州選民收到美國總統拜登的造假電話，呼籲民主黨選民不要出門投票。對此，白宮發言人尚皮耶指控是AI深偽技術在搞鬼，目前州檢察長也已展開相關調查。

AI生成：「重要的是把票留給11月正式大選，周二（23）投票只會讓共和黨人再次推舉川普。」

熟悉的聲音，搭配標誌性的口頭禪，這通貌似來自美國總統拜登的電話，其實是AI假扮，美國新州檢方表示接獲通報，有人利用AI模仿美國總統拜登的聲音，撥出自動電話 ，呼籲選民不要去投票，目前檢方已著手調查。

新罕布夏州議員Angela Brennan：「我們在談論的是，有人可以在5分鐘內，用他們的手機完成（AI詐騙），這是一個相當嚴重的問題，我們都應該密切注意。」

除了假扮拜登，AI也被用來替候選人助選，根據《華盛頓郵報》的報導，印度新創公司Delphi AI為了替爭取美國民主黨總統提名的聯邦眾議員菲力普斯造勢，為菲力普斯量身打造聊天機器人Dean.bot，目前已遭OpenAI刪除帳號，成為首家被OpenAI停權的開發商，對此，OpenAI也宣布，即將推出反假訊息工具，同時也禁止將旗下AI技術用於競選和選民壓制。

環球睿視執行長蘇育民：「沒有經過對方的同意，去複製一個人的聲音跟影像，讓他去表達他從來沒有過的意圖，這如果說上綱到軍事、政治來講，這個就是國安問題了。」

《美聯社》指出，光是過去一年在台灣、斯洛伐克、到印尼等全球多場選舉中，生成式AI深偽技術，被濫用來傳播錯誤訊息，甚至出現在總統競選廣告中，但假訊息猖獗到底該如何防範，專家給出解方。

環球睿視執行長蘇育民：「如果說你看到這個影像，你可以特別注意看他的嘴巴，通常嘴巴這邊需要做唇音同步，可是這邊通常沒有辦法用太大的解析度，你在跟他做互動的時候，你可以請他左轉、右轉。如果是生成人的話，他比較沒有這種立體的這種，可以直接做左臉、右臉。」

擁有AI語意科學博士稱號的環球睿視執行長蘇育民表示，想要識破生成式AI詐騙，影像方面，除了可以觀察影像人物的嘴巴，還可以注意頭部和肩膀，是否有做三角點公式般的移動，而語音方面，則可進行聲紋辨識，查看是否有介質的轉換來辨別真偽。

由於AI 時代真假難分，蘇育民也建議政府實施AI科普，帶領全民認識AI 辨別真假AI。（記者楊珩、熊汝璽／台北採訪報導）