AI生成「川普被捕」假圖 社媒瘋傳 專家憂錯誤訊息氾濫

在媒體報導前總統川普可能面臨刑事控罪，國際刑事法庭對俄羅總統普亭發出逮捕令之際，最近幾天，推特等社群媒體平台開始出現令人震驚的照片，顯示川普遭紐約市鎮暴警察圍攻、普亭穿囚服被關在水泥牢房裡；但這些都不是真的，而是人工智能(Artificial Intelligence，AI，人工智慧)生成的圖像。

美聯社報導，錯誤訊息傳播專家警告，這些圖片預示了「新現實」：重大新聞事件出現後，社群媒體會湧現大量虛假照片和影片，並在關鍵時刻混淆虛實。

西雅圖華盛頓大學教授韋斯特(Jevin West)表示，「它們會在危機發生期間增加噪音，強化人們憤世嫉俗的程度，對整個體系、對獲得的資訊失去信任。」

雖然創作假圖像並非新鮮事，但Midjourney、DALL-E和其他公司的AI 圖像生成器愈來愈容易使用，只需用戶以簡單文本提示，即可快速生成具詳細背景的逼真圖像，還可模仿新聞機構照片風格，以假亂真。

總部位於紐約、專注視覺證據的「見證」(Witness)人權組織媒體技術專家安倫(Shirin Anlen)表示，用戶只在發帖時聲明「圖像由AI生成且僅供娛樂」是不夠的，因為這些視覺效果很快就會被其他人轉發。

專家認為，隨著合成圖像越來越難辨虛實，打擊視覺錯誤信息的最佳方法是：提高公眾意識和教育。韋斯特指出，「我們應該盡全力讓公眾意識到，這類技術有多強。」

總部位於荷蘭的調查性新聞團體Bellingcat創始人希金斯(Eliot Higgins)利用Midjourney虛構出川普和普亭被捕的戲劇性畫面，他建議社群媒體公司專注開發技術，檢測AI生成圖像，並將技術集成於平台中。

卡內基國際事務倫理委員會資深研究員米歇爾(Arthur Holland Michel)說，山雨欲來，他擔心這世界尚未做好準備；「從政策角度看，社會各層面都將出現大規模虛假信息，」米歇爾向美聯社表示，「要徹底阻止這種情況，需要一項迄今仍無法想像的技術突破。」

▼可開啟影片字幕

影片來源：世界新聞網 一洲焦點