AI生成的戰爭影像在社群大量流傳 平台幾乎沒有積極審查

近來在社群網站引起瘋傳的幾支影片顯示，美國特種部隊成員遭到伊朗軍隊持槍挾持，以色列特拉維夫機場遭受攻擊之際民眾倉促逃跑，美軍地面部隊的車隊出現在伊朗境內。CNN報導，這些經鑑定確認是人工智慧(AI)生成的虛假影像，在各大社群平台累計數千萬瀏覽人次，專門研究數位鑑識的柏克萊加大(University of California Berkeley)教授法立德(Hany Farid)表示，社群媒體公司已經不再對平台內容進行積極審查。

法立德說，AI生成影片如今更加寫實，數量更多，滲透程度更深，「這是我們置身的新現實，狀況真的非常混亂」。

2022年俄烏戰爭爆發後，社群媒體就開始出現粗糙的偽造內容，取自電玩遊戲、電影、歷史事件或不相關新聞報導的內容，被拿來做為新的戰爭事件呈現。這種捏造手段如今在伊朗戰爭期間再次廣為流傳，但使用了2022年時並未普及的客製化AI工具。

法立德說，十年前網路上大概只有一、兩個假消息流傳，而且很快就被拆穿，現在則看到數以百計的假消息，栩栩如生。他指出，這些影像不只是逼真而已，還產生巨大影響，「人們相信這些訊息，並且幫忙擴大宣傳」。

對於破解戰爭相關假消息經驗豐富的英國廣播公司查證小組(BBC Verify)資深記者薩達瑞薩德(Shayan Sardarizadeh)說，過去一年來的變化在於，生成式AI(generative AI)已經非常普及，可以製作出可信度極高的戰爭影片與圖片，沒有經過專業訓練的民眾光憑肉眼很難辨識真假。

CNN報導，伊朗戰爭開打兩周以來，薩達瑞薩德等專家鑑定為AI生成的虛假影片與圖像，在社群媒體平台累計數千萬瀏覽人次。跟伊朗政府有關的一家出版社，甚至在網路上發布造假的衛星空拍圖，聲稱美軍在巴林的基地遭受攻擊而毀損。

社群媒體X上周宣布，已對AI生成的戰爭假訊息採取行動。

產品總監比爾(Nikita Bier)發文表示，獲得X付費的內容創作者(creators)如果散布AI生成影片卻未聲明影片是AI製作，將遭到停止參與付費計畫90天，再犯則被永久取消計畫資格。不過，法立德提出質疑表示，絕大多數X用戶根本沒參加創作者付費計畫。