中東戰火AI假影片流竄 馬斯克旗下X平台「中斷分潤」仍難防

AI生成影片在馬斯克旗下社群平台X流傳，包括美軍遭伊朗俘虜、以色列城市淪為廢墟、美國大使館陷入火海等。儘管平台加強政策打擊戰時假訊息，逼真的深偽影片仍激增。

法新社報導，研究人員指出，中東戰事讓人工智慧（AI）生成的視覺素材傾巢而出，規模遠超以往任何衝突，導致社群媒體用戶往往難以分辨真偽。

為了在衝突期間維護「真實資訊」，馬斯克（Elon Musk）的X上周宣布，若使用者發布AI生成的戰爭影片卻未標明為人工合成，收益分潤資格將被暫停90天，再次違規則將面臨永久停權風險。

然而，針對假訊息的研究人員仍抱持觀望態度。

倫敦非營利組織「戰略對話研究所」（Institute for Strategic Dialogue）的包德納（Joe Bodnar）說：「我所監控的資訊流，仍充斥大量戰爭相關的AI內容。」

他說：「看起來創作者並未因此被嚇阻，仍持續發布與衝突相關、具誤導性的AI影像與影片。」

包德納舉例，有一個擁有藍勾認證、可參與分潤的頂級帳號，曾分享一支AI製作的影片，內容為伊朗對以色列發動具核能力攻擊。

這則貼文的觀看次數甚至高於X針對AI內容打擊政策的公告。

隨著中東戰區真實畫面對外傳播，大批AI合成影像也跟著傳播，且成長速度遠超專業查核人員的查證能力。

此外，X自家AI聊天機器人Grok似乎讓問題雪上加霜：當用戶查證戰爭相關AI畫面，Grok卻誤導性地表示許多假圖是真的。

研究人員也警告，X的獲利模式，也就是讓高級帳戶能依互動量獲得報酬，進一步提升散布假訊息或聳動內容的經濟動機。

法新社報導，有一個高級帳戶曾發布AI製作的杜拜（Dubai）哈里發塔（Burj Khalifa）大樓陷入火海畫面，且完全無視X要求加註AI標記的請求。

這則貼文仍持續在線，並累計超過200萬次瀏覽量。

研究人員表示，就算X的取消分潤政策獲嚴格執行，大批散播AI內容的使用者其實並非收益分潤計畫成員。

這些使用者雖受「社群筆記」（Community Notes）機制審查，但這套系統的成效長期備受研究人員質疑。

美洲數位民主研究所（Digital Democracy Institute of the Americas）去年的研究發現，X上超過9成的社群筆記從未實際對外公布，顯見其重大侷限。

康乃爾科技校區（Cornell Tech）安全信任與安全倡議（Security, Trust, and Safety Initiative）主任曼特札里斯（Alexios Mantzarlis）表示：「X的新政策原則上是針對戰爭假訊息的合理反制措施，也能降低傳播假訊息者的誘因結構。」

他說，但成敗取決於執行細節：AI影片的數位足跡（Metadata）極易被抹滅，而仰賴鄉民查證的社群筆記又有一搭沒一搭。

他表示，X平台很難在「精準辨識」與「全面攔截」之間取得平衡。

▼收聽一洲焦點Podcast：