專門辨識AI偽造影音 柏克萊加大前教授：網路上近一半的內容可能假的

假資訊充斥的問題因為人工智慧（AI）的添亂而更加難辨真偽，當新聞媒體對某段影片、音訊或圖像有疑問時，他們會向柏克萊加大的一位前教授求證。

舊金山紀事報報導，在一間看似伊朗軍事基地的無窗作戰室內，身穿迷彩服的軍官們來回踱步，對著耳機大聲喊叫。突然，頭頂的燈光閃爍，地面震動，一股壓力衝擊波將滾滾濃煙捲入房間。軍官們紛紛從座位上跳了起來，火花四濺，瞬間燃起熊熊烈火。

去年12月，這段據稱是以色列飛彈襲擊的影片開始在X網站上流傳，當時看起來逼真而震撼。這段影片迅速走紅，引起了全球各大新聞媒體記者和編輯的關注。但其中一位編輯心存疑慮。於是，她將影片發送給了世界頂級深度偽造專家法里德（Hany Farid）。

法里德只花了幾分鐘就確認這段影片是使用AI技術製作的。「看這類影片幾乎成了我生活的一部分，」他說。「有些早晨，我還沒揉開惺忪的睡眼，就已經在看人被砍頭的影片了。」

法里德曾是柏克萊的資訊科學教授，最近開始達特茅斯大學（Dartmouth）任教。他最出名的地方是作為一名深度偽造偵探（deepfake detective），分析影片和影像，尋找數位或AI工具篡改的痕跡。

這是一項艱鉅的任務。根據網路安全公司Deepstrike稱，過去一年，深度偽造內容以約900%的速度成長，這主要得益於ChatGPT、Gemini、ElevenLabs和谷歌Veo 3等生成式AI應用程式的興起。這些工具使得創建逼真到難以辨別的虛假視訊和音訊變得輕而易舉。

其後果極為嚴重。虛假的軍事衝突影片正在流傳到新聞編輯室和國防官員手中。企業因Zoom視訊會議中冒充老闆並索取匯款的騙子而損失數千萬美元。網路上的不法分子正在挖掘普通女性和未成年人的社交媒體帳戶，製作以她們為原型的超逼真色情內容。

據法里德稱，人們在網路上遇到的內容中，近一半可能已經是使用AI產生或修改的合成媒體。為了應對這一問題，法里德在法庭案件中擔任專家證人，並多次在美國國會作證。

他是創建數位浮水印以識別AI生成內容的積極倡導者，並持續探索檢測數位欺騙的方法。他運用陰影演算（研究光影行為的數學原理）等技術，以及他自己開發的AI模型，在影像和影片中搜尋不可見的瑕疵，例如像素異常、不符合物理定律的光源以及無法匯聚的透視眼等。