FPPC線上談AI識別新挑戰 「 真實性須監管」

作為加州領先的政治監察機構，加州公平政治實踐委員會（FPPC）於22日（周二）舉辦了線上座談會。此次座談會由FPPC的公共外展與科技委員會主辦，邀請來自新興技術和公共政策領域的專家，共同探討人工智慧（AI）技術的運用與監管，並討論如何通過有效的政策措施強化執法、提升政府透明度，維護民眾對政府的信任。

來自柏克萊加大（UC Berkeley）的電腦系教授James F. O'Brien博士在會中發表了關於AI影像生成技術的精彩分享。他指出，儘管人工智慧在影像生成領域取得了顯著突破，並在創意、電影製作等方面帶來了積極的應用，然而，這項技術也帶來了識別真假內容的新挑戰。O'Brien特別提到，AI生成的影像和修改後的照片可能難以區分真偽，這對政治廣告、商業推廣等領域可能造成誤導，進而損害公共信任。他強調，AI技術的快速發展意味著未來識別AI生成影像的痕跡將愈加困難，這需要更為高效的工具來標註和識別影像，確保在公開使用時保持透明度，避免對選民判斷產生不良影響。

Hive AI的首席執行官Kevin Guo也在座談會中分享了他對AI影像生成技術的看法。他表示，儘管目前AI能夠生成極為真實的影像，但其本質上仍是基於既定模式進行模擬的引擎，並未達到人類般的創造能力。Guo強調，雖然AI影像變得越來越精緻，但每個AI生成器依然存在獨特的“模板”，這為識別和檢測AI生成影像提供了技術支持。他同時指出，AI技術不僅在商業領域具有應用價值，也在公共安全和政府機構中發揮著日益重要的作用，並已經在美國國防部等機構中取得了顯著的成功。

Adobe的產品經理Andrew Kaback在座談會中介紹Adobe在推動AI技術透明應用方面的努力。她表示，隨著AI技術的普及，確認數位內容的真實性變得越來越困難。為了應對這一挑戰，Adobe開發了「內容憑證」技術，這項技術能夠讓用戶在影像、音頻和視頻中附加真實性標註，顯示創作者的身份和內容修改歷史，從而提升數位內容的透明度。Kaback強調，這項技術的開放性和可擴展性，使其能夠在各行各業中推廣應用，並幫助社會大眾了解數位內容的來源和背景。