紐約市前市議員候選人涉AI造假背書 遭起訴

皇后區一名前市議員候選人因涉嫌利用AI製作假新聞、假背書及變造圖片，在競選期間誤導選民，24日遭皇后區地方檢察官辦公室以偽造文書等罪名起訴。此案被視為紐約州首次針對利用生成式AI從事選舉造假的刑事案件之一，也凸顯AI技術對選舉誠信帶來的新挑戰。

現年47歲的前共和黨市議員候選人羅納迪(Jonathan Rinaldi)，去年角逐皇后區第29選區市議員席位但未能當選。檢方指控，他在競選期間透過Facebook、Instagram等社群平台發布多篇由AI生成或變造的內容，包括偽造媒體報導、捏造政治團體背書，以及修改照片，營造獲得多方支持的假象。

起訴書指出，其中一則貼文聲稱獲得皇后區猶太聯盟(Queens Jewish Alliance)支持，並使用該組織真實標誌製作看似正式的背書文件；另有一篇偽造「紐約郵報」版面的文章，宣稱時任市議員霍爾頓(Robert Holden)跨黨支持，並搭配AI生成的兩人握手照片。檢方表示，調查人員甚至取得被告輸入AI平台的指令內容，要求系統「更換左側男子的臉部」。

皇后區地方檢察官凱茲(Melinda Katz)表示，在AI工具日益普及的今天，蓄意捏造重大事實、誤導選民的行為應依法究責。

羅納迪則否認相關指控，並表示案件涉及言論自由問題。他接受媒體訪問時稱，自己「因社群媒體貼文遭到逮捕」，認為此案關乎美國憲法第一修正案保障的言論自由，但未正面承認是否為相關貼文及AI圖片的製作者。