霍楚推AI選舉法案 禁深偽影像誤導選民

紐約州長霍楚(Kathy Hochul)計畫推動州議會通過提案，禁止政治競選使用人工智慧(AI)生成的影像，她指出這種手法可能誤導和欺騙選民。

霍楚11日表示，她的計畫包括禁止在選舉期間明知散布可能阻止他人投票的虛假訊息，以及禁止製作未經同意的「深偽」(deepfake)影片，即將某人的臉貼到另一個人身上，尤其是針對政治參選對手。她預計將在13日的「州情咨文」演說中闡述這項提案。

霍楚表示，隨著人工智慧與算法社群媒體的興起，惡意人士在關鍵時刻傳播錯誤訊息，將變得比以往更容易。現在正是採取行動、保護民主的時刻，「我們正在為選舉中的AI使用制定強而有力的合理標準，以保護全州的選民」。

州長辦公室發言人古德曼(Jen Goodman)指出，生成式AI已成為社會與政治生活的一部分。州法已要求競選人員在選舉周期使用AI時必須披露，但並未實際限制AI的具體使用方法。

去年市長選舉期間，前州長葛謨(Andrew Cuomo)的競選團隊曾使用AI製作社群媒體影片，內容顯示現任市長曼達尼(Zohran Mamdani)用手抓飯進食，以及其假想支持者從事犯罪行為。該影片很快被下架。

據悉，人工智慧及「深偽」影像問題在全國也普遍存在。在新罕布夏州，選民曾接到AI生成的語音電話，指示他們避免參加2024年的初選。2020年在紐約州，也有數千名選民接到自動語音電話，虛假聲稱郵寄選票會被送交警方。