選務官憂人工智慧生成假訊息 干擾投票

當康曲柯士達縣的選務人員與當地警方和聯邦調查局特工會面，計畫2024年選舉年應對投票相關威脅時，一個不尋常的新風險出現在其中：矽谷的重磅產品，生成式人工智慧。

在一個模擬場景中，新聞報導強調當地投票站出現問題，似乎是為了阻止人們去投票。 但這則新聞報導是假的，是由不肖之徒利用人工智慧散布錯誤訊息而創建的。 選舉官員和執法人員討論如何透過調查消息來源背後的人，並向公眾發布正確資訊來阻止威脅。

機器人偽造拜登聲音混淆選民

5日超級星期二初選前夕，灣區和全國各地的選舉部門正在討論人工智慧風險，特別是在1月份新罕布什爾州初選中，有機器人電話使用了偽造總統拜登聲音來干擾投票之後。

加州檢察長邦塔 (Rob Bonta) 與其他州檢察長一起譴責人工智慧對選舉的干預。邦塔表示，這有可能損害票過程的完整性。

1月假拜登自動電話的消息傳出後不到三周，聯邦通訊委員會（FCC）就將使用人工智慧產生的聲音進行未經請求的自動電話定為非法。FCC主席羅森沃（Jessica Rosenworcel）表示，「不良行為者」利用該技術來自動撥打電話，「誤導選民以及敲詐勒索和模仿名人」。

選務官擔心人工智慧誤導選民

選民助理登記員莫萊斯（Matt Moreles ）表示，在聖他克拉拉縣，選務官員已接入與全國各地機構的資訊共享網絡，並正在追蹤新的人工智慧技術影響這裡選舉的潛力。 他和他的同事很少擔心人工智慧對投票系統的駭客攻擊或改變選舉結果，因為防禦措施很強大。 但他們更擔心使用人工智慧產生的假材料來欺騙選民。

「這只是為了傳播錯誤訊息和混亂，」莫萊斯說。

人工智慧透過蘋果 Siri 機器人和輔助駕駛技術等應用滲透到日常生活中後。隨著2022年舊金山新創公司 OpenAI的ChatGPT 生成人工智慧機器人的公開發布，人工智慧突然聲名鵲起。 其他公司很快也推出了能夠根據使用者提示產生真實文字、聲音和圖像的產品。

這種爆炸性增長引發了人們的擔憂，包括公司收集線上資料來「訓練」其軟體造成版權侵權，人工智慧取代人類工人、學生考試作弊，以及人們傳播虛假材料來進行宣傳或散布政治訊息。

柏克萊加大政治學教授海德（Susan Hyde）說，在這個選舉週期中，錯誤訊息絕對是值得擔心的事情。 選舉欺騙並不新鮮。幾十年來有人一直在極力干擾選民投票。 但人工智慧可以比過去更快、更廣泛地傳播假訊息。

海德說：「我們應該提防外國干涉，這種情況已經存在了一段時間了。我們也應該擔心從地方到國家的黨派行為。」

人工智慧干擾選舉11月將達頂峰

海德說，人工智慧提供了新的工具，可以向選民傳播令人信服的、與選舉相關的謊言。這些謊言可能會波及社交和家庭網絡，人們可能會相信虛假訊息，因為消息來源離他們很近。 攻擊選舉合法性的錯誤訊息可能會讓人們得出「美國民主是騙局」的結論。

網路安全中心高級主任安迪諾（Marci Andino ）表示，預計今年的選舉將受到人工智慧輔助的干擾。隨著 11 月大選的臨近，干擾將達到頂峰。

聯邦網路安全和基礎設施安全局警告稱，人工智慧技術可能被用來透過文字、電子郵件、社交媒體管道或出版物傳播虛假投票訊息。「人工智慧工具可用於製作冒充選舉官員的音訊或視訊文件，向公眾傳播有關選舉過程安全或完整性的錯誤訊息。人工智慧生成的內容，例如深度造假視頻，可能會被用來騷擾、冒充或剝奪選舉官員的合法性。」