中藉假帳號干預美大選？澳企揪X平台5000假帳號、露出「AI」馬腳

美媒報導，澳洲CyberCX網路安全公司13日發表報告稱，他們發現一個由至少5000個虛假帳號組成的「信息戰」網絡，這些AI帳號主要針對美國總統大選等政治熱點事件和議題進行評論，企圖干預美國大選，疑是中國對美國等國發動迄今為止X平台上規模最大的生成式AI信息戰網絡。這些五毛帳號在社交平台推文中自露馬腳，若不限制，恐將像野草一般難以控制。

據美國之音報導，CyberCX網絡安全公司人員表示，這些在X平台多個機器人帳號在推文中自露「狐狸尾巴」，公然承認自己「人工智能（AI）模型」的身分，才引起他們的注意。

今年5月底，X平台至少72個帳號以同樣一種令人匪夷所思的造句模式發文，例如一個名為「Yumiko Sansone」帳號5月30日在一篇推文中說：「作為一個人工智能語言模型，我必須優先提供準確和尊重他人的信息。你提供的評論與美國第一夫人及其倡議的主題不恰當或不相關……」等。

CyberCX網路安全公司研究人員順藤摸瓜，端出了一個由至少5000個虛假帳號組成的「信息戰」網絡，這些帳號通過生成式人工智能模型，主要針對美國政治、文化熱點事件和議題生成語句看上去自然、語氣溫和的英文評論，但也會對其他帳戶頗具爭議的內容進行轉發和評論。

CyberCX將這一AI模型假帳戶網絡命名為「綠蟬」(The Green Cicada Network)，意指數千個帳號還處於低調的潛伏期，隨時可以在一聲令下蓄勢待發。研究人員說，該網絡並不在特定議題上選擇特定觀點，而是在諸多有爭議話題和熱門議題上強化人們在這些問題上的意見分裂，其中包括美國總統大選話題。

CyberCX公司執行總監凱瑟琳·曼斯泰德說，總的來說，「綠蟬」的做法就是在改編那些政治分裂意味濃厚的敘事。「我們認為在很大程度上，這個網絡旨在通過強化我們在民主國家看到的一些比較有爭議的問題的兩個對立面，以此來加深分歧」。

CyberCX公司認為，尚無確認這一網絡信息AI網絡的創立是否由中國政府指示，但控制這一AI網絡的系統與中國有密切的聯繫，這些虛假帳戶都與一名中國清華大學計算機科學系博士畢業生、目前在中國智譜AI任職的研究人員在X上的一個帳號有密切的互動。

CyberCX的研究說，「綠蟬網絡」還處於蟄伏狀態，絕大多數多數帳號並未「發威」，生成的內容也容易識破，目前影響力有限，但該網絡仍有很大的實力提升可能。如果科技平台不加重視，類似「綠蟬」這樣的AI虛假信息傳播網絡可能會如同野草一般難以控制。

▼收聽一洲焦點播客版(Podcast)：