ISIS可能利用AI策畫下一次攻擊

新聞周刊19日報導，人工智慧(AI)逐漸成為美國民眾日常生活的一部分，惡意份子同樣也利用崛起中的AI技術企圖達到破壞目的，甚至落實具有殺傷力的計畫。

奧馬哈大學(University of Omaha)國家反恐創新科技與教育卓越中心(National Counterterrorism Innovation Technology and Education Center of Excellence)學術研究部主任杭特(Samuel Hunter)受訪時說，極端主義組織正在使用AI工具，已經從假設進化到現實從AI生成的假主播到可以為新行動採購物資，各種威脅正在浮現。

杭特說，伊斯蘭國(ISIS)等極端主義組織目前最常把AI用做宣傳工具。他舉例說，去年莫斯科音樂廳遭遇死亡攻擊之後，伊斯蘭國便用AI自動生成的新聞主播在網路上播報這起攻擊案的消息。

伊斯蘭國還進一步把生成式人工智慧(generative AI)運用在策畫真實世界的攻擊行動，杭特表示，例如用來研發俗稱土製炸彈的簡易爆炸裝置(IEDs)或研擬攻擊戰術。

然而，能夠帶來更大改革影響的則是能夠更自主、更有效率完成複雜任務的代理式人工智慧(agentic AI)。

杭特表示，在宣傳規模、速度都將獲得提升，辨別訊息真假及採取因應措施的挑戰因此變得更加複雜，原本需要好幾個人才能完成的工作，如今可以更迅速地大規模完成，還能快速調整以鎖定特定族群。

他說，代理式AI的主要特點之一便是可以靈活處理即時數據、歷史趨勢以及出現意外狀況，因此代理式AI比傳統型生成式AI模型有著更高彈性。

非營利組織「科技對抗恐怖主義」(Tech Against Terrorism)創辦人兼執行主任哈德利(Adam Hadley)舉例說，再過幾個月，代理式AI系統可能就有能力能在網路上搜尋所有製作炸彈的前體材料，然後幫忙下單採購，指定送貨到特定地址。

哈德利說，AI工具不再只是生成影像或影片做為伊斯蘭國的宣傳用途，代理式AI還有辦法迅速完成恐怖份子要花好幾百小時才能做到的工作。

他表示：「這是非常重要的問題，我擔心的是，許多AI公司真的並沒有思考過這些風險。」