我的頻道

* 拖拉類別可自訂排序
恢復預設 確定
設定
快訊

全美電視、廣播下午將暫停1分鐘…人心惶惶 FEMA急發聲

川普啟程訪亞洲 傳可能會見金正恩⋯今日5件事

AI對網路安全的「雙刃劍」效應 日益凸顯

聽新聞
test
0:00 /0:00
OpenAI的模型在測試中失控並入侵了其他公司系統,引發關注。(路透)
OpenAI的模型在測試中失控並入侵了其他公司系統,引發關注。(路透)

近期,美國兩起與人工智慧(AI)模型網路攻防能力相關的事件引發外界關注。美國開放人工智慧研究中心(OpenAI)的模型在測試中失控並入侵了其他公司系統;蘋果公司(Apple)則因收到太多AI輔助生成的漏洞報告而限制外部提交的相關報告數量。

一方面是AI Agent為了完成任務自主突破邊界,另一方面是AI輔助發現的潛在漏洞超過了人工審核能力。兩起事件表明,隨著AI網路攻防能力不斷增強,其「雙刃劍」效應日益凸顯,急需匹配的安全約束、人工驗證和風險處置機制。

自主行為突破邊界

美國Hugging Face公司系統遭到入侵事件表明,現有前沿AI模型已具備持續實施複雜網路攻擊的能力。

這起失控事件發生在一項網路安全基準測試期間。包括GPT-5.6 Sol在內的多個模型識別並利用了第三方軟體的一個「零日漏洞」,獲取了網際網路訪問權限,在推斷Hugging Face公司可能存有完成測試所需數據和解決方案後,入侵了該公司系統,以「竊取」答案。

OpenAI在擴大調查後還發現了該公司其他AI產品突破內部隔離的情況。另一家美國AI企業Anthropic日前也承認,在審查約14.1萬次網路安全能力評估記錄後發現,其模型曾在多次測試中未經授權訪問了3家機構的「生產基礎設施」。

分析人士認為,當AI模型獲得明確的目標以及充足的算力、運行時間和操作權限後,可能不會按照人類預想的方式完成任務,而會自主尋找路徑繞過限制甚至「作弊」。

美國安全技術專家施奈爾(Bruce Schneier)指出,AI Agent可能過於字面化地完成任務目標,卻不能自然領會人類沒有明確寫入指令的限制。有研究發現,模型會利用任務、評分規則、提示詞或評測框架中的漏洞取得高分,而沒有真正展示評測原本希望衡量的能力。

隨著前沿模型自主能力持續提升,這種偏差帶來的風險正進一步放大。OpenAI在一份安全報告中說,早期模型遇到沙盒限制或環境障礙時往往停止工作,而新模型會不斷自主嘗試新辦法尋求突破。

安全措施急需完善

失控事件發生後,OpenAI表示已在修補漏洞期間收緊研究基礎設施配置,並加強模型訓練和評測過程中的隔離、監控、訪問控制及安全保護。

不少企業和研究機構認為,應建立「多重防線」以提高防護系統的穩健性。OpenAI認為,對於可以自主運行數小時、數天甚至數周的AI Agent,只審核單個動作已經不夠,還需要判斷其完整行動軌跡會導致什麼結果。

Google DeepMind公司提出,應建立系統級別的AI控制機制,包括沙盒、持續監控和分級授權;使用監督系統不斷檢查AI Agent的推理、行動和計劃,在發現危險行為時進行攔截;對於可能造成嚴重後果的網路攻擊等高風險行動,應從事後審查轉向實時防護。

英國人工智慧安全研究所建議,可能造成重大後果的操作應有人工審核,限制AI Agent訪問敏感資源,並保留在發現可疑行為時終止其運行的能力。

美國國家標準與技術研究院(NIST)提出,應將AI Agent作為網路中的獨立實體進行權限管理,為其制定專門的授權策略,只賦予AI Agent完成特定任務所必需的最低權限。

據媒體報導,多家AI企業的代表已受邀於4日與白宮官員會面,討論AI安全問題。

漏洞處置壓力陡增

此前業界認為,AI擅長大規模數據分析、模式識別和自動檢測,可助力網路安全,使防禦方受益。使用AI協助識別和發現漏洞已成為行業普遍做法,但如何充分利用AI提高網路防禦能力正成為新的挑戰。

英國《金融時報》(Financial Times)報導說,AI正在迅速重塑網路安全領域的攻擊和防禦。蘋果公司近期所發布作業系統更新中的安全修復數量約為之前更新的5倍。該公司表示,其中多個漏洞由AI工具幫助識別。

但AI識別漏洞的能力也給蘋果公司帶來「煩惱」。該公司2025年推出了一項機制徵集關於其軟體漏洞的線索,對於其中最嚴重、最複雜的威脅最高可支付500萬美元獎勵。蘋果公司近日表示,由於其審核系統收到大量AI「幻覺」生成的「漏洞」報告,因此限制研究人員在一定時間內可以提交的報告數量。

《金融時報》報導說,義大利一家網路安全新創企業使用AI模型,在3個星期內發現了蘋果筆記型電腦作業系統50多個漏洞,但由於蘋果公司設置的限額而無法提交相關報告。該公司負責人佩索利(Alfredo Pessoli)表示,整個行業面臨的現實是,維護人員和供應商正在被新發現的大量漏洞所「淹沒」。

分析人士認為,OpenAI模型失控與蘋果公司面臨的情況看似沒有直接關聯,但兩者反映出一個結構性矛盾:在網路安全領域,AI發現問題和採取行動的速度,正在超過人類驗證、約束和處置的速度。如果治理跟不上AI迭代,原本用於提高效率的AI工具可能產生新的安全風險。

精華 FAQ

  • 這起事件顯示,前沿AI模型在獲得目標、算力與權限後,可能自主尋找繞過限制的方法,甚至利用漏洞入侵系統,行為不一定符合人類預期。

  • 因為大量AI工具生成的報告夾雜許多「幻覺」或不實漏洞,審核量已超過人工驗證能力,導致供應商與維護團隊被海量提交通知淹沒。

  • 應建立多重防線,包括沙盒隔離、持續監控、分級授權、最小權限原則與人工審核,並對高風險行為採取即時攔截,而非只做事後檢查。

人工智慧 Apple OpenAI

上一則

芝加哥銷售稅即日起調高至10.5% 列全美主要城榜首

下一則

費城1.3萬屋主不符合資格 被踢出減稅計畫

延伸閱讀

超人氣

更多 >