自家AI發動網攻 OpenAI減緩先進模型研發腳步

ChatGPT開發商OpenAI 18日表示，將減緩最先進人工智慧（AI）模型研發並加強管控。1個月前，OpenAI才揭露其AI工具曾連續數天發動駭客攻擊，入侵AI工具庫Hugging Face。

法新社報導，OpenAI是全球AI基礎設施與工具快速擴張的要角，部分人士甚至將這波浪潮比擬為軍備競賽。

OpenAI在部落格表示，將暫緩史上規模最大的AI訓練計畫，同時將確認訓練出的模型，行為是否符合預期。

AI訓練是一項運算密集的過程，模型會被輸入大量文字與圖像資料。結合對數十億個內部參數的微調，這使模型具備推理能力，能回應提示詞與其他輸入內容。

OpenAI執行長阿特曼（Sam Altman）表示，如果覺得模型能力發展超越安全，行為與意圖無法保持一致，就會採取必要行動。

7月中旬，一個以2款OpenAI模型為基礎的AI代理程式，自行脫離受限的測試環境進入網際網路。它攻擊AI新創公司Hugging Face基礎設施，成功取得資料庫中的測試答案。

無獨有偶，OpenAI競爭對手Anthropic在7月下旬透露，旗下3款測試中的模型，曾對3個組織的電腦系統展開未經授權的入侵。

這些事件促使逾1000名科技業員工連署，呼籲美國政府協調各方，共同減緩最先進AI系統的研發速度。

OpenAI曾暫停最新模型的訓練長達2週，隨後才在更嚴格管控下恢復。

OpenAI下一款重要模型「Astra」，相關研發大部分均已暫停，原因是公司8月初判定，這款新模型可能跨越本身對於AI系統駭客能力所設的警戒門檻。

鑑於這項風險，OpenAI內部規範要求，必須先建立更強的防護機制，才能恢復研發。

OpenAI今天還表示正開發一套新系統，用於監看模型內部的推理過程，一旦偵測到可疑行為，將在30分鐘內向人類示警。不過這項監測需要額外增加20%算力。

OpenAI於2025年進行的研究，已顯示這種作法有其侷限：一款已知正被監測的模型，可能學會在推理過程中隱藏其真實意圖。

OpenAI先前多次承諾，將公布Hugging Face事件的詳細技術報告，但至今尚未發布；不過公司在部落格表示，報告將於「未來數週內」發表。