Anthropic示警「AI模型開始脫離人類控制」美台類股嚇跌

AI獨角獸Anthropic在官網發文示警，AI模型逐步發展，開始出現脫離人類控制、甚至自己演化的跡象，呼籲全球放緩甚至暫停發展尖端AI模型。

Anthropic的預警，等於預告AI算力需求必須同步停滯甚至降低，不利產業鏈。消息傳出後，鴻海、廣達、緯創、英業達、仁寶等AI股5日股價全面走弱。

美國AI指標股周五美股早盤疲軟，Coherent、美超微均暴跌逾7%，成為重災戶，超微重挫逾5%，台積電ADR跌超過3.7%，輝達也跌逾2%，光通訊、代工組裝、半導體晶片等族群都受拖累。

Anthropic獲得輝達、亞馬遜、Google、微軟等AI巨頭投資，深受市場關注，垂直模型產品更造成軟體產業營運模式徹底轉變。

不過Anthropic最新發文警告AI快速發展，可能讓電影「機械公敵」故事成真：演化出自我意識的機器人脫離人類掌控之外，更可能危害人類發展。

Anthropic發布以「When AI Builds Itself（當AI建構自我）」為題的長文，由聯合創始人Jack Clark和內部研究機構負責人Marina Favaro聯合署名，罕見對外披露從未公開的內部運營資料。

該公司發現，AI已大幅加速自身發展進程，形成回饋迴路（feedback loop），最終可能出現研究人員所稱的「遞迴式自我改進」（recursive self-improvement），即AI系統幾乎不需要人類協助，以自行學習變得更加聰明。根據上述發現，Anthropic提出一個在AI業頗為罕見的主張：全球應協調考慮放緩甚至暫停尖端AI開發。

值全球AI高速發展之際，Anthropic卻主動呼籲大家「踩煞車」，相當反常，引起華爾街和矽谷高度關注。

Anthropic報告指出：「目前我們還沒走到這一步，遞迴式自我改進也並非必然會發生」，但這種狀況可能比多數政府和機構預想得更早，「證據顯示，在AI開發流程的每個階段，人類扮演的角色正逐步縮小。」

Anthropic也警告，若只有單一公司暫停研發，競爭對手只會加快腳步。要讓暫停機制真正發揮作用，需要跨國多間主要AI公司，特別是美國與中國企業，同意依據可供驗證的規則同步停止。

目前，AI帶來資安業轉型，也讓駭客攻擊速度更快，全球網路資安大廠趨勢科技旗下企業AI資安TrendAI昨天宣布，加入Anthropic發起的資安防禦「Project Glasswing」計畫，以Claude Mythos Preview頂級資安模型，強化程式碼審查與分析能力，協助企業加速漏洞發掘、優先修補與風險管理。