AI模型Mythos 既可是矛也是盾
Anthropic公司最新人工智慧系統Claude Mythos的出現，引發了金融業的集體恐慌，美國財政部和聯準會甚至邀集美國主要銀行召開緊急會議討論該模型。這種級別的會議，只有在系統性壓力急劇上升時，如2008年全球金融危機和2020年新冠疫情，才會召開。而也因為Anthropic公司開發出的Mythos，具有重大戰略價值，所以白宮重新邀請其加入政府合約商。
根據Anthropic公司的說法，最新的人工智慧模型Mythos能將電腦變成犯罪現場，也能發現並利用先前未知的「零日漏洞」，理論上還能將這些漏洞串聯起來，從而控制作業系統和網頁瀏覽器。用現實生活解釋，就像一個竊賊能夠鎖定任何建築物，進入其中，打開所有門，洗劫所有保險箱。
這家矽谷公司已成立「玻璃之翼方案」(Project Glasswing)，指定40家機構作為合作夥伴，以協助建構防禦體系，在駭客有機會利用漏洞之前，先行「修補」漏洞。合作夥伴之一的Mozilla在其Firefox瀏覽器上測試Mythos後發現，找到的漏洞數量是之前的十倍，並且全部修復了。
人類並非無法發現這些漏洞，但人工智慧能夠快速、低成本且大規模地發現網路漏洞。換言之，Mythos並非創造一種新型的網路威脅，而是將潛在的弱點轉化為系統性風險。傳統上，駭客攻擊難度高、耗時長，需要極少數人掌握的技能。但人工智慧工具的快速普及，使得許多即使不是專家的普通人，也都能輕易入侵系統。
然而，英國人工智慧安全研究所(AISI)發現，新出現的人工智慧模型都具備不同程度的網路漏洞識別能力，即使不必然會發現人類無法發現的漏洞，但它的速度更快、更徹底、更執著。在對Mythos模型進行調查測試後指出，Mythos只能攻擊「規模小、防禦薄弱且易受攻擊的企業系統」，雖然它的能力比之前的模型有所提升，但並沒有跡象證明，真正安全的軟體或網路會面臨風險。
這可能是一件好事。因為缺陷是有限的，對於開發或維護軟體的工程師來說，利用人工智慧系統，最終能夠發現和修補缺陷，能在產品發表前完成。
簡言之，人工智慧愈來愈擅長發現漏洞，惡意攻擊者雖會從中受益，但同時也會幫助軟體開發商，在維護多年前編寫的陳舊龐大軟體時，更知道該從何處著手。就連Anthropic也認為，駭客級人工智慧最終將使防禦者比攻擊者受益更多。
從美國政府對Anthropico的態度也可看出其立場的轉變。今年2月，五角大廈因Anthropic公司拒絕將其技術用於監控人民和大規模毀滅性武器，而將其認定存在「安全風險」，並因此切斷與其簽訂的合約，轉與OpenAI合作。但在Mythos突破性的技術反映出整個領域更廣泛的轉變後，白宮又認為Anthropic「具有戰略價值」，重新邀請其加入。
美國政府認知到，人工智慧將使駭客攻擊和防禦駭客攻擊變得更加容易，忽視這項技術的人將處於巨大劣勢。專家也提醒，應該要把這次Mythos風波看作是一次警示，並假設18個月內對手也將掌握類似的能力，現在還有搶占先機的可能。正因為如此，美國至今管制Mythos，不准流向中國。顯然，無論是國家還是企業，誰能創造出最強大的人工智慧模型，都將在地緣政治上獲得優勢，無論對手是盟友還是敵人。
然而從產業和民生角度來看，如果在網路安全方面無法建立一個國際協調框架，未來可能不再有一個安全的互聯網，而是多個自我封閉的網路相互競爭，彼此互不信任。長此以往，互聯網將不再是全球公域，而是被分割成一個個安全聯盟：雖然個別都受到更嚴密的保護，而更廣泛的安全保障卻在悄悄流失。
