遭國防部停用 Anthropic執行長：堅守2底線但仍希望能合作

國防部機密網路內目前唯一部署的人工智慧(AI)模型來自新創公司Anthropic，軍方設上月27日晚間為最後期限，要求Anthropic「解放限制」以用於所有合法用途，否則將結束與國防部的豐厚合約。Anthropic仍堅持設立護欄(guardrails)，川普政府也切斷合作，宣布聯邦政府停用其產品，Anthropic執行長阿莫戴(Dario Amodei)27日受訪表示，仍希望與軍方合作，但前提必須解決公司的顧慮。

哥倫比亞廣播公司新聞網(CBS News)獨家專訪阿莫戴，他表示公司的立場很清楚，一開始就存在不可退讓的兩條紅線。他指的是Claude AI明確禁止軍方使用於大規模監控美國民眾，或用於全自主武器系統。國防部希望能用於所有合法用途，並表示並未打算用於上述兩種情境。

阿莫戴表示，Anthropic推動AI軍事應用的原因是他們也愛國，且相信這個國家。但他擔心某些潛在用途可能與美國價值相衝突，「若能與國防部達成共識，也許仍有協議空間。為了美國國家安全，我們仍希望事情能成功。」

他指出大規模監控是一大風險，因為AI可能讓過去做不到的事變得可能，而技術發展速度已超前法律，他警告政府可能購買私人企業資料並用AI進行分析。

理論上，AI也可能被用於全自主武器，能在無人類介入下選定目標並發動攻擊。阿莫戴說公司並非完全反對這類武器，特別是對手國家同樣在研發這類武器，但現在可靠性仍不足，且需要討論監督機制。由於AI技術仍難以預測，他擔心自主武器可能誤判目標，發動攻擊後責任歸屬也不明確。「我們不想出售不可靠的產品，也不想賣可能害死自己人或無辜人民的東西。」

國防部則認為，聯邦法律已禁止大規模監控美國公民，全自主武器則受內部軍事政策限制，因此沒有必要再以書面形式限制AI的這些用途。主管科技的副部長邁克爾(Emil Michael)26日受CBS News訪問表示作為妥協，軍方已書面聲明承認聯邦法律和軍事政策限制這兩種用途，但Anthropic表示該聲明充斥法律術語，使得護欄形同虛設。

阿莫戴被問到是否應由政府而非企業決定AI護欄時，他回應：「自由市場就是不同企業能依不同原則提供產品。我們最清楚自己的模型可靠與不可靠之處。」