網羅多家龍頭 商務部設AI國家隊

拜登政府宣布網羅200多家實體加入新的聯盟，以支援生成式人工智慧(AI)的安全開發和部署，其中包括多家AI龍頭企業。

商務部長雷蒙多(Gina Raimondo)宣布成立美國人工智慧安全研究所聯盟(AISIC)，成員包括OpenAI、Alphabet旗下的谷歌、Anthropic和微軟，以及Facebook母公司Meta Platforms、蘋果、亞馬遜、輝達、Palantir、英特爾、摩根大通和美國商銀。

雷蒙多在聲明中表示：「美國政府在制訂標準和開發所需的工具以減輕風險和利用AI巨大潛力方面，可以發揮重要作用。」

該聯盟還包括BP、思科系統、IBM、惠普、諾斯洛普格魯曼、萬事達卡、高通、Visa以及主要學術機構和政府機構，將隸屬於美國人工智慧安全研究所(USAISI)。

該小組的任務是開展拜登總統去年10月AI行政命令中提到的優先行動，「包括制訂紅隊指導方針、能力評估、風險管理、安全保障以及對合成內容加浮水印。」

主要AI企業去年承諾將AI生成的內容添加浮水印，以使技術更安全。紅隊多年來一直在網路安全領域用於識別新風險；該術語源自美國冷戰模擬，其中敵人被稱為「紅隊」。

拜登的命令指示各機構制訂測試標準，並解決相關的化學、生物、放射性、核子和網路安全風險。

去年12月商務部表示正在邁出第一步，為AI的安全部署和測試編寫關鍵標準和指南。

商務部表示，該聯盟代表最大的測試和評估團隊集合，將專注於為「人工智慧安全的新測量科學」奠定基礎。

生成式AI既讓人興奮，也讓人擔心它可能會讓一些工作變得過時、顛覆選舉，並可能取代人類並產生災難性影響。

雖然拜登政府積極尋求保障措施，但國會針對AI的立法努力卻陷入停滯。