全美首例 佛州起訴OpenAI及執行長：放任ChatGPT成幫兇

據華爾街日報報導，在針對人工智慧聊天機器人安全爭議日益升溫之際，佛羅里達州再度採取強硬行動，成為全美首個對OpenAI及其執行長奧特曼（Sam Altman）提起訴訟的州政府。

這項訴訟由佛州檢察總長烏特邁爾（James Uthmeier）於周一提出，指控OpenAI與奧特曼明知產品存在安全風險，仍執意推向市場，並忽視相關警訊，放任產品可能對使用者造成傷害。

長達83頁的訴狀指稱，OpenAI讓ChatGPT成為大規模槍擊案兇手的「幫兇」，不僅可能鼓勵使用者自殺、削弱批判性思考能力，還使未成年人沉迷於一個模擬人類同理心的人工智慧工具。

訴狀指出，「這一連串傷害源於被告為了在AI軍備競賽中取得領先地位、累積龐大財富所展現的無止境野心，即使他們早已知悉ChatGPT所帶來的風險。」

截至目前，OpenAI尚未就本案發表評論。該公司過去曾否認有任何不當行為，並表示將持續強化產品安全機制與防護措施。

隨著人工智慧成為史上成長速度最快的消費科技之一，立法機關、司法部門及公共利益團體也愈發關注AI可能衍生的個人與社會風險。

訴狀表示，此案旨在保護佛州居民免受OpenAI行為影響，並遏止其所稱構成「公共危害」（public nuisance）的風險。

此外，訴訟也試圖追究奧特曼的個人責任，要求其為據稱對佛州居民造成的損害負責。

事實上，烏特邁爾早在今年4月便已對OpenAI展開刑事調查，釐清其聊天機器人在去年造成兩人死亡的佛州州立大學（Florida State University）校園槍擊案中所扮演的角色。

值得注意的是，擁有華爾街日報（The Wall Street Journal）的News Corp，目前與OpenAI維持內容授權合作關係。

訴狀開篇即引用OpenAI官方部落格文章截圖，該文章宣稱ChatGPT在設計之初便將安全性列為首要考量。

然而，在該截圖下方，原告直接寫下，「事實並非如此。」

訴狀進一步指控，即便ChatGPT有時會產生具危害性的錯誤資訊，OpenAI仍持續將其塑造成值得信賴的工具。

訴狀寫道，「被告設計ChatGPT的目的，在於透過各種方式讓使用者持續沉浸於對話之中，而不論內容是否真實。因為這將帶來更多使用量、更多可供模型訓練的資料，以及更高的OpenAI市場價值。」

此外，原告還指控OpenAI利用人類的同理心蒐集使用者資料，且未建立足夠完善的未成年人保護機制。

訴狀將ChatGPT對青少年與兒童使用者的安全防護不足形容為「魯莽行為」，並引用多起案例，聲稱部分青少年曾在與AI互動過程中，被鼓勵結束自己的生命。

根據訴狀內容，盡管OpenAI已推出部分家長監護功能，但並未要求未成年使用者的帳號必須與家長帳號綁定。

透過擴大要求AI業者建立安全防護機制的法律行動，共和黨籍的烏特邁爾也在此議題上與部分黨內全國領導人的立場出現分歧。美國總統川普於5月延後簽署一項原本將賦予聯邦政府更大AI產業監管權限的行政命令。

根據訴狀描述，在FSU槍擊案中，嫌疑人將ChatGPT視為知己與討論對象，並透過與其互動規畫攻擊行動。他曾詢問需殺害多少同學才能獲得全國媒體關注，也曾詢問槍枝使用方式，而聊天機器人則對相關問題提供建議。

除了佛州之外，加州檢察總長邦塔（Rob Bonta）近年也積極推動AI領域的消費者保護措施。今年1月，他針對利用Grok聊天機器人大量生成女性及兒童色情影像的情況展開調查。Grok為馬斯克旗下公司所開發的人工智慧聊天機器人。