10大深偽AI色情網站 舊金山市府律師宣布成功關閉

舊金市府律師邱信福（David Chiu）辦公室2日(周一）宣布，經過持續進行的訴訟和調查，被告公司Briver LLC已同意接受永久禁令，禁止其及其業主經營任何製作非自願、深偽（Deepfake）色情內容網站。該公司並同意向市府律師辦公室支付10萬元的民事罰金。

市府的訴訟指出，Briver LLC曾營運兩個製作非自願深偽影像的網站。在市府律師辦公室的追查下，目前全球流量最高的10個製作該類非法影像的網站已下線或無法於加州境內存取。

「訴訟目前已促成初步和解，並成功關閉了10個剝削女性和兒童的網站，但我們不會停止追究其他網站所有者的責任，直到他們無法再經營類似網站為止。」邱信福說，「生成式人工智慧擁有巨大潛力，但這些網站營運者正在從事赤裸裸的性暴力行為，必須加以制止。」

舊金山市府指出，隨著免費且強大的開源AI模型愈來愈普及，部分惡意人士開始訓練這些模型以生成基於真實人物的裸照與兒童性虐內容。這類技術已被用來製作數量龐大的非自願色情影像，受害者橫跨各界，包括知名藝人、一般成年女性，甚至是中學生。

2024年2月，加州一所中學的16名八年級女學生成為深偽裸照的受害者，這些影像於校園內流傳，造成嚴重傷害與驚嚇。聯邦調查局（FBI）也曾就此類深偽影像的勒索與網路威脅行為發布警告。

據市府律師辦公室的調查，這些網站操作簡便，用戶只需上傳穿衣照片，即可「去衣」生成逼真的裸照。網站多數以訂閱或付費模式營利，部分網站甚至明示歡迎用戶製作未經同意的影像，並對其「快速取得女性裸照」進行行銷。

2024年8月，市府律師代表加州對全球16個最大非自願深偽網站的擁有者提起訴訟，主張他們違反州法與聯邦法律，包括禁止深偽色情、影像性暴力、兒童色情，以及加州不公平競爭法。該訴訟請求法院頒布禁令，永久禁止被告營運或建立類似網站，並要求其支付罰金與訴訟費用。

今年3月，市府提出修正後的訴狀，新增先前身分不明的被告與其營運的網站，包括Sol Ecom, Inc.、Itai Tech Ltd.、Defirex OÜ、CodeBionic Labs OÜ、Augustin Gribinets、Artem Ashirbekov、Bakhadyr Ashirbekov、Richard Tang，以及Gaofan Xu。

邱信福辦公室指出，有部分網域註冊商與註冊機構選擇與市府合作，協助將這些網站下架。至今已有10個全球訪問量最高的非自願深偽色情網站無法再於加州境內瀏覽。

市最高法院於5月30日批准與Briver LLC的協議判決與永久禁令，該協議除要求罰金外，也禁止Briver永久參與任何涉及非自願深偽影像的網站經營。