網站「深偽」色情影片 1200名人受害 曼哈頓地檢官查扣12網域

曼哈頓地區檢察官辦公室14日宣布查扣12個涉嫌利用AI技術非法製作「深偽」(Deep Fake)內容的網域，成為迄今為止針對此類違法行為規模最大的一次執法行動。根據已經證實的調查結果，共有約1200人成為被查扣網址的「深偽」受害者。

「深偽」(或稱「深度偽造」)是運用人工智慧(AI)學習真人容貌、聲音和動作，再按照使用者要求生成或竄改目標對象的影像或錄音。該技術能高度偽造一個人、尤其是公眾人物的影像，並讓觀看者相信目標任務說出了他們其實從未說過的話、或做出了其實從未發生過的事，其在非法色情、名譽抹黑或政治攻訐等行為上有廣泛運用。

調查發現，本次查扣的12個網域曾被不法人士用於發布、傳播和販售未經當事人同意的「深偽」影片，虛假呈現這些目標名人的性行為等偽造內容。被查的網站共訓練了有關1200名真人的「深偽」模型，能生成高度逼真的虛假影像，然後造假者再利用這些「深偽」內容不法傳播並獲利。

曼哈頓地區檢察官白艾榮(Alvin Bragg)介紹，這些網站在宣傳中明確將其自身定位為「深偽色情」創作者，約1200名受害人中絕大多數為女性公眾人物，包括演員、政客、運動員、音樂家、網紅和社會活動人士等，受害者的個人隱私已被封存保護，不會出現在公開法律文件上。白艾榮說，這些「駭人聽聞」的隱私侵犯行為與受害者的職業生涯如影隨形，對他們的精神健康構成極大傷害。

據悉，在公開網路上的「深偽色情」行為最初出現於2017年，並在2023年AI技術普及化以後開始氾濫，並開始被詐騙等犯罪集團廣泛使用。同年，紐約州將未經他人同意而生成「深偽」內容的行為列入刑法，兩年後，聯邦立法將此類行為定義為犯罪。今年5月至6月間，聯邦檢方先後針對「深偽色情」嫌疑人實施逮捕和查封網域的執法行動。

檢方表示，針對「深偽」違法的案件仍在持續調查中，如有公眾懷疑自己成為受害人，可撥打網路犯罪部門熱線(212)335-9600。