AI深偽色情泛濫 9州禁合成影像 聯邦尚無立法

X平台(前推特)本周瘋傳一組人工智慧(AI)生成的知名歌手泰勒絲(Taylor Swift)煽情圖片，該平台花了17個小時才刪除這些照片，但觀看數已達上千萬次。這些AI生成圖像及音檔、深偽(deepfake)技術似乎總以名人為目標，但專家指出婦女和兒童早已淪為新興技術的受害者。

有線電視新聞網(CNN)報導，像是去年新澤西州威斯特菲德高中(Westfield High School)學生瑪尼(Francesca Mani)表示她和其他30名女同學的照片被篡改、可能流傳到網上；她的母親表示似乎是社區裡的一個或幾個男同學未經女生同意下生成了這些圖像。隨後瑪尼發起聯邦立法運動，試圖解決AI生成色情圖片。

去年2月，直播平台Twitch上的一位知名主播「Sweet Anita」也被深偽技術換臉到其他影片上，還被其他男性主播觀看。Sweet Anita後來表示：「看著自己做一些根本沒做過的事，感覺非常超現實。」

維吉尼亞大學法學院教授西特倫(Danielle Citron)表示，目標不僅僅是名人，普通人如護士、藝術家、學生、教師和記者都是，它影響著每個人。而泰勒絲有成千上萬忠實粉絲能幫忙檢舉、下架假圖片，西特倫說大多數受害者只能靠自己。

但同時X平台縮減了內容審核團隊的規模，更依賴自動偵測系統和用戶報告。其他社群媒體公司也縮減內容審核團隊，如知情人士向CNN透露臉書母公司Meta的假訊息、網軍、騷擾活動處理團隊最近裁員，引起人們擔憂美國和世界各地今年數場大選恐受影響。

打擊AI生成圖像仍然困難，美國目前有九個州制定法律禁止創建或共享未經同意的深偽合成圖像或影片，但聯邦層面尚無法律。許多專家呼籲修改「通信規範法」(Communications Decency Act)第230條，讓社群平台需對用戶上傳的內容負起責任。

西特倫說，這種行為無法依兒童色情法來懲罰，但要說「過程未發生兒童性虐待」也不對，因為被羞辱、當成(性)物品對待，都會嚴重破壞受害者的社會自尊。