AI圖片、影片將藏「看不見的身分證」 加州新法上路

紐約郵報報導，加州一項具有里程碑意義的新法本月9日（周日）生效，要求人工智慧（AI）公司在生成的圖片、影片及音頻中，加入看不見的「數位指紋（Digital Fingerprints）」，以便使用者能辨識所看到的內容究竟出自真人亦或是AI生成。該法在遏止深度偽造、詐騙的虛假訊息，提升網路資訊透明度。

這項法案由民主黨籍加州眾議員威克斯（Buffy Wicks）及茲布爾（Rick Chavez Zbur）共同推動，規定AI公司需在所生成的內容中嵌入一種稱為「出處（Provenance）」，難以移除的數位資訊。使用者可將圖片、影片或音頻上傳至內容驗證工具，如「內容來源與真實性聯盟（Coalition for Content Provenance and Authenticity，C2PA）」所開發的驗證系統，查詢檔案來源與製作方式。

該法的目標是讓網際網路不再是毫無規範的「西部荒野」，民眾能具備辨識真假的能力。民主黨籍加州參議員貝克（Josh Becker）告訴KQED電視台，「雖然AI帶來不少好處，但我們已看見許多用於散播虛假選舉資訊、詐騙，及具傷害性的深度偽造AI內容。」

除加州積極立法外，紐約郵報先前報導，民主黨籍聯邦參議員謝安達（Adam Schiff）與眾議員康納（Ro Khanna）也正推動新的聯邦法，希望禁止利用AI假冒候選人身分，干擾聯邦競選活動。

這波立法行動，與政治人物近年開始大量採用AI競選廣告有關，包括共和黨籍加州州長候選人希爾頓（Steve Hilton）製作，抨擊現任民主黨籍州長紐森（Gavin Newsom）、前副總統賀錦麗（Kamala Harris）及民主黨籍州長候選人，前加州檢察長貝西拉（Xavier Becerra）的AI影片；前洛市長候選人，共和黨籍的普拉特（Spencer Pratt）推出「普拉特人（Pratt Man）」AI競選影片，也因充滿好萊塢風格，網上已累積數百萬點閱人次。

謝安達認為，人工智慧帶來的政治欺騙不分黨派，利用候選人肖像或聲音製作虛假的AI廣告歪曲其立場與政治理念，甚至偽造候選人觀點不僅錯誤，對民主更造成嚴重威脅。

新法還要求自2027年元旦起，大型科技公司需提供使用者一種方式，可辨識那些隱藏在眼前的AI生成內容；2028年，加州製造的手機與相機，也將被要求在影像捕捉瞬間同步記錄來源資訊，意味著每張照片都將有自己的「數位出生證明」。

上述法案早在2024年便正式通過，但由於AI技術發展速度驚人，立法者花費近三年才讓法案得以實施。制定相關規範時，立法人員也與歐盟（EU）密切合作，該法正式生效的日期，也恰巧與歐盟新版「人工智慧法案（AI Act）」同步。

目前新法第一階段主要針對AI公司，但專家認為，真正影響深遠的將是未來將規範擴及社群媒體平台。斯塔林實驗室（Starling Lab）研究員奎那（Stephen Sharp Queener）近日在Substack發文指出，若這些規定能落實執行，「將對整個資訊經濟（information economy）帶來更深遠影響。」