教宗布道假影音充斥 YouTube終止16頻道… AI輕易躲偵測

自梵蒂岡上月迎來新教宗後，以人工智慧(AI)生成假冒教宗布道的影音迅速在社群媒體流傳，吸引大量點閱，包含YouTube等影音平台業者難以妥善管控。

美國籍樞機主教普雷沃斯特(Robert Prevost)於5月當選羅馬天主教新教宗，名號良14世。

一項調查發現，自新教宗上月開始引領羅馬天主教會後，在影音平台YouTube和抖音國際版TikTok，已有數10個頁面持續發布AI仿聲良14世的訊息或冒用其名的訊息。

中央社引述法新社報導，這些數以百計偽造的英文和西班牙文布道與演說，凸顯利用AI製造騙局很輕易能躲過偵測和欺騙觀眾。

華盛頓大學榮譽教授埃齊奧尼(Oren Etzioni)表示，「人們自然有興趣聽新教宗要講什麼，他們尚不清楚他的立場和風格。這是利用AI生成虛假訊息來製造混亂的絕佳時機」。

埃齊奧尼創辦了非營利組織TrueMedia.org，聚焦於打擊深偽(deepfake)。

YouTube被檢舉26個頻道上傳大量AI生成與教宗有關的內容後，YouTube終止其中16個頻道運作，理由是違反該平台關於垃圾郵件、欺騙行為及詐騙的政策；另一個頻道則因違反服務條款遭終止運作。

TikTok也刪除訂閱數合計超過130萬的11個帳號，理由是平台政策反對假冒他人、有害的錯誤訊息，以及以AI生成有關公眾人物的虛假訊息誤導社會大眾。

專家表示，即使是看似無害的虛假訊息也可能有問題，尤其是當這些內容被用來為帳號吸引互動、進而轉賣粉絲群，或日後轉向提供其他虛假訊息時。

另外，教宗良14世5日上午在梵蒂岡接見聖座保護兒童委員會成員。該委員會由方濟各教宗在他宗座牧職之初所創立，旨在保護弱小、預防侵犯，後來在聖座改革的過程中，將該委員會納入聖座教義部，並由委員會直接向教宗匯報。同樣地，教宗良14世也要求該委員會直接向他匯報，以確保在各方面盡全力保護兒童和脆弱者。

教會在處理侵犯案件方面邁出了一些重要步伐，包括創建保護兒童委員會，修訂教會法條文，提供多項工具，建立機制來舉報主教層級作出的侵犯和不當行為，規定教會團體有義務向民政當局報案，以及在各國制定保護兒童的綱領和規範。儘管如此，聖座保護兒童委員會表示，在各層面還有很多事情要做。