AI音訊工具淪深度偽造幫凶 網民借名人聲音罵髒話

英國人工智慧（AI）公司Eleven Labs的音訊工具被人用來仿製名人的聲音、讓他們說一些種族歧視和恐同字眼後，該公司30日表示，正在檢討自身「防護措施」。

法新社報導，Eleven Labs推文稱，公司度過一個「瘋狂周末」，並坦承在公布這款工具的試用版幾天後，就發現「愈來愈多仿製聲音的濫用案例」。

Eleven Labs未提供這些案例的細節，但它表示，網路論壇4chan湧入假借名人聲音來罵種族、性別歧視和恐同字眼的深度偽造（deepfake）之作。

許多貼文都提到Eleven Labs，一些用戶宣稱已被這家公司禁絕，另一些人則提供這款工具的試用版連結。

4chan論壇充斥冒犯他人的笑話而惡名昭彰。被論壇用戶盜用聲音的名人包括「哈利波特」（Harry Potter） 電影的影星們，以及電影導演昆汀塔倫提諾（Quentin Tarantino）、喬治盧卡斯（George Lucas）等人。

Eleven labs號稱自家聲音仿製技術具備潛力，「可革新多種產業的內容製造、表達和互動方式」。

Eleven labs曾製作一段宣傳影片，內容仿製其他名人的聲音來替影星李奧納多狄卡皮歐（Leonardo DiCaprio）配音。

Eleven labs推文稱自家技術「絕大多數被用於正向用途」，但仍需要「額外防護措施」，考量中的選項包括手動核對每個仿製要求，或是讓帳戶認證措施變得更嚴格。