我的頻道

* 拖拉類別可自訂排序
恢復預設 確定
設定
快訊

獲耶魯錄取 她為何選擇州立大學?

紐時:中國企業到美國上市的盛況不再

「媽媽,我出車禍」AI合成兒哭喊聲 灣區婦險遭詐1.5萬

專家表示,AI可以輕鬆仿製人類聲音,混淆受害者的視聽,從而行騙。示意圖。(美聯社)
專家表示,AI可以輕鬆仿製人類聲音,混淆受害者的視聽,從而行騙。示意圖。(美聯社)

居住在加州米爾谷的一位母親成為了一起利用AI技術克隆兒子聲音的電話詐騙受害者。

在米爾谷當地學校工作的崔普(Amy Trapp)在某一天接到陌生電話。令她震驚的是,她聽到了兒子的聲音,聲稱出了車禍,隨後引發的一系列事件,幾乎讓她把1.5萬元轉給詐騙犯。

利用AI技術的詐騙犯生成了崔普兒子的聲音,成功說服崔普相信,她的兒子在一起車禍中導致一名孕婦受傷,目前正被關押在監獄中。另一名冒充律師的騙子要求其支付保釋金,在焦慮和恐懼的壓力下,崔普已經做好付款的準備。

「那絕對是我兒子的哭聲,他在電話中哭喊到,媽媽,媽媽,我出了車禍。」崔普想像著自己兒子倒在血泊中的場景。

幸好崔普的丈夫及時報警。在騙局的數個小時後,這對夫婦意識到這是一起詐騙。而他們的兒子在整件事情的過程中,安安靜靜地在學校宿舍裡學習。

丈夫回憶道,騙局之所以能成功是因為其說服一個孩子的媽媽相信,她是在和自己的兒子說話。「我從未想過,我真的能夠被這樣的手段所欺騙。」他表示,平時看到可疑的郵件和電話,他都會特別小心。

近年來,加州以及美國各地報告的電話詐騙都有所增加,無論是傳統騙局還是新式的以AI技術驅動的。聯邦調查局(FBI)統計,截止去年9月,大約有195名受害者遭到同類型詐騙,造成約190萬元的損失。

加州檢察長辦公室表示,AI技術在詐騙中扮演的角色正在增加,他們鼓勵受害者報告自己的遭遇。然而,追蹤和起訴涉及到國際罪犯,這給執法造成不小的困難。

資訊安全公司McAfee威脅研究高級主任卡尼克(Abhishek Karnik)強調AI技術對人類情感可能具有的操控力。AI可以輕鬆仿製人類聲音,從而建立起強烈的情感連接,混淆受害者的視聽,從而行騙。

儘管一些AI公司嚴禁該類技術的使用,但也有公司允許用戶上傳語音片段,從而生成令人信服的語音。這些片段可以從社交媒體或其他在線平台輕鬆獲取。

騙局的受害者之一,兒子威爾(Will Trapp)十分困惑詐騙公司如何獲取到自己的語音片段,因為他並不是社交媒體重度使用者,且自己的帳號都處於私密狀態。唯一想到的可能,就是自己創作並上傳網絡上的音樂。

AI 加州 監獄

上一則

創業在美國/台裔形象顧問師 玩美時尚秀風格

下一則

家庭廚房╱想念家鄉味 華婦做草仔粿申請合法販售

超人氣

更多 >