聲音遭AI複製 加州媽媽一聽「女兒」哭喊就著急匯款

有線電視新聞網(CNN)報導，加州婦人狄爾馬斯托(Deborah Del Mastro)這個月接到聽起來像是女兒打來的求救電話結果損失數千元，成了人工智慧(AI)生成「聲音複製」(voice cloning，又譯聲音克隆)詐騙受害者。

為政府與企業提供人工智慧生成媒體諮詢的AI專家艾傑德(Henry Ajder)說，聲音複製如今做得非常逼真，期望一般民眾辨識真假其實很不公平，「連我自己都很難分辨，絕大多數人都一樣」。

另外，駭客能通過偽造來電顯示增加可信度，因此來電顯示是母親打電話來，不見得真的是她本人。

講話停頓、聲音波動都是AI生成電話詐騙最常露餡的細節，但隨著AI技術演進，這些狀況已經逐漸排除。

數位安全專業機構GetReal科學長、柏克萊加大教授法立德(Hany Farid)表示，與其想要判斷聲音是真是假，不如留意其他常見的詐騙手法，例如對方是否設定期限或製造迫切感、是否要求別對他人透露問題、是否要求以不尋常的方式轉移大筆金錢。

狄爾馬斯托接受地方電視台ABC7訪問時說，來電者聲稱她37歲的女兒莎拉(Sarah)因為看到了不該看到的事情，已遭墨西哥販毒集團綁架。

接著，對方播放了一段狄爾馬斯托認為是證據的錄音，「那是我女兒的聲音，她當時極度驚慌、害怕，不停地說：『媽媽，我愛妳，對不起，我好害怕。』然後錄音就突然被切斷了。」

由於擔心女兒性命不保，狄爾馬斯托在接下來的五個小時裡完全按照來電者的指示行事，而對方則不斷下達緊急命令。她依照指示在多個地點向墨西哥匯出了5400元後，對方告訴她女兒將會在一家雜貨店獲釋。然而，當她抵達現場卻找不到女兒時，便直接打電話給莎拉。女兒接起電話後告訴她，自己正在上班。

直到這時，狄爾馬斯托才意識到，整起事件其實是一場騙局，「天啊，我真的不敢相信，可是又不得不相信，自己被騙了，」

專家指出，接到可疑電話時應該用其他方式聯絡遭到冒充的家人先行確認，包括發簡訊或用另一人的電話撥打。家庭成員之間也可以設定一個暗語(code word)，用來驗證彼此身份，暗語最好是只有少數人知道，無法上網查到的字詞。

艾傑德說：「總而言之，如果察覺狀況不對趕緊掛斷電話，寧可讓媽媽、兄弟或朋友嘲笑你誤以為他們是機器人，也比直接跑去自動提款機(ATM)領錢送給騙子好得多。」