AI換臉、變聲冒充好友 視頻電話詐財難防

AI應用逐步落地，但人類還沒來得及開始提出如何與AI和平相處的對策，就已先被AI打敗。最近不斷興風作浪的AI詐騙，成功率十分高，令人防不勝防，也讓人類與AI的「攻防戰」提前開打。

今年是AI人工智能技術爆發的大年，AI產品已應用於多個領域。但令人意外的是，理應造福人類的AI技術，竟先被騙子和不法分子玩出各種花樣，成了詐騙和獲利的利器。這些AI詐術突破了法律和倫理界線，侵入到普通人的生活，「以假亂真」讓被害人幾乎無法辨別。專家呼籲，必須盡速加大監管力度。

●生物特徵 二次加工利用 

中國新聞周刊報導，福州市某科技公司法人代表郭先生4月20日接到好友視頻電話稱，其朋友在外地投標需430萬元人民幣（約60.6萬美元）保證金，想借用郭先生公司帳戶走帳。基於視頻聊天見過「真人」前提，郭先生沒多想就在9分鐘內將430萬元打給對方，沒想到發微信給好友確認時，才意識到自己竟然遇上通過智能AI換臉技術佯裝成好友的「高端」騙局。

無獨有偶。4月在安徽安慶經開區，騙子在QQ上告訴何先生，急需資金周轉，何先生打了九秒視頻電話確認，又基於可信任的「好友」關係，立刻將245萬元打到對方指定的帳號上，事後撥打電話才得知騙子利用智能AI換臉「冒充好友」詐騙。

第五空間信息技術研究院院長談劍鋒表示，從技術原理上看，AI換臉及擬聲技術本質上是對人臉、聲音等生物特徵信息二次加工利用，一般可從已知的數據中提取關鍵特徵，通過深度學習算法進行模擬運算，最終生成逼真的圖像和語音，這也是近年來人工智能技術的重要成果。

而這樣的前沿技術，卻被詐騙分子應用於多個場景。綜合已發生的詐騙案件來看，當前AI詐騙主要有變聲、換臉、自動應答等幾類手段。比如AI聲音詐騙中，詐騙分子通過撥打騷擾電話等，錄音提取詐騙對象及其重要關係人的聲音特徵並進行合成，進而用偽造的聲音實施詐騙「以假亂真」，詐騙對象幾乎無法辨別。

奇安信安全專家裴智勇表示，僅僅通過換臉，詐騙分子就能演繹出換臉欺詐、換臉敲詐等多種騙術，比如將一個人的臉換到一段不雅照片或視頻上，之後威脅對方。談劍鋒認為，「尤其可怕的是在AI技術加持下，詐騙分子可以更加智能地選擇詐騙對象，從而精準詐騙」，這實際上是詐騙術的升級換代，不僅使操作手段精細化，詐騙思路也有不同程度的深化，更難對付。

●動作生硬 並非毫無破綻

不過，AI技術仍然有一些缺陷，以AI換臉為例，詐騙並非毫無破綻。報導指出，由於臉部特徵數據精確採集並不容易，多數使用正面證件照片進行模擬替換，有些假臉眨眼的頻次明顯少於正常人，甚至不會眨眼，張嘴也是如此，動作可能也非常生硬，紋理也不自如，因此可以通過觀察眨眼、張嘴、轉頭等動作來大致判斷真偽。

另外，由於AI換臉技術需要一定的算力，因此增加場景的複雜性或者突然增加不規則物體，例如要求在臉部晃動手指或者某個不常見物體，假臉就可能出現跳動或變形，從而讓換臉術失效。

裴智勇認為，各類人臉識別系統、人臉數據存儲系統都可能成為攻擊者批量盜取人臉數據的目標，必須不斷提升自身安全水平，研發更加安全的輔助驗證技術，提升攻擊者的攻擊門檻。而在社交網路流行情況下，人臉等個人信息很容易擴散，個人需要切實提高「眼見也未必為實」的安全防範意識。

●混淆身分 恐毀信用體系

談劍鋒認為，由於人臉等屬於唯一性、不可再生性的生物特徵信息，AI換臉詐騙不僅讓個體遭受較大的損失，而且能極大程度混淆身分信息，甚至可能令社會信用體系走向崩潰。

「新技術是一把雙刃劍，在造福人類的時候，也易被非法利用，必須加強監管，」在北京索朗律師事務所律師韓利看來，監管須多管齊下，首先在完善相關法律法規基礎上，加大對AI換臉、變聲服務企業的監管力度，同時要利用新技術提升技術監管能力，採取攔截提示、搜索屏蔽等措施，從源頭上予以阻斷，並加大宣傳力度，提升大家的防範意識。

韓利表示，聯合執法是遏制與防範AI詐騙的重要探索，通過警方、網信、金融、學校等部門廣泛參與，在打擊詐騙與宣傳引導上不斷發力，形成強大高壓震懾態勢，逐步遏制AI技術詐騙犯罪行為。