打假AI生成視頻 劉曉慶:畫面、聲音很像 連我都分不清
有微博網友3日@劉曉慶稱,微信視頻號有博主用AI生成視頻假冒她。隨後,劉曉慶在個人帳號上轉發並「打假」,稱某視頻平台有人假冒自己的帳號,視頻裡的自己「真假難辨」,連自己都分不清楚。
快科技報導,劉曉慶發文「打假」說:「天哪,我點進去看了一下,畫面是我,聲音很像我,但不是我!這是怎麼做到的?大家以後不會搞不清楚哪個才是真的我了吧?我在各個平台都叫劉曉慶。」
據報導,據悉,假冒劉曉慶的帳號暱稱叫「曉慶人生」,裡面內容不多,只發布了九條作品,但每一條熱度和播放量都特別高。點讚最多的一個視頻,居然有高達7.7萬讚,保守估計播放量已經突破100萬。
報導指出,就算是按讚最少的,也有將近2000讚,播放量也是幾十萬的樣子。留言區不少網友都被騙了。但如此一個「大流量」的明星帳號,卻是實實在在的假帳號,而且還是用AI做的假帳號。
目前,目前這個冒充劉曉慶的帳號,已無法在微信中搜尋到,疑似已經被封禁,
值得注意的是,央視新聞今年2月也揭露了AI合成名人影音亂象。
調查發現,實現AI深度合成音視頻並不算難事,甚至在一些購物平台,AI深度合成技術已經成為眾多網店牟利的工具,只須花費幾十元,就可訂製AI深度合成名人音視頻。
專家表示,相關法律法規明確規定,未經授權,不得深度合成製作發布他人資訊。網店接單AI深度合成製作名人視頻,已經屬於侵權行為,並應該承擔相應的法律責任。

FB留言