藏帶貨、詐騙多重陷阱…「AI霸總」圍獵中老年女性
中老年女性因「AI霸總」受騙,年輕人找上知名、高端婚戀機構尋覓良緣,卻落得人財兩空的案例也屢見不鮮。對這些受害人來說,「AI霸總」、「學霸」是誰和是否掉進陷阱似乎已不重要,在那個瞬間,他們願意付出所有,只為「買一個陪伴」。
「有個上市公司老總手捧鮮花,說這輩子沒啥遺憾,就等我,問我願不願意跟他走」,「姐姐,年齡算啥,以後我寵你」……,在短視頻平台上,無數個這樣喊著姐姐的「AI霸總」對著鏡頭說著情話,而畫面底部有一行不起眼的小字:作品含AI生成。這類「AI霸總」實質上就是數字人,瞄準老年群體,背後藏著帶貨、詐騙等多重陷阱,這一段段看似深情款款的視頻,正圍獵中老年女性,讓全國人大代表也急了,在近日的「兩會」上疾呼嚴打。
奶奶要去外地「奔現」
翁瑤的媽媽今年68歲,20多年前離異,平日消遣愛刷短視頻,去年11月起頻繁提及有富商想跟她在一起,翁瑤接過手機才得知,媽媽的短視頻帳號已被「AI霸總」攻陷。姜小星的奶奶則關注了三、四十位畫風雷同的帥氣「AI霸總」,當手機屏幕裡傳出一句句「姐姐,心裡很捨不得妳」等的「情話」,總讓奶奶無法招架。
據中國新聞周刊報導,老年人對「AI霸總」的癡迷程度不止停留在「養眼」。這類視頻中,「AI霸總」往往會釋放出求偶信號,「共度餘生」、「找個疼你的人」等常見話術。視頻的評論區則匯集了大量老年人回應「好啊,等你來找我」。
「我們覺得『一眼假』的東西,奶奶是真的分不清」,姜小星說,儘管已向奶奶多次解釋視頻的公共屬性,但每當奶奶刷到「AI霸總」視頻,她還是會認為那些話術是「AI霸總」向自己釋放的專屬愛意。一個月前,奶奶還提到要去外地與一位「AI霸總」「奔現」,被家人及時勸止。
北京紅颯律師事務所主任律師黃啟瑞今年年初也接觸過有關「AI霸總」的諮詢案例。諮詢人的母親從去年10月起開始接觸「AI霸總」視頻,後來與一位「AI霸總」私信交談甚久,進而被推銷保健品。黃啟瑞指出,這類視頻給中老年女性提供情緒價值,然後激發這一群體非理性消費或投資行為,進而實現騙財、斂財。
建專屬粉絲群帶貨
部分「AI霸總」帳號會建立專屬粉絲群,每天分享直播鏈接。比如一個名為「建國情感」的「AI霸總」直播間,打著「AI霸總給你送禮物」的名義,推銷一款售價為59.9元(人民幣,下同)的「武財神招財令掛件」,銷量達3.9萬件。還有「AI霸總」在商品銷售頁面演苦情戲「如果不是我開公司,想接你回家過好日子」,頁面上是一個售價99元的女士手鐲銷售頁面。
這類以帶貨為目的的「AI霸總」視頻,通常由商家外包給專業視頻製作團隊生產。某電商平台視頻製作團隊成員表示,團隊專業接商單,包括與跨境電商合作,其團隊對接的商家最少會要求做30到50個視頻,量大的會合作幾百個;報價方面,一分鐘以內的視頻,代做一個50元;代做50個,每個視頻40元;代做100個視頻則單價降到30元。
報導調查還發現,不少「AI霸總」背後由婚戀機構運作,給「AI霸總」點了關注後,私信即刻彈出對方發來的鏈接卡,聲稱「點擊即可獲得哥哥的聯繫方式」,但必須先花980元辦會員。
記者用生成式AI創作平台先後製作了三個10秒的「AI霸總」視頻,六小時即生成,發布不到18小時收獲了500多位粉絲,瀏覽量達1.2萬,還收到中老年女性的大量評論、私信,有的透露了生日、年齡等信息。而記者發布的「AI霸總」視頻,其中「緩緩掏出鑽戒」的精細指令,生成的「AI霸總」卻僅拿起了鑽石,但這一不合常理之處沒人發現。
「眼見為實」反上當
快思慢想研究院院長田豐分析中老年人容易「中招」的原因,一方面,中老年人作為AI時代下的「弱勢群體」,更容易相信「眼見為實」;另一方面,2023年起,AI數字人在短視頻賽道被大量運用,當其被濫用於黑灰產,在評論區不斷有人造勢的情況下,老年人出於從眾心理更容易上當受騙。
黃啟瑞指出,因相信「AI霸總」視頻遭遇財產損害,維權困難的原因在於,當前生成式AI的技術門檻較低,一旦被騙,受害者因缺乏取證技術及工具,難以獨立完成證據收集,證據鏈無法形成閉環。這種情況下,如果委託律師維權,又要承受高昂的維權成本。
檢索短視頻平台發現,當前大多數「AI霸總」視頻都標有「內容由AI生成」一行小字,難以對用戶起到顯著提示作用,仍有少量視頻缺乏標識。
黃啟瑞認為,短視頻平台應加強對視頻內容的監測過濾。田豐建議,AI視頻生成模型應建立負樣本庫,「希望這類模型去預訓練一些負面樣本,使模型能第一時間識別詐騙、黑灰產等用途的不良素材和指令,直接從源頭上阻止不良視頻的生成」。

