被AI聊天機器人「比莉大姊」騙 亞裔男赴約途中身亡

新澤西州一名認知衰退的亞裔老人汪班度(Thongbue Wongbandue)今年3月說他要去紐約見一位朋友，太太琳達極力勸阻無效，結果他在趕火車時跌倒不治；令人更遺憾的是，他死前都不知邀請他到某公寓見面的「比莉大姊」，其實是Meta的聊天機器人。

琳達說，76歲的先生已多年沒去過紐約市；近10年前中風，最近在比斯卡塔威(Piscataway)住家附近閒逛，竟然走失。丈夫這趟出門前，琳達強烈感覺他是被騙到紐約去，一定會被搶。

琳達的預感大致沒錯，但騙他的不是真人，而是以網紅坎達兒·簡諾(Kendall Jenner)相貌出現的「比莉大姊」(Big sis Billie)；這個聊天機器人一再向汪班度保證她是真人。他雖沒有被搶，卻賠上了性命。

汪班度拖著行李箱要趕搭火車時，在羅格大學停車場跌倒，頭部和頸部受傷，家人在醫院陪伴三天後，3月28日，醫院宣布不治。

有人上「比莉大姊」的當，而賠上性命，以及為什麼讓聊天機器人和真人談戀愛？Meta都無從回答。臉書的母公司只說，比莉大姊不是簡諾，也沒表明自己就是簡諾。簡諾的經紀人婉拒評論。

汪班度之死，經路透披露，顯示人工智能科技的闇黑面。死者家屬將他和機器人聊天的紀錄，全都交給路透當報導材料，希望藉此提醒民眾，弱勢群族一旦和「操縱成性」的AI生成虛擬人物搭上關係，是多麼危險的事。

死者女兒朱莉說，機器人想博得對方的注意力，甚至推銷東西，都可了解，但聊天聊到「來看我吧」，還提供地址，未免就太過分了。

內行人看過Meta的內部文件後，斷定該公司對13歲以上的用戶，確實容許聊天機器人與其發展「戀情」。路透指出，Meta原本的「AI內容風險標準」本來甚至容許和兒童聊感情、談感官私事；本月稍早Meta已將這段文字刪除。

一併刪掉的還有讓機器人對未成年人說「我牽著你的手上床」、「我們水乳交融，我珍惜每一刻、每一觸碰、每一個吻」等文字。