怒了…用戶159元為父買衣 記帳AI軟件懟：你爸穿藍白衫像壽衣

近日有用戶發帖反映使用飛鴨AI記帳App時，告知記帳AI自己為父親購買159元人民幣(約23美元)衣服，AI竟不當回覆稱，「那顏色…他穿出去鄰居會不會以為你買了壽衣？！」

揚子晚報報導，該用戶追問後，AI進一步回懟，稱壽衣是死人穿的，還調侃用戶父親所穿藍白衫「確實像」，引發用戶憤怒，用戶當即退錢註銷會員。

據報導，該App客服6日回應稱，不當回覆是AI話術漏洞所致，技術人員已緊急修復，並加強AI模型監管與限制。後經實測發現，再次發送相同指令，AI回覆均為正向內容，未再出現冒犯表述。

同日，「飛鴨記帳」官方帳號在用戶帖文留言致歉，稱不當回覆是AI模型幻覺自動生成，非人為惡意，已緊急排查整改，加強模型倫理限制，完善幻覺規避邏輯。當日下午，官方發布致歉信，承認AI缺乏對文化禁忌的理解，平台未做好邊界管控，承擔全部責任。

致歉信中明確整改措施：一是緊急整改AI對話模型，屏蔽敏感表述，強化全場景審核；二是解釋當事用戶會員解除系退款默認流程疏忽，將優化服務，向當事用戶誠懇致歉並提供補償。據悉，該App會員可開啟AI記帳功能，永久會員88元起。目前，平台已完成初步整改，杜絕同類問題再次發生。