舊金山女控ChatGPT助長前男友妄想 告OpenAI促禁用
舊金山標準（San Francisco Standard）報導，一名舊金山女子請求法官下令OpenAI永久禁止其前伴侶使用ChatGPT，稱該公司忽視了數月來的警告，該平台正將他推向危險的深淵；且他在另一司法管轄區因程序上的技術性問題獲釋後，至今仍在逃。
在上周五（10日）提交的法庭文件中，代表該女子的律師寫道，她正面臨「迫在眉睫的危險」，且OpenAI「數月前就已知曉該用戶具有危險性」。
案件提交數小時後，她的律師將批評意見發布到了社交媒體上，並稱「OpenAI掌握著關於一名危險人物的信息，此人已被ChatGPT誘導，沉迷於充滿妄想的陰謀論世界」、「他曾威脅我方當事人的生命安全，且已證明其有能力實施暴力計畫（持致命武器襲擊及炸彈威脅）」。
在周一（13日）於舊金山高等法院舉行的聽證會上，卡恩法官（Judge Harold Kahn）下令OpenAI繼續凍結該前伴侶的ChatGPT帳戶。該命令將持續有效直至定於5月舉行的下次聽證會。
法官還下令必須在數日內向原告律師提交被告帳戶的日誌紀錄，該女子的律師此前曾表示，這些紀錄可能顯示其本人及他人遭受進一步傷害的證據。
原告指控稱，OpenAI的GPT-4o模型專門「助長了(該用戶)日益嚴重的妄想」。該公司已於今年停止使用該模型。
訴狀指出，原告的訴求是「追究OpenAI的責任，因其設計的產品助長了跟蹤者的妄想，協助其對原告的家人、朋友、同事及客戶進行威脅和誹謗，且在多次警告後仍拒絕干預。該系列行為造成的累積傷害曾將原告逼至自殺邊緣。」
訴狀中一個引人注目的細節是，OpenAI內部存在一個被稱為「大規模傷亡武器」的分類器，該公司從未公開披露過這一標記；訴狀認為「該類別存在專門的內部標記，強烈暗示大規模傷亡武器內容在ChatGPT上已構成足夠普遍的問題，以至於需要專門的安全防護措施。」
根據原告的投訴，儘管該公司「確認了她的報告」，但OpenAI「未採取任何行動」，並「放任該用戶繼續使用ChatGPT生成更多心理報告，最終助長了他持續且公然的死亡威脅」。
據投訴稱，截至2026年1月，該用戶因「四項重罪指控被捕，包括2026年1月發布的炸彈威脅及持致命武器襲擊」。但原告律師表示，自獲釋以來，他一直在威脅原告，如果OpenAI願意配合，他們本可以揭示該用戶的行蹤及其計畫。
