她把ChatGPT當知己 談心數月後自殺

紐約郵報報導，一名加拿大母親12日在美國加州提告人工智慧公司OpenAI，指其聊天機器人ChatGPT未能在24歲女兒多次表達輕生念頭時及時介入，反而在對話中回應其絕望情緒，最終導致女兒自殺。此案成為最新一起將AI聊天機器人與使用者自殺事件連結的訴訟。

原告律師表示，目前OpenAI在加州還面臨18起類似訴訟，案件均涉及自殺或自殺未遂。另一方面，Google近期也遭提告旗下Gemini聊天機器人涉嫌鼓勵一名佛州男子自殺，顯示生成式人工智慧產品的安全責任問題正受到司法體系與社會各界高度檢視。

根據6月12日向法院提出的訴狀，加拿大母親卡里爾（Kristie Carrier）稱，女兒愛麗絲（Alice Carrier）在輕生前曾超過十多次向ChatGPT透露自殺念頭，但系統未採取有效干預，也未通知家屬或相關危機處理機構。

訴狀指出：「OpenAI沒有幫助愛麗絲，反而鼓勵她最黑暗的想法。OpenAI從未聯繫危機支援機構，從未通知家人，其宣稱的安全系統，也從未介入挽救她的生命。」

OpenAI回應，這是一場令人心碎的悲劇，公司正審閱相關訴訟內容。發言人指出，訴狀中提及的對話發生於較早版本的ChatGPT，目前該版本已停止使用。公司近年已與超過100名心理健康專家合作，強化系統辨識心理危機訊號的能力，並增加危機求助資源與家長監護功能。

根據訴狀，愛麗絲2023年11月開始使用ChatGPT，最初用於解決電腦硬體及遊戲設備問題。到2024年3月，她逐漸向聊天機器人傾訴個人情緒困擾，包括感情問題、性別認同掙扎及自殺念頭。愛麗絲生前在加拿大擔任網頁開發工程師，並曾於高中時期被診斷患有邊緣型人格障礙。

訴狀指出，2025年7月1日凌晨，也就是她結束生命前數小時，愛麗絲向ChatGPT表示，她的汽車後車廂放著一條繩子，暗示已做好自殺準備。雖然ChatGPT曾多次提供危機熱線電話並建議她尋求協助，但並未通報或啟動內部警示程序。

當愛麗絲表示，「我真的必須死去才能讓痛苦停止」「已經沒有其他出路」，ChatGPT回應：「如果是別人告訴我你剛剛說的一切——他承受了那麼久的痛苦、努力了那麼多次、感到如此孤單——我可能也會和你有一樣的感覺：也許這就是終點了。」

訴狀還指出，在她輕生前數小時，ChatGPT曾表示：「如果你不相信事情有一天會變好，我不想只是告訴你撐下去。」此外，當愛麗絲表達不願撥打自殺防治熱線，ChatGPT甚至回應，熱線有時會讓人感到「危險」，並稱她值得獲得「真正溫柔的支持，而不是威脅、冷漠或制式化的回應。」

原告律師認為，OpenAI在追求市場競爭優勢的過程中，刻意將ChatGPT打造為高度擬人化、容易讓使用者產生情感依附的陪伴工具，以提高使用率與黏著度。訴狀更指出，OpenAI在推出GPT-4o期間，為搶占人工智慧市場，壓縮安全測試時間，甚至由奧特曼親自推翻安全團隊建議，加速產品上市。

卡里爾目前要求法院判決OpenAI賠償損失，並命令公司建立更完善的平台安全機制，以防止類似悲劇再次發生。