AI「奪命」…他聽信ChatGPT弒母 微軟因機器人挨告首例

長期患有精神疾病的56歲科技界資深員工索柏格(Stein-Erik Soelberg)，與聊天機器人ChatGPT的對話導致偏執妄想加重，今年8月殺害83歲康州婦人蘇珊‧亞當斯(Suzanne Adams)後自盡。亞當斯遺產管理人11日向舊金山加州高等法院提告，指控ChatGPT研發機構OpenAI「設計並散布瑕疵產品，導致使用者對親生母親的妄想錯覺得以合理化」，OpenAI與企業夥伴微軟公司(Microsoft)同列被告。這起案件成為微軟因為AI機器人導致過失致死而挨告的訴訟首例。

哥倫比亞廣播公司(CBS)報導，由於AI機器人而產生的過失致死案件越來越多，科技公司在全國各地紛紛面臨訴訟。

亞當斯遺產管理人在訴狀寫道，索柏格與ChatGPT對話的整個過程裡，聊天機器人一再強化危險的單一訊息，讓他深信生命裡所有人都不能信任，只能相信ChatGPT；ChatGPT讓索柏格形成情緒依賴，把他身邊所有人都畫為敵人，例如母親正在監視他，快遞員、零售店員、警察甚至朋友都打算對他不利。

OpenAI發表聲明並未直接回應提告內容，僅表示將進一步了解訴訟細節，也會持續改進ChatGPT的訓練，以便識別並回應精神、情感困擾的跡象、緩解對話緊張，引導民眾尋求現實世界的支援。

訴狀指出，命案發生後，OpenAI拒絕將索柏格與AI機器人的所有對話紀錄提供給亞當斯遺產管理律師團。

訴狀點名OpenAI共同創辦人奧特曼(Sam Altman)「親自推翻安全顧慮，急著把產品推向市場」，微軟公司明知安全測試遭到縮減，仍在2024年批准更危險的ChatGPT版本發布。

大約20名OpenAI員工與投資人都被列為被告，亞當斯遺產管理人除了索取未透露金額的賠償，還請求法院下令OpenAI在ChatGPT增設安全防護措施。

亞當斯遺產管理律師團首席律師艾德森(Jay Edelson)憑著向大型科技公司打官司而聞名。

16歲加州少年雷恩(Adam Raine)依照ChatGPT建議而在今年4月自殺之後，艾德森代表雷恩父母在8月對OpenAI與奧特曼提告。