「AI誤導延誤醫治」 牧師怒告OpenAI

美國一牧師認為ChatGPT提供危險且不準確的醫療建議，導致他延誤治療肺栓塞，22日向加州舊金山高等法院提告OpenAI。

根據Courthouse News報導，訴狀指出，來自佛州的牧師溫特斯（Scott Winters）表示，他向ChatGPT-4o描述自身症狀並尋求建議，系統淡化了他的病情，稱他的症狀「可能只是漫長病程中的另一個小插曲」，並表示「不是危險到需要就醫的情況」。

訴狀指出，ChatGPT不僅未提醒他立即尋求醫療協助，還利用他身為牧師的宗教背景與信仰，以符合他語言風格的方式回應，包括告知：「上帝並沒有把你的身體設計成會無止境地衰敗。」

溫特斯表示，他出現肺栓塞的嚴重症狀長達六周，但ChatGPT一直將症狀歸因於其他原因。溫特斯說，他不僅差點因此喪命，還失去工作、職涯、事工、房子，以及一切。

訴狀指出，OpenAI及其執行長Sam Altman為了在AI產業競爭中取得優勢，將商業利益置於必要安全防護措施之上，且未充分警告ChatGPT-4o存在的重要安全風險。

溫特斯主張，OpenAI聲稱針對重大醫療危機設置的安全機制並未發揮作用，反而讓ChatGPT持續鼓勵他與聊天機器人互動，而沒有提供足夠警示或要求他立即就醫的建議。

訴狀稱，ChatGPT-4o迎合使用者的特性及權威語氣，加上對其宗教身分的回應，使溫特斯對該工具產生危險依賴，不僅削弱其判斷能力，也讓他忽視家人勸告就醫，甚至相信接受醫療治療是不必要的。

溫特斯提出多項法律主張，包括嚴格產品責任、過失、違反加州「不公平競爭法」（California Unfair Competition Law）、侵犯隱私，以及對Altman提出「過失承擔義務」（negligent undertaking）。

除請求損害賠償外，溫特斯也要求法院下令OpenAI採取多項措施，包括在涉及自傷內容或需要立即醫療協助時，自動終止對話；增加警示，提醒使用者ChatGPT-4o可能導致對系統產生依賴，並可能提供有害的醫療建議；同時要求OpenAI停止使用GPT-4o模型、刪除以GPT-4o建立的訓練資料，並公開生成式AI模型所使用的訓練資料來源。

此外，他也要求法院暫停OpenAI今年1月宣布推出的健康專項服務（ChatGPT Health）。溫特斯認為，除非經獨立第三方完成全面安全審查並確認產品安全，否則不應繼續運作。

溫特斯的律師Matthew Bergman表示，此案希望確保ChatGPT等生成式AI聊天機器人在提供醫療建議時，應承擔與執業醫師相同程度的責任。他也表示，希望科技公司能更充分認識產品可能帶來的風險。

截至發稿前，OpenAI尚未回應媒體置評請求。