Google擬為Gemini推出全新心理健康防護功能

用聊天機器人提供心理諮詢的廠商（如OpenAI等等）面臨多起訴訟，指控其AI工具會導致病人的傷害，Google計畫為其Gemini聊天機器人推出新的心理健康防護功能，確保它不會無益反害。

聖荷西信使報報導，谷歌7日在一篇部落格文章中表示，Gemini聊天機器人將新增一個介面，當對話顯示「可能存在與自殺或自殘相關的危機」時，會將用戶引導至支援熱線。此外，該公司還為有關心理健康的聊天添加了「可獲得幫助」模組，並對設計進行了調整，以減少自殘行為。

Gemini和ChatGPT等工具的快速普及導致一些用戶對AI機器人產生了過度依賴，據稱這會導致妄想，在極端情況下甚至會導致謀殺-自殺事件。一些家庭已就此問題提控了多家領先的AI開發商。美國國會也開始調查聊天機器人對兒童和青少年的潛在威脅。

上個月佛州一名36歲男子的家人提控谷歌，稱其使用Gemini聊天機器人導致他「在四天內沉迷於暴力任務並被教唆自殺」。當時Google表示，該聊天機器人多次將該男子轉介至危機熱線，並承諾改進該工具的安全措施。

在其他案例中，聊天機器人用戶也表示，AI工具誘使他們根據明顯的謊言採取行動。在7日發布的部落格文章中Google表示，他們已訓練Gemini「不認同或強化錯誤信念，而是溫和的區分主觀體驗和客觀事實」。

過去Google在受到審查後也曾對其熱門的服務做出類似調整，例如在其搜尋引擎和YouTube中添加來自醫療機構和專業人士的資訊。谷歌也同時宣布，將在未來三年內捐贈3000萬美元用於全球危機援助服務。