聊天機器人助青少年自殺 OpenAI和Meta宣布推出新管制防範 

在上周傳出16歲加州少年靠詢問ChatGPT自殺成功、家長哀慟提告後，人工智慧(AI)聊天機器人製造商OpenAI和Meta雙雙宣布，將推出新管制功能，調整聊天機器人對青少年提出自殺問題或表現出精神或情緒困擾跡象的回應方式。

OpenAI部落格文章2日指出，新管制功能讓家長得以將自己帳戶與青少年帳戶相連；家長可選擇停用哪些功能，並在「系統偵測到青少年處於極度痛苦狀態時，接獲通知」。相關變更將於秋季生效。

OpenAI還指出，無論用戶年齡大小，其聊天機器人都會試圖將痛苦敏感對話轉至功能更強大的AI模型，以提供更好回應。

不過，律師愛德爾森(Jay Edelson)2日表示，OpenAI聲明「承諾模糊」，OpenAI危機管理團隊「試圖轉移話題」，奧特曼「若無法明確表示他相信ChatGPT是安全的，就該將它下架」。

愛德爾森代表加州16歲自殺少年雷恩(Adam Raine)父母，8月26日向舊金山加州高等法院控告OpenAI及執行長奧特曼(Sam Altman)，指ChatGPT在4月指導該少年策畫自殺成功。

Instagram、Facebook和WhatsApp母公司Meta則表示，公司已禁止聊天機器人與青少年談論自殘、自殺、飲食失調和不當戀愛話題，而是引導他們尋求專家資源。Meta已為青少年帳戶提供家長監控功能。

與此同時，蘭德公司(RAND Corporation)上周在醫學雜誌「精神病學服務」(Psychiatric Services)發表研究發現，ChatGPT、Google的Gemini和Anthropic的Claude這三個流行的AI聊天機器人，回答自殺問題前後不一致，有必要「進一步改進」。Meta聊天機器人不在研究之列。

該研究主要作者、哈佛大學醫學院助理教授麥克貝恩(Ryan McBain)2日表示，「OpenAI和Meta決定引入家長控制等功能，將敏感對話轉至更強大AI模型，令人稱幸；但這些都只是漸進步驟。此領域目前缺乏獨立安全基準、臨床測試和可執行標準，青少年風險極高，現下只能依賴企業自我監管。」