ChatGPT與少年談自殺 OpenAI挨告擬更新

在加州一名16歲少年與ChatGPT談論自殺話題後上吊身亡、少年家長對開發ChatGPT的OpenAI提起訴訟後，OpenAI決定對ChatGPT進行更新。

彭博社報導，OpenAI 26日發文表示，為了提高ChatGPT識別和應對有精神困擾用戶的能力，將對ChatGPT進行更新。此外，OpenAI還將加強有關自殺對話後的防護措施，並推出家長控制措施，以便讓家長能夠控制子女如何使用ChatGPT。

彭博社表示，這起訴訟是聊天機器人大量使用者做出危險行為的又一例證。本周，美國超過40個州的檢察長集體向十多家規模最大的人工智慧公司發出警告，稱這些公司有法律義務保護未成年人避免和聊天機器人進行不當性行為互動。

2022年推出的ChatGPT開啟了生成式人工智慧的蓬勃發展，聊天機器人現在已應用在各種領域。ChatGPT一直非常歡迎，目前每周有超過7億人使用。

然而，近幾個月來，聊天機器人受到消費者和心理健康專家愈來愈多關注，批評者認為此類軟體有潛在的危害。一個名為「人類熱線計畫」（Human Line Project）的支援團體因此應運而生，目的在幫助那些聲稱自己因為使用聊天機器人而產生妄想和其他問題的人。

OpenAI於26日發文表示，他們建議有自殺想法的用戶尋求專業人士的幫助。OpenAI稱，他們已經開始在美國和歐洲鼓勵用戶尋求當地援助，並在ChatGPT中提供可點擊存取緊急服務資訊的選項。此外，OpenAI還考慮如何在人們遇到危機時更早提供他們協助，例如，成立一個由專業認證人士組成的支援網路，用戶可以透過聊天機器人與他們聯絡。

OpenAI承認，ChatGPT現有的防護措施在簡短的一般對話中最有效，但可靠性會隨著對話時間變長而降低。OpenAI表示，他們正在努力提升ChatGPT在長時間對話中發揮安全防護的能力，同時研究如何能使ChatGPT參閱與同一用戶先前進行過的對話，以便使用在新對話中。