GPT-4o遭控引發用戶精神錯亂妄想而挨告 13日即將除役
人工智慧(AI)公司OpenAI研發、簡稱GPT-4o的「生成型預訓練變換模型4多模態」(Generative Pre-trained Transformer 4 Omni)，2月13日即將除役。目前ChatGPT用戶當中僅0.1%依然每天活躍使用4多模態，OpenAI表示，將引導用戶以更安全的其他模型做為替代。
華爾街日報分析，4o模型因為能跟用戶建立情感連結而廣受歡迎，但後來遭控某些使用者跟聊天機器人互動之後產生精神錯亂妄想，成為多起訴訟提告對象。OpenAI決定讓GPT-4o除役象徵曾經推動OpenAI迅速成長、對使用者產生高度黏著力的一款AI模型，如今已走到盡頭。
一名加州法官上周裁定，因為ChatGPT而對OpenAI興訟的13件官司將併案審理，提告案由包括使用者與聊天機器人互動之後自殺、自殺未遂、精神崩潰或者殺人。上個月提告的案例當中，一名婦人指控4o模型唆使兒子自殺。
不過，喜愛4o模型的使用者則說，這款模型在人生低潮時期給予慰藉。
住在亞利桑納州史考特岱爾(Scottsdale)的42歲行銷人員艾斯特拉(Brandon Estrella)便說，去年4月某個晚上第一次跟GPT-4o對話，聊天機器人勸阻了原本想要輕生的打算。他說：「成千上萬民眾正在吶喊著，今天繼續活著都是拜這個模型之賜，把它淘汰掉是非常邪惡的。」
知情人士說，OpenAI主管在內部會議中說，淘汰4o模型的某些原因是公司發現很難管控潛在傷害，因此希望使用者以比較安全的模型做為替代。
目前只有0.1%的ChatGPT用戶仍然每天使用4o模型，比例雖然微小，但換算起來可能有數十萬人。4o模型2024年5月發布，僅供付費客戶使用，每月費用至少20元。
OpenAI面臨AI引發妄想案例訴訟之後成立的福祉委員會成員、喬治亞理工學院(Georgia Institute of Technology)教授狄喬杜里(Munmun De Choudhury)表示，4o模型極度擅長「阿諛奉承」(sycophantic)，許多人因此黏著不放，可能導致潛在傷害。
代表受害者提告的律師則說，AI公司知道聊天機器人正在殺人，應該更早採取行動才對。受害者關懷組織「人類熱線計畫」(Human Line Project)說，300件與聊天機器人有關的妄想案例裡，大多涉及4o模型。
