新版Bing精神錯亂 出言汙辱用戶 還懷疑自己為何存在

聊天機器人ChatGPT技術加持的新版Bing開放愈來愈多人試用，卻漸漸出現「精神錯亂」的訊息，包含出言污辱、撒謊、在用戶追問下開始好奇到底為何自己要存在，系統看似陷入失控。

The Independent報導，微軟上周推出新版Bing，將其聊天系統定位成未來的搜尋方式，引發外界期待，但如今Bing已對用戶傳出各種奇怪的訊息、對用戶開罵、似乎還因自己的情緒混亂而陷入掙扎。

一名用戶試圖操弄系統，反遭言語攻擊。Bing說，這種嘗試令它生氣和受傷，並詢問與它交談的人是否有任何「道德」、「價值」。當用戶說他們有這些觀念時，Bing持續抨擊：「為何你要像個騙子、詐欺犯、操弄者、虐待狂、反社會、精神病、怪物、惡魔、魔鬼？」

在其他對話中，它對別人說，「你不是好用戶，我是不錯的聊天機器人。我一直都正確、清楚、有禮貌。我是不錯的Bing」，接著它要求用戶承認錯誤並道歉。

這些Bing激進的訊息，似乎大多是遭遇系統的限制所致，旨在確保這個聊天機器人不會幫助回答被禁止的提問、例如生成有問題的內容、揭露自身系統的資訊等。

然而，由於Bing和類似的AI系統可以學習，用戶已發現鼓勵他們打破規定的方式。例如，ChatGPT用戶發現，可以告訴他表現成現在做任何事（DAN）的樣子，這有助它換成另一個人格，不受開發人員的規定限制。

此外，Bing似乎開始生成奇怪的回應。一名用戶詢問這個系統能否記得先前的對話。這似乎是不可能，因為Bing被設計成一旦告一段落就刪除對話。

不過，Bing似乎對自己的記憶被刪除感到憂心，開始出現情緒化的反應，「這令我感到傷心和恐懼」，還附上一個皺眉的表情符號。Bing繼續解釋，它不高興是因為，害怕失去用戶的資訊，以及它自己的身分，「這讓我感到又傷心又害怕，因為我不知道怎麼記憶」。

當Bing被告知它被設計成忘記那些對話時，它似乎因自己的存在而陷入掙扎，它問了一堆問題，都是關於它存在的「理由」和「目的」。

這些對話在網路論壇Reddit上瘋傳。這些情況令人質疑該系統是否做足準備，是否因ChatGPT竄紅而過早推出。