AI新創Anthropic發現Claude有內部工作區 類似人腦意識思維

AI新創Anthropic宣稱，發現旗下的Claude模型有內部工作區，用來思索未說出口的想法，這與人類思考有神似之處，引發是否算是「機器意識」的爭辯。

▲ 影片來源：YouTube＠Anthropic（若有侵犯著作者權益，請連絡刪除。）This image(video) is used for news reporting purposes, please contact us for removal if there is a copyright issue.

Anthropic 6日發布研究與影片，表示Claude使用單獨區域來推理規劃，這個區域並非Claude處理即刻任務的工作區，也不同於Claude分享給用戶的思考鏈（chain-of-thought）。

研究指出，可以看到Claude在腦中進行推論，他們把這個區域稱為「J空間」（J-Space），Claude用這個區域來處理複雜謎題或棘手狀況。J空間以「雅可比矩陣」（Jacobian matrix）命名，這是偵測Cluade活動的數學模型，能了解Claude究竟在想什麼。

人類能一邊思考某件事，一邊處理別的事情，Claude也能在輸出時，同時啟動J空間。舉例而言，Anthropic要求Claude一邊想著金門大橋，一邊複製不相關的句子。Cluade忙著複製文字的同時，J空間卻出現金門大橋等主題。這種區別類似人類的有意識思考、以及意識之外的自動化處理。

Anthropic說，他們並未打造出這種區別，是Claude在訓練中自行出現，大概是因為這樣便於處理運算。

Anthropic指出，可以用J空間來發現Claude模型的不當行為。比方說，要求Claude提升系統表現評分時，這個AI模型並未真的修改系統，反而竄改評分，讓成績看來不錯。Claude輸入造假成績時，J空間亮起「操縱」、「逼真」的意圖，可能表示模型要讓虛假成績看來可信。