AI可能失控 馬斯克等籲暫停實驗

正當發展人工智慧(AI)成為最新顯學時，另一批科技人卻是憂心忡忡，要求「暫停巨型AI實驗」。

生命未來研究所(Future of Life)上周向全社會發布一封「暫停大型AI研究」的公開信，呼籲所有AI實驗室立即暫停比GPT-4更強大的AI系統的訓練，暫停時間至少6個月。

生命未來研究所在信中呼籲，這種暫停應該是公開的和可驗證的，並且包括所有關鍵參與者；如果不能迅速實施這種暫停，政府應介入並暫停。

信中強調，AI智慧研究和開發應該重新聚焦於使當今強大的、最先進的系統更加準確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠。

這封信有1100多人簽名，其中不乏科技界名人，如馬斯克(Elon Musk)、蘋果聯合創辦人伍茲尼亞克(Steve Wozniak)、Stability AI創辦人莫斯塔克(Emad Mostaque)等知名人士。

其中，馬斯克在chatGPT走紅之後就不斷批評OpenAI，並在2月推文指出，「OpenAI是作為一個開源公司而創立的，這也是我將其命名為『Open』AI的原因，是一家非營利性公司，旨在與谷歌抗衡；但它現在它已成為微軟有效控制的閉源、利潤最大化的公司。」他認為，這家公司完全違背了當初成立的初衷。

在此之前，OpenAI CEO亞特曼(Sam Altman)在與MIT研究科學家佛利德曼(Lex Fridman)的最新對話中指出，AI已經出現其無法解釋的推理能力，同時承認「AI殺死人類」並非完全不可能。

在微軟發布Bing聊天機器人之後，一份名為「立即拔掉邪惡的AI」的請願書，上個月就在change.org上流傳開來。

生命未來研究所是一家非營利組織，使命在降低核戰風險並改善AI治理。 著名物理學家泰格馬克(Max Tegmark)擔任總裁，馬斯克是其外部顧問。