開發派vs.安全派 OpenAI「宮鬥」爭路線

在人工智慧AI發展上，一派人士認為應迅速開發並盡快對外發布AI產品讓大眾使用，如同接受壓力測試而讓產品漸臻完善，被閃電開除又迅速回鍋的OpenAI執行長的奧特曼就是這一派。

但反對陣營主張，應在實驗室內開發完善並充分測試後再對外釋出，以免AI失控釀災，先前同意開除奧特曼的OpenAI董事蘇茨克維(Ilya Sutskever)等人，就有這類擔憂。

換句話說，這次奧特曼事件，癥結是AI社群「開發派」和「安全派」的根本理念分歧。

在其他先進科技開發過程中，也常出現這類兩派陣營的對立。一方面盼開發出改變世界的產品，另一方面則關注對社會的衝擊。例如在發展使用AI的自動駕駛車輛上，有意見認為應在繁忙市區道路測試，以釐清其缺點，另一派則呼籲應慎防未知風險。

路透報導，現年38歲的奧特曼領軍OpenAI，去年11月推出聊天機器人ChatGPT，儼然變成生成式AI的代言人。多數人雖將生成式AI用於輔助，例如撰寫摘要等，但觀察人士擔心後續版本可能演進為「通用人工智慧」（AGI），可以不經人類提示，自主從事漸趨複雜的任務，使人擔心AI恐怕能自行掌控國防系統、製造軍火或從事政治宣傳。

關切超高智慧軟體可能帶來無法掌控災難的科技人士，可謂信奉「有效利他主義」（effective altruism），認為ＡAI應該造福全人類，而非讓企業賺大錢。八年前OpenAI作為非營利組織設立的部分原因，就是盼避免受商業利益驅使，製造出危險的AGI產品傷害人類。

不過，2019年奧特曼促成在OpenAI內部成立營利性實體，為募資等目的服務。ChatGPT發布後，不少AI開發商獲得投資客青睞，日前表明有意延攬奧特曼的微軟，就向OpenAI注資達100億美元，Alphabet和亞馬遜等業者也紛向其他新創公司投資數十億美元，這也造就近年AI新產品輩出，畢竟Anthropic和ScaleAI等同業都爭相向金主展現成果。

報導指出，蘇茨克維作為OpenAI首席科學家，也認為奧特曼發布軟體產品的速度過急，安全性可能堪慮；他和一名副手曾在7月一篇部落格文章寫道，人類尚無解決方案可管控潛在的超級智慧AI並避免其失控，「人類將無力可靠的監督比我們聰明許多的AI系統」。

本月稍早，OpenAI在一場開發者活動宣布一連串新產品，包括一款ChatGPT-4的軟體版本和虛擬助理，令人尤感關切。AI安全倡議人士雷希指出，問題在於生成式AI是否像社群媒體和加密貨幣，只是另一種新產品，又或者具有逾越人類控制範圍的能力。

此前曾獲派為OpenAI臨時執行長的希爾，9月曾在社群媒體提倡放緩AI研發，認為如果當前速度是十，「應該以一到二為目標」。

然而，OpenAI的770名員工幾乎都站在「開發派」奧特曼這邊，讓他在這場AI社群宮鬥中高唱凱歌班師回朝，OpenAI的發展又將返回舊軌。不過，「安全派」的擔憂是否會成真，誰也不敢保證。