我的頻道

* 拖拉類別可自訂排序
恢復預設 確定
設定
快訊

業界人士:范斯風險投資家生涯過短 難以判斷是否成功

經文處副處長張俊裕將返台 華埠僑團歡送

從OpenAI亂局 看AI發展風險

OpenAI先前爆出執行長奧特曼被迫下台,總裁布羅克曼也請辭走人,對砸了130億美元在OpenAI微軟來說,看似投資要泡湯,打亂了微軟的AI計畫,本來微軟要招募奧特曼和布羅克曼兩位AI大咖加入,然而在經過多次反轉後,奧特曼將返回OpenAI繼續擔任執行長,劇情一日數變。

OpenAI近日的領導階層變動,反映出公司內部對AI發展步伐和方向存在的深層疑慮和反思,OpenAI一直試圖在推動尖端AI研究和商業化產品之間保持平衡,同時也注重道德和安全,但這種微妙的平衡現在已來到一個轉折點。

奧特曼被炒顯示出該公司內部在OpenAI最近的一些AI產品,如ChatGPT是否推出過快、欠缺足夠的安全防護機制上觀點分歧。非營利董事會似乎出於擔心商業利益凌駕一切,而試圖重新控制整個AI發展的局面,然而員工的強烈反彈表明許多人支持奧特曼的願景,這種分裂導致了關於AI如何進步的更廣泛辯論。

隨著奧特曼等領袖加盟微軟,微軟反而對OpenAI產生巨大的影響。透過與OpenAI的合作和投資,微軟本來就已握有大量的話語權,儘管OpenAI董事會在法律上仍擁有管理權。如果OpenAI大批員工真的集體離職至微軟,將使微軟不費力氣就獲得一支頂級的AI團隊。這引發了大家必須關心的問題,到底是誰在真正操控像ChatGPT等具有革命性潛力的系統?

這些發展也凸顯了OpenAI的非營利結構在與營利部門融合時的本質上不穩定,讓OpenAI的使命與利潤隔離的最初願景已瀕臨破滅。隨著像ChatGPT這樣的創新迅速流行,經濟誘因和道德目標之間的緊張關係已到達臨界點,需要進行結構性的重新思考。

ChatGPT快速、雄心勃勃的發展可能因此引發了董事會的干預,因為人們擔心這些AI的工作方式缺乏透明度、圍繞著偏見、錯誤訊息和與人類價值觀的一致性等AI安全問題,皆需要深思熟慮的解決。但OpenAI領導層的單方面變動也引發了人們的擔憂,即當技術的優勢開始大規模顯現時,創新會突然受到限制,雙方的論點似乎都有道理。

像奧特曼這樣的頂尖AI人才為了追逐利潤而投靠微軟,確實引發人們對推動像ChatGPT等強大模型的進步之最終利益是什麼的疑問。所以OpenAI顯然還需要更廣泛、更具代表性的AI治理視角,納入受影響最大的社群,今天的緊張局勢剛好為發展更透明和負責任的AI提供了機會。

 這起事件也凸顯了在制定AI未來發展方向時,價值觀、道德和治理等高風險議題上存在的深刻分歧。雖然塵埃尚未落定,但關於OpenAI混合管理模型的局限性,以及AI單邊決策的短視引發的重要教訓已經浮現。隨著AI領域日益重要,大家必須優先考慮AI系統的問責制、透明度和包容性,這可能需要OpenAI進行改革,以及公私部門和民間社會更廣泛的討論。

AI OpenAI 微軟

上一則

一洲焦點/今日暫停一次 請看字幕版精彩回顧

下一則

一洲焦點/中國經濟看壞、泰勒絲與李爾、反猶與排華

延伸閱讀

超人氣

更多 >