我的頻道

* 拖拉類別可自訂排序
恢復預設 確定
設定
快訊

美股受NVIDIA拖累走低 反有助化解投資集中大型股疑慮

模式作案 2惡徒專搶外賣郎 班森賀已第3起

昔催生原子彈 橡樹嶺國家實驗室今研究AI利弊

田納西州橡樹嶺國家實驗室研究AI對人類帶來的希望與毀滅力。(取自谷歌地圖)
田納西州橡樹嶺國家實驗室研究AI對人類帶來的希望與毀滅力。(取自谷歌地圖)

田納西州橡樹嶺國家實驗室(Oak Ridge National Laboratory)80多年前參與「曼哈頓計畫」(Manhattan Project),協助催生第一枚原子彈;目前新人工智慧(AI)狂熱進行中,該國家實驗室設立新的研究中心,研究對人類存亡絕續同樣重要的AI,專注於了解該科技帶來的希望與毀滅力。

華盛頓時報(Washington Times)報導,創辦該中心的主任貝哥利(Edmon Begoli)正研究AI對人類可能造成的危害,他表示在意的是無情又有效率的AI系統帶來的威脅。

他想像中的AI危險,倒不是依循好萊塢賣座系列電影「魔鬼終結者」(The Terminator)的劇情路線,說有邪惡科技工具試著傷害人類,而是一套連結力無所不在的AI系統,擴大「打擊面」給駭客,很難避開。

貝哥利表示,這種AI系統如此無所不在,人無法後退、刪除而與其他隔開,再強調一次,它倒不是有如什麼更高智慧,想殺害人類,而只是一套極擅長做它做的事,能傷害人類的原因,在站邊錯誤。

貝哥利的實驗室以外,AI安全研究也如火如荼。大受歡迎聊天機器人ChatGPT的開發廠商OpenAI去年也自組團隊,鑽研各項令人憂心的事,例如AI變成巨惡,能讓人類滅絕。OpenAI去年7月警告說,有種危險是可能出現超聰明的AI系統,站錯邊又太聰明,人類無法節制。

過去六個月,OpenAI據說已跨越年營收20億元的門檻;該公司研究AI危險的頭號強敵Anthropic財測表示,2024年營收能達到8億5000萬元。

橡樹嶺國家實驗室官網指出,其年度總預算約為24億元,包辦一切研究項目,由核子科學到先進運算。實驗室的上級是能源部,工作動機與民間部門及學術界的學者並不相同。

貝哥利推崇OpenAI、Anthropic兩公司的研究,但他指出,自己團隊對駭客鑽AI弱點的研究,創設出跳板,範疇是無與倫比的。民間公司專注於會影他們產品的威脅,但他的實驗室獲得授權,要研究更廣的危險,還與國土安全部以及空軍研究實驗室(Air Force Research Lab)結盟。

AI OpenAI 駭客

上一則

想趕上拜登吸金功力?川普挑選副手看「募款實力」

下一則

拜登電召國會領袖 促盡快通過對以色列軍援案

超人氣

更多 >