我的頻道

* 拖拉類別可自訂排序
恢復預設 確定
設定
快訊

黃仁勳風波連環爆 Nvidia晶片銷中疑點重重 紐時查訪驚見空殼公司

秋風至別掃落葉 不僅環保 還有這些大用處

教宗良十四世公開批評黃仁勳 質疑低估AI失控風險

聽新聞
test
0:00 /0:00
教宗良十四世28日結束法國行程、搭機返國途中接受媒體採訪。(美聯社)
教宗良十四世28日結束法國行程、搭機返國途中接受媒體採訪。(美聯社)

美國人工智慧(AI)晶片巨頭輝達28日宣布推出一款新的安全工具「開放代理安全平台」,號稱能替AI代理畫下權限界線,一旦偵測到AI試圖執行超出授權範圍的行動,最快可在數毫秒內將其隔離。對此,金融時報報導,教宗良十四世28日罕見表態,批評輝達執行長黃仁勳淡化AI風險,並呼籲各界嚴肅看待AI對人類構成的威脅。

美聯社報導,輝達「開放代理安全平台」(Open Agent Safety Platform)主要透過權限限制與即時監控,防止AI代理越界。其中OpenShell可限制AI代理能使用的系統及資源,確保它只取得完成任務所需的權限;另一套名為Sentry的安全機制則持續監控AI代理活動,一旦發現AI試圖超出原定範圍,便可立即介入,最快在數毫秒內將可疑AI代理隔離。

輝達表示,目前已有超過100個組織採用這套平台,包括Microsoft、Perplexity、Accenture及JPMorgan Chase。由於平台採取開源模式,也能擴充至Arm、Intel等其他公司的運算平台。

對此,良十四世28日結束訪法、搭機返回羅馬途中表示,已了解輝達最新推出的安全工具,但鑑於黃仁勳近期的發言,他對黃仁勳究竟多重視AI安全提出質疑。

良十四世表示,黃仁勳一方面推出新的AI安全工具,「另一方面,他也是主張不應對AI設限、不應由AI監管的代表人物」。日前包括Anthropic執行長阿莫戴、OpenAI執行長奧特曼等,以安全風險為由,呼籲AI減速論;反觀黃仁勳與美國總統川普則曾駁斥AI末日論,傾向政府放任業界發展。

良十四世並呼籲嚴肅看AI專家與專業人士提出的疑慮,他說自己不至於對AI發展陷入恐慌而夜不成眠,「但是我認為這是需要坐下來好好討論的問題」。

良十四世說:「有意思的是,就在今天,我讀到輝達負責人聲稱,他找到某種方法,可以在AI中加入一些安全護欄。」

教宗罕見公開批評全球市值最高企業的掌舵人,凸顯AI安全議題引發高度憂慮,成為全球多國領袖的優先關切事項。輝達拒絕評論。

出生於芝加哥的良十四世與川普在多項議題上立場相左,且自去年就任教宗以來,一直高度關注AI議題。今年5月,他發布一份稱為「通諭」的正式文件,指出AI並非道德中立的科技,必須透過強而有力的監管加以「解除武裝」,確保AI服務人類,而不是傷害人類。

華府日益關注業界對AI風險的疑慮。彭博報導,川普與聯邦眾議院議長強生29日將舉行午宴,討論AI安全風險,受邀出席的科技業高層包括輝達執行長黃仁勳、Anthropic執行長阿莫戴、數據分析公司帕蘭泰爾(Palantir Technologies)執行長卡普,以及OpenAI總裁布羅克曼。

精華 FAQ

  • 這套平台透過權限限制與即時監控,防止AI代理越權行動;OpenShell負責控管可用系統與資源,Sentry則持續偵測異常,一旦越界就能迅速隔離。

  • 良十四世認為黃仁勳一方面推出安全工具,另一方面又反對替AI設限、主張不應由AI監管,因而質疑他是否真正重視AI安全與人類可能面臨的風險。

  • 新聞顯示AI安全已成全球領袖關切焦點,從教廷到華府都在討論風險管控;同時包括黃仁勳、阿莫戴與OpenAI高層也將參與相關午宴討論。

黃仁勳 良十四世 教宗

上一則

為省運費「花更多錢來省小錢」 專家揭電商心理陷阱

下一則

4生肖「招財體質」賺錢厲害守財穩 第一名愈老愈富貴

超人氣

更多 >