古特瑞斯：別讓AI決定人類命運 必須制定全球規範

聯合國秘書長古特瑞斯今天呼籲建立全球管理機制，確保人工智慧（AI）能造福人類，不能讓「隨想編程」來操控我們的未來。聯合國這場會議也對AI自主武器「殺人」提出警語。

聯合國「第一屆全球人工智慧治理對話」（First Global Dialogue on AI Governance）今天在日內瓦（Geneva）舉行，古特瑞斯在開幕式中說，隨著AI「以飛快速度」持續發展，目前我們世界正進行一場「沒有計畫、也未經同意」的實驗，而「這種情況不能繼續下去。」

這場為期兩天的會議齊聚各國政府、科技業、學術界與公民社會的4000多名代表，以包容態度進行討論，探索如何善用這項已經迅速改變世界的AI技術。

古特瑞斯（Antonio Guterres）坦言，所謂的「隨想編程」（vibe-coding），也就是使用人工智慧表達你想要什麼，而非自己去撰寫程式，「雖然這樣可以帶來奇想...但我們不能靠隨想編程來定義真相，也無法靠隨想編程來決定人類未來。」

憂心AI權力集中少數

古特瑞斯警告AI還有另一種風險，就是AI權力集中於少數企業、少數國家之手；而其他大多數國家「對於將左右他們未來的相關決策，迄今全無話語權」。

他表示，協助開發中國家提升AI能力、促進普及化，也至關重要，以避免目前的數位落差進一步加劇成為「人工智慧落差」。

古特瑞斯說，他將敦促聯合國設立「全球人工智慧基金」，「以在全球各地培育數位能力及負擔得起的運算資源」。

大會主席貝爾伯克（Annalena Baerbock）表示，這項基金成立「勢在必行」；但她未透露具體金額。

她向媒體表示：「在這個世界，計畫花費動輒十億千萬，錢從來不是問題...最大的挑戰在於這些資金能否真正造福所有人。」

疑慮AI「殺手機器人」

古特瑞斯也指出，他最擔憂的是人工智慧在軍事領域的發展，尤其是致命自主武器系統。

他說：「我們就直接說吧，就是殺手機器人...讓機器選擇目標做攻擊，甚至奪走生命，而這一切卻未經人類來控制與判斷。」

古特瑞斯表示：「殺手機器人，全無道德可言，真令人反感…必須制定國際法來全面禁止。」

古特瑞斯強調，制定AI安全法規實在刻不容緩。

這次日內瓦的對話會議，預料不會產生任何具體決定，但大會共同主席羅培茲（Egriselda Lopez）向媒體表示，此次會議將奠定「良好基礎」，第二次對話預計明年在紐約（New York）舉行。