網頁列印

內容來自網址: https://www.worldjournal.com/5615924/article-link/

首頁 舊金山

Google宣示不發展戰爭AI by 那福忠

鄭重聲明
本篇內容為世界日報版權所有,未經許可不得任意轉載、重製、複印使用。

四月25號的《金山人語》談到AI能不能軍用,當時全球幾十名AI學者聯名呼籲AI 不可以用在戰爭,然後又有三千名Google員工聯名寫信抗議公司高層協助國防部發展AI。Google參與的國防計畫 Maven,目的在發展「電腦視覺」,來精密解讀無人機追蹤目標拍攝的影像。

Google的「參戰」在內部一直沒有平息,在更多員工抗議、及部分員工憤而辭職之後,終於日前宣布以後不再用AI發展用在武器技術,至於已進行的Maven計畫,則於明年合約到期後退出,不再續約。

Google執行長Sundar Pichai為此宣布了七項發展AI的「倫理」,禁止發展自動化武器,但對非戰爭性的國防用途,仍保留彈性。下面就是這七項倫理規範。

1. 公益。AI 廣為運用在保健、安全、能源、交通、製造、娛樂各個領域,提供高品質的精準資訊,尊重使用所在地的文化、社會、法律的規範。

2. 避免偏頗。強調對影響到人的敏感特性,包括種族、性別、國籍、收入、性傾向、能力、政治與宗教信仰等,盡求公允。

3. 安全。加強安全考量,避免意外產生的危險與傷害,特定的 AI 技術會在封閉的環境測試,嚴密監視。

4. 對人負責。AI 系統會給人反饋、解釋、申訴的機會,AI 技術也會由人來主導、控制。

5. 隱私。AI 技術的發展與使用會遵照隱私原則,提供資料的透明與管制。

6. 高標準。技術創新源於科學方法,AI 工具有潛力解開新的科學知識,所以會以高水準的卓越科學,來發展 AI 技術。

7. 使用。技術有多種功用,但會限制有潛在傷害或濫用的領域。

除了上面的規範,Google又負面的提出不會發展用在武器上的技術,以及違反國際法規與人權的技術,但會與政府及軍方在其他的領域合作,包括網路安全、訓練、軍事人力聘僱、軍人保健、搜尋與營救。

現在的AI已轉向雲端,完整的神經網路架構,開放給人使用,用自己的資料訓練,發展自己的AI,變得越來越容易。 AI用在軍事或教人不太舒服,AI的技術公司遵守「倫理」規範,不去發展用在戰場上AI,但借用 AI雲端的機器學習架構,使用的人發展自己的AI,是否仍能遵守規範,也許就難以約束了。

軍用AI需求龐大,除了軍方自行開發,借用民間技術在所難免。據報導,亞馬遜與微軟,正以億計的雲端計算標案,對像是五角大廈。



Copyright 2018 世界新聞網-北美華文新聞、華商資訊. All rights reserved.