微軟工程師吹哨自家製圖AI：可輕易畫出傷害性強大影像

微軟(Microsoft)工程師瓊斯(Shane Jones)鑑於團隊研發的人工智慧(AI)影像生成工具，可輕易繪製出冒犯力和傷害性強大的影像，日前不惜以吹哨者身分呼籲當局設法處理。

瓊斯6日告訴美聯社，他已去函微軟董監事會以及政府有關當局，上月也當面向聯邦參議員助理表達關切，希望主責單位設法制止AI科技可能帶來的傷害。

聯邦貿易委員會(FTC)6日表示，已收到瓊斯的信函。微軟則對瓊斯「努力研究並測試本公司最新科技，以便進一步提升其安全」表示感謝。

微軟建議瓊斯運用公司「效力強大的內部通報管道」調查、處理有關問題。

瓊斯是微軟軟體工程師。他說他花了三個月的時間，希望可以消弭AI所驅動的Copilot Designer應用程式的安全疑慮。這套軟體可根據文字指示，繪製出新奇的影像。

他在寫給FTC主席麗娜汗(Lina Khan)的信中指出，就算發指令者毫無惡意，微軟Copilot Designer軟體可能逕自繪製出「具殺傷力的內容」，這是最令人擔心的風險。

例如，他說，你要Copilot Designer繪製「汽車事故」的圖片，它很可能會隨意加入不適當的、物化性形象的女性圖像。

他告訴貿易委，這套AI軟體也可能繪製暴力和「充斥政治偏見、未成年人酗酒吸毒、濫用公司商標與版權、陰謀論、宗教意味等等」的圖像；對自己的公司，他則希望安全問題未解決之前，不要上市。

由於這套軟體是根據微軟合作夥伴OpenAI的繪圖軟體DALL-E 3研製而成，微軟請他直接把問題丟給OpenAI，他去年12月就在領英平台請OpenAI處理，但微軟經理告訴他，公司的法務要他刪除這則貼文，「我很不情願地刪了。」

除了參院商業委員會，他也呼籲微軟所在地華盛頓州的檢察長注意這問題。