OpenAI封禁多個涉中國官方帳戶 「想藉ChatGPT搞監控」

在美國與中國圍繞人工智慧技術發展和規則制定展開日益激烈的競爭之際，聊天機器人ChatGPT開發商OpenAI於7日表示，已封鎖多個疑似與中國政府機構有關聯的ChatGPT帳號，原因是這些用戶曾要求模型針對如何監控社群媒體給出建議。報告顯示，AI濫用已成為全球性問題。

路透報導，OpenAI在最新發布的公共威脅報告中指出，有些用戶要求其聊天機器人針對社群媒體「監聽」工具和其他監控概念提出相關計畫，違反該公司的國家安全政策。

這家總部位於美國舊金山的公司在報告中警告，隨著美中兩國競相制定生成式人工智慧（AI）的發展方向與規範，AI技術被濫用的安全風險日益升高。

OpenAI還說，已經封鎖多個使用中文的帳號，這些帳號利用ChatGPT協助網路釣魚與惡意軟體活動，甚至要求模型研究如何透過中國的深度求索（DeepSeek）平台進行更多自動化作業。

此外，OpenAI也封鎖了一些疑似與俄語犯罪團體有關的帳號，這些帳號利用ChatGPT協助開發特定惡意軟體。

OpenAI補充說，自去年2月開始發布公共威脅報告以來，已破壞並通報超過40個網絡，且其模型能拒絕明顯帶有惡意的提問。報告稱未發現任何新型攻擊手法，也沒有證據顯示模型為這些威脅行為者提供新的攻擊能力。

OpenAI報告並指出，有用戶要求ChatGPT協助撰寫大規模監控方案，以此追蹤維吾爾族及其他「高風險人士」，甚至有用戶要求設計掃描Facebook、X等社交平台涉及政治宗教言論的產品。OpenAI已封禁這兩位用戶。

CNN引述OpenAI首席研究員尼莫指出，中國正在利用人工智能進行大規模監控和監視，AI或許能讓監控更精準。

報導指出，中國駐美大使館發言人劉鵬宇回應稱，反對毫無根據的攻擊抹黑，強調中國正在「快速建立具有鮮明國家特色的AI治理體系」，追求發展與安全的平衡，兼顧創新、安全與包容。

目前ChatGPT每周活躍用戶超過8億人，上周授權在次級市場出售價值100多億美元的股票後，估值已達5000億美元，成為全球最有價值的新創企業。