Grok生成深偽不雅內容 馬斯克xAI陷全球監管風暴

億萬富豪馬斯克旗下新創公司xAI開發的聊天機器人Grok在X平台生成露骨色情內容，從歐洲到亞洲，多國政府和主管機關予以大力掃蕩，展開調查、祭出禁令並且要求強化防護措施。

全球日益雷厲風行遏制相關的非法內容。路透整理各國政府和主管機關針對此事所作反應如下：

●歐洲

Grok生成「裸露的」不雅圖像引發關切，歐洲聯盟執行委員會（European Commission）因而將去年對X的保存資料命令期限予以延長，要求保留所有Grok相關內部文件和數據至今年底。

英國傳媒監管機構通訊管理局（Ofcom）12日對X展開調查，以釐清Grok製作的親密深偽圖像是否違反其依據英國「線上安全法」（Online Safety Act）架構而應保護民眾免受非法內容侵害的義務。

法國方面，數位部長等官員表示，已將在X上流傳的Grok生成露骨色情內容移送檢方，並且通報法國影音與數位傳播監管單位（Arcom）就該平台是否符合法國和歐盟「數位服務法」（Digital Services Act）規範進行審查。

德國文化與媒體部部長魏莫（Wolfram Weimer）呼籲歐盟執委會採取法律行動，強調歐盟規定已賦予處理非法內容的工具，並且警告問題恐演變成「性騷擾產業化」。

義大利資料保護主管機關提出警告，強調若未經同意運用人工智慧（AI）工具創造真實存在人物「裸露」的深偽圖像，恐構成嚴重隱私侵害，有時甚至會涉及刑事犯罪。

●亞洲

印度電子暨資訊科技部於2日正式致函X，要求針對疑似Grok導致的猥褻不雅圖像生成和分享進行下架處理，並於72小時內回報後續措施。

印尼通訊與數位部宣布已經封鎖Grok服務。部長穆迪雅（Meutya Hafid）依據嚴格的反色情法令指出，此舉是為保護婦女和兒童免受AI生成的虛假色情內容侵害。

馬來西亞通訊主管機關13日以Grok對用戶安全構成疑慮為由表示，計劃對X平台展開法律行動。

AI生成不雅深偽圖像引發公憤，菲律賓也加入東南亞鄰國祭出禁令的行列，宣布計劃「今晚」封鎖Grok。網路犯罪防治中心代理執行主任巴瑞索（Renato Paraiso）說：「今晚或今天之內，我們預計Grok將在菲律賓全境遭到封鎖。」

●北美洲

美國加州州長和檢察長昨天表示，鑒於平台出現未經同意的性圖像散播，將要求xAI提出明確說明。

●大洋洲

澳洲網路安全監管機關電子安全委員辦公室（eSafety Commissioner）表示，正就Grok「以數位方式將人像脫衣」生成深偽不雅圖像進行調查，並根據圖像侵害規範審查成人內容，強調目前已檢視的兒童相關案例尚未達到法律規範的兒少性剝削內容的法律門檻。

●xAI採取哪些行動

xAI昨天深夜宣布，對所有Grok用戶的影像編輯功能加以限制。

Grok已於上周改為僅付費訂閱用戶可以使用影像生成和編輯功能。

馬斯克（Elon Musk）昨天表示，他「不清楚Grok生成任何未成年裸露影像，確實沒有」。

他先前則在X上表示，任何利用Grok製作非法內容的用戶，將面臨與上傳非法內容相同的後果。