Grok涉情色影像 維權團體要求蘋果和谷歌下架

全球首富馬斯克(Elon Musk)旗下的X平台再次捲入審查風暴，近30個婦女及維權團體組成的聯盟，指X平台內建的聊天機器人Grok遭利用大量生成未經同意的深偽(Deepfake)情色影像，甚至包含兒童性虐待內容，要求蘋果及谷歌的應用程式商店將X平台下架；國際間也對Grok遭濫用表示關切。

綜合路透等多家媒體報導，這個聯盟14日分別致信蘋果執行長庫克(Tim Cook)及谷歌執行長皮伽(Sundar Pichai)，直指Grok的內容已違反蘋果及谷歌的政策。

信中措詞嚴厲，批評這兩家科技巨頭「不僅縱容這些內容，更從中獲利，因此要求蘋果及谷歌管理層緊急移除Grok及X，以防止進一步的濫用與犯罪活動」。

這個聯盟成員包括婦女權益組織Ultraviolet、家長團體ParentsTogether Action，全國婦女組織 (National Organization for Women)等28個壓力團體。

不過直到16日，蘋果及谷歌尚未作出回應。法律界認為若兩家公司堅持不介入，恐怕會面臨更嚴峻的法律責任。

面對排山倒海批評與調查， X平台已將Grok的圖像生成功能，限制為付費訂閱專屬，同時調整設定，讓生成的圖片不會自動發布到公共動態牆。

Grok的開發商xAI也在X平台上發布安全更新，稱對用戶實施「地理封鎖」，禁止透過Grok帳戶或在X平台上生成「身著比基尼、內衣及類似服裝的真人圖片，有關此限制適用於所有用戶，包括付費用戶。」

馬斯克發文聲稱，他「沒有發現任何由Grok生成的未成年人裸照」。

偵測抄襲及人工智慧內容的工具Copyleaks，日前向哥倫比亞廣播公司新聞網表示，偵測到數千張由Grok 生成的色情影像。在12月的一項分析認為，Grok「平均每分鐘產生一張未經同意的含色情圖像」。

利用Grok生成色情圖像已引起美國及國際關注，加州檢察長邦塔(Rob Bonta)宣布展開調查。

英國首相施凱爾(Keir Starmer)上星期指出，英國可能會禁止使用Grok的X平台營運。

歐盟委員會也表示密切關注X平台所採取的相關防範措施。