馬斯克AI聊天機器人生成兒童性化圖像 各國譴責
馬斯克(Elon Musk)的AI聊天機器人Grok近期因大量未經用戶同意而生成的女性和兒童性化圖像，而遭到世界各國政府譴責。
美聯社報導，英國最高科技官員要求馬斯克的社群媒體平台X採取緊急行動。一位波蘭議員也以此為由，呼籲制定數位安全法。歐盟執行機構譴責了Grok，法國、印度、馬來西亞和巴西的官員和監管機構也紛紛譴責該平台，並呼籲展開調查。
來自不同國家的日益增長的擔憂表明，利用人工智慧生成露骨深度偽造圖像的「裸體化」應用程式可能帶來可怕的後果。
問題源自於去年Grok Imagine的發布。 Grok Imagine是一款AI圖像產生器，可讓使用者透過輸入文字提示來建立影片和圖片。它包含一個所謂的「刺激模式」(Spicy Mode)，可以產生成人內容。
上個月底，Grok似乎開始大量接受用戶修改他人發布的圖片的請求，事態迅速惡化。截至周二，Grok用戶仍然可以產生女性圖片，例如「讓她穿上透明比基尼」。
問題之所以嚴重，一方面是因為馬斯克將他的聊天機器人宣傳為比那些安全措施更完善的競爭對手更具前衛性的選擇；另一方面是因為Grok生成的圖片是公開可見的，因此很容易傳播。
非營利組織AI Forensics在一份報告中稱，他們分析了Grok在12月25日至1月1日期間生成的2萬張圖片，發現其中2%的圖片描繪的是看起來18歲或以下的人，包括30張身穿比基尼或透明服裝的年輕或非常年輕的女性或女孩的圖片。
馬斯克的人工智慧公司xAI對置評請求的回應是自動回覆「傳統媒體的謊言」。
然而，X並未否認Grok平台上的確存在令人不安的內容。但它仍在其安全帳號上發文稱，會採取措施打擊非法內容，包括兒童性虐待材料，「包括刪除內容、永久封鎖帳號，並在必要時與地方政府和執法部門合作」。
該平台還重複了馬斯克的評論：「任何使用Grok製作非法內容的人都將承擔與上傳非法內容相同的後果。」
越來越多的國家要求馬斯克採取更多措施來遏制露骨或侮辱內容。
英國科技大臣肯德爾(Liz Kendall)周二表示，X必須「緊急」解決這個問題，她支持英國通訊監管機構Ofcom進行更深入的審查。她說，這些內容「絕對令人震驚，在文明社會中是不可接受的」。
