只要有文字就能創建影片…AI新技術面世 虛實更難辨
舊金山新創公司OpenAI 15日推出新技術Sora，讓人工智慧(AI)根據書面文字提示，創建出栩栩如生的高品質影片。在世人為此技術驚嘆、咸認它將加快電影製作速度之際，數位影像藝術家擔心自己飯碗不保，致力識別網路虛假資訊的倡議人士更擔心，它會被用來大量製造虛假訊息，網路訊息影像虛實將更難分辨。
OpenAI新系統Sora源自日語的「天空」一詞。研發團隊聲稱，選擇這個名字是因為它「喚起無限創意」。
OpenAI發表的9段Sora影片，包括走在熱鬧東京街頭的時尚女性、踏著白雪皚皚奔跑的猛獁象、無人機視角的海浪拍擊大蘇爾加雷角懸崖、在白雲之下閱讀的年輕男性等。
OpenAI受到微軟支持，是AI聊天機器人ChatGPT製造商，不久前才推出靜態圖像生成器DALL-E。除了OpenAI，包括Runway等新創公司、谷歌(Google)、臉書和Instagram母公司Meta等科技巨頭都在競相研發推進其即時影像生成器。DALL-E、Midjourney和其他靜態影像產生器這幾年進步神速，現在生成出的影像幾乎與照片無異。
OpenAI表示，他們已意識到Sora可能製造錯誤訊息和仇恨內容等問題，將採取行動為選舉做好準備，包括禁止使用其工具進行政治競選在內。
OpenAI同時強調，公司尚未向公眾發布Sora，因為他們也在努力了解這個系統的危險性。OpenAI正與一小群學者及外部研究人員共享該技術，尋找可能被濫用的方式。
OpenAI已在其系統生成影片上添加浮水印標記，表明它們是AI生成；但公司承認這些標記可以被刪除，刪除行徑也很難被發現。
水牛城大學媒體取證實驗室主任呂思偉(Siwei Lyu)表示，正如許多公司所說，在AI生成影片和圖像上添加浮水印可能會有幫助；但浮水印也可以被刪除或更改；隨著Sora這樣的AI程式出現，勢將加劇影像和聲音深度偽造(Deep Fake)的既有挑戰。
FB留言