「AI網紅」攻占社媒推銷保健品 真偽難辨

Instagram有個女網紅擁有30多萬追蹤粉絲，發布影片包括逛雜貨店、烤麵包，向觀眾警告加工食品的危險，人物看起栩栩如生，說話具有說服力，粉絲人數在幾個月期間不斷增加，但她其實不是真人。紐約時報報導，這是人工智慧(AI)生成的角色之一，專門為了在網路上推銷保健產品而創立。

AI人物為主角的影片並沒有揭露聲明，沒有警語小字，但有精心塑造的背景敘述，擁有廣大觀眾，還有產品要推銷。這種操作並不是單獨個案，而是商業模式。

以AI主角為產品打廣告，籌備工作其實比想像中來得簡單。行銷人員首先利用AI工具生成一個虛擬角色，賦予個性與視覺形象，然後開始在社群媒體發布內容，追蹤群眾就會逐漸壯大。一旦這個角色獲得觀眾信任，人物就開始推銷產品，包括營養補充品、排毒粉、纖維飲品、養生補品等。

一個操盤手可以同時經營好幾個AI角色，例如一名阿米希(Amish)女人、一名僧侶，還有一群看起來幾乎長得一模一樣的健身網紅，所有角色都在推銷相同產品，所有人物都不是真人。AI角色推銷的保健品不一定通過臨床實驗。

由於這些角色是AI生成，因此沒有合約需要磋商，沒有創作者需要管理，也沒有爆發醜聞的風險。影片內容則可以持續不斷運作，這些角色永遠不會有狀態欠佳的一天。

紐約時報報導，一名操盤手把這種方式形容為「改變遊戲規則」(game changer)，並表示手下業務每個環節都在「AI化」。

虛擬角色只是冰山一角，更令人不安的手法是拿真實人物做成深偽(deepfake)角色。

事實查核機構Full Fact指出，學者以及具有證照的健康專業人士在未經授權之下，肖像遭人用來做成深偽人物在TikTok、Instagram為營養品打廣告，針對健康議題大肆發表評論，引導觀眾購買本尊不曾代言過的產品。

今年2月發表於英國心理學雜誌(British Journal of Psychology)的研究顯示，人們經常高估自己辨識AI生成面孔的能力。