新興AI詐騙「醫師是真的 療效是假的」 FDA拿不出實際對策

舊金山加州大學(University of California, San Francisco)內分泌學家兼小兒科榮譽教授拉斯提格(Robert H. Lustig)，曾經出版多本有關肥胖症的暢銷書。不過，拉斯提格成了人工智慧(AI)技術新興詐騙手段的利用對象，影像與聲音在不知情之下被拿來製作臉書(Facebook)影片，聲稱一款「液體珍珠」(liquid pearls)可讓人輕鬆達到減肥目標。

紐約時報日前報導，詐騙集團透過AI技術利用知名醫師影像生成偽造AI影片，觸及高達數以百萬計的網友，企圖從中獲利，但AI影片卻散布不實醫療訊息，破壞民眾對醫師的信任，還可能危害患者健康。即使AI影片宣傳的產品對健康並無大礙，也可能讓某些民眾對於療效產生錯誤期望，結果錯失了就醫時機。

拉斯提格直到接受紐約時報訪問，才知道自己成了AI詐騙影片的主角。

報導指出，食品及藥物管理局(FDA)等政府機關、健康倡議團體與私人監督機構，都為AI影片宣傳不實醫療訊息紛紛提出警告，但到目前為止卻沒有拿出實際對策。

曾出版營養及養生書籍的英國家庭醫師紐曼(Gemma Newman)，4月間在Instagram發表聲明，對追蹤粉絲說出現在TikTok的一支維他命廣告片並不是她本人拍攝的。

廣告片中由AI生成的紐曼為維他命B12大力推銷，但這款補充劑高達9000毫克的劑量卻可能對人體有害。

紐曼受訪時說，影片中的自己看起來真實度極高，連她的母親都信以為真。

斯克里普斯轉化醫學研究院(Scripps Research Translational Institute)創辦人、心臟病醫師托波爾(Eric Topol)則發現，有病患在亞馬遜(Amazon)網站買到他的假回憶錄，封面照片是AI生成。

史丹福大學(Stanford University)營養科學家賈德納(Christopher Gardner)發現自己的影像被人拿來創立至少六個YouTube頻道，累計推出影片有數百支，他的聲音則被AI拿來在影片裡發言，大談如何解除關節疼痛、肌肉流失等問題。

賈德納與史丹福校方代表花了數小時向YouTube與聯邦機關檢舉。YouTube表示，違反使用規範的數個頻道已遭移除。