網頁列印

內容來自網址: https://www.worldjournal.com/6058954/article-link/

首頁 科技

非萬靈丹!AI完整訓練 才能不出錯

講者提及AI的盲點,人類能輕易辨別之物,對機器卻是相當困難,需有充分有代表性的訓練資料才不會出錯。(取材自科技新報) 講者提及AI的盲點,人類能輕易辨別之物,對機器卻是相當困難,需有充分有代表性的訓練資料才不會出錯。(取材自科技新報)

電腦病毒的歷史與電腦一樣久,用近期熱門科技AI來偵測惡意程式也成顯學。但資安專家警告,如果不注意AI訓練資料的侷限性,將受制於資料,容易做出錯誤的結果。

科技新報報導,去年舉行的HITCON Pacific大會,奧義智慧創辦人邱銘彰提及AI訓練不夠嚴謹的狀況。像餵給AI的資料多樣性不夠,會造成演算法訓練出問題。又如用虎斑貓來訓練AI辨識,如果突然給訓練好的AI看酪梨的照片,由於酪梨的顏色很像虎斑貓,很大的機會會將酪梨辨識成虎斑貓。

訓練樣本的多樣性是相當重要的,AI用在民生相關之事,訓練也就要愈嚴謹。自駕車是時下熱門的技術,將是實際生活中最貼近人生活的AI。但近期特斯拉的鏡頭卻辨識不出三角椎,導致車子沒減速、停下來,最終造成車禍。

回到防毒程式運用AI的例子,邱銘彰舉最近防毒公司推銷用AI做行為分析型的防護方案。你以為你的辦公室環境是乾淨的,卻忽略公司網路早已經是「毒窟」了。行為分析再怎麼做,分析網路流量也找不出異常連線。

邱銘彰還提及AI為基礎的防毒軟體有時候遇到簡單狀況誤判的情形,簡單的Hello World程式,卻因為非正規寫法,被誤判成惡意程式。綜合分析,AI並非萬靈丹,而且需要很堅強的統計學基礎。

Copyright 2019 世界新聞網-北美華文新聞、華商資訊. All rights reserved.