煞車變失火、人當成熊…家庭監視器AI常誤判 嚇壞用戶

華爾街日報5日報導，人工智慧模型為家庭監視器攝影畫面進行的AI描述(AI descriptions)常識錯誤頻傳，判讀房屋失火其實是煞車燈亮光，人類則被當成熊。

正在休士頓工作的聯邦包商克莉斯蒂·巴克利(Kristi Buckley)，從手機接到鏡頭對正客廳窗外的Wyze監視器通知說鄰居房子失火，但她回放影片卻發現所謂的火焰只是鄰居車輛的紅色煞車燈在夜間閃爍。

報導指出，這些錯誤警報常讓收到的用戶被嚇壞或莞爾一笑。用戶反應說，鏡頭拍到浣熊、狗、甚至是飄動旗幟時，監視設備顯示偵測到熊，也有柯基犬被誤認為豬，窗戶反射光線則被誤解為有人入侵或龍捲風。

水牛城大學(University at Buffalo)電腦科學及工程教授杜爾曼(David Doermann)說，AI工具判別視覺模式功能強大，但卻缺乏常識。

Wyze Labs共同創辦人兼行銷長柯羅斯比(Dave Crosby)表示，公司設備上的AI描述通常是準確的，會根據客戶回饋不斷改進，不過在模型能夠完全正確處理所有事情之前，還有數十億種獨特場景有待學習。

Wyze家庭監視系統擁有1300萬名用戶，2025年初推出AI描述警報功能，是每月19.99元方案的服務項目之一，可以用在多款攝影機。

紐約長島居民喬杜里(Tauf Chowdhury)曾參加亞馬遜(Amazon)旗下門鈴監視器Ring的三個月免費試用，有天收到通知指稱住家周邊有熊經過，但鏡頭拍到的其實是一隻步履蹣跚的浣熊。試用期結束後，他便選擇不參加必須付費的AI功能服務。

佛羅里達州拿波里(Naples)居民凡妮莎·索德史特姆(Vanessa Soderstrom)表示，有天跟十幾歲姪女在家，手機通知說落地窗前有人。她驚嚇以為有人入侵，其實Blink監視系統攝影機只是被姪女在玻璃窗前的反射光線干擾。

她說，後來接到手機通知說院子有熊正在移動，並沒有太大反應，因為她穿著棕色休閒運動裝在打掃露台，被AI工具解讀為棕熊。