學校AI監控 孩子們不經意的玩笑話 可能會被誤認為有罪

全美愈來愈多學校使用人工智慧(AI)工具監控學生的舉動，尤其是他們在學校帳號及設備上的留言。美聯社報導指出，目前有數千個學區已使用Gaggle及Lightspeed Alert等AI軟體在追蹤學生們的線上活動。

各學校借助AI等先進科技密切注意學生的線上對話，若發現有不妥就會即時通知執法部門，目的是希望藉此尋找學生可能傷害自己或他人的跡象，在悲劇發生前就予以阻止。

教育工作者表示，這些高科技技術挽救了不少生命，但批評人士警告這些科技缺乏「人性」，孩子們不經意的言語可能會被誤認為有罪。

一個活生生例子就是，2023年8月田納西州一名八年級13歲女學生，使用學校電子郵件信箱綁定的聊天功能，跟朋友們講了一句玩笑話，沒想到竟觸發學校的監控軟體，結果遭警方逮捕，而且遭到脫衣搜身審問，在牢房裡蹲了一夜，第二天才准與家人通話。

這個女生由於皮膚曬成古銅色，遭同學取笑她是「墨西哥人」(盡管她不是)，當聊到假期有什麼計畫時，她留言「要殺光所有墨西哥人」，盡管留言裡有表明只是開玩笑而非威脅，但還是觸動了學校的Gaggle警報系統，自動報警將她逮捕。

法院後來判處該名女生在家軟禁八個星期並接受心理評估，女生的父母為此怒告學校，直指校方使用這種愚蠢至極的技術，只會隨機挑選單詞，而沒有考慮前後文。

Gaggle執行長彼得森(Jeff Patterson)表示，校方並沒有按照Gaggle的初心來使用它，Gaggle的目的是在早期發現問題而發出預警訊號，「希望這能成為一個教育機會，而不是執法行動。」

倡議團體「民主與技術中心」(Center for Democracy and Technology)主任萊爾德 (Elizabeth Laird)指出，這些機械式的AI技術，讓執法部門以例行公事的態度介入學生生活，全然沒有經過人性思考。還有批評者認為，不該使用AI來處理青少年心理健康及自殺等複雜問題，而應該從人的角度出發。

但有教育委員會委員指出，AI技術已偵測到數十起學生自殺或暴力威脅，起到防患於未然作用。