與AI同行／高中生被控AI作弊 家長提告學區

加州巴洛阿圖高中一名學生被控使用人工智慧作弊，這個事件如今已演變成一起家長控告學區的民權訴訟，這其中究竟是誰有理？

舊金山紀事報報導，引發事件的作文是關於阿瑟米勒（Arthur Miller）的名著「坩堝」（The Crucible），一部影射塞勒姆女巫審判（Salem Witch Trials）和紅色恐慌（Red Scare）的作品。它講述的是一個社區基於不可靠的證詞摧毀他人，並且拒絕讓步的故事。

如今，這項作業簡直成了一針見血的諷刺。去年10月，一名10年級學生向他在巴洛阿圖高中的英語老師巴特利特（Sarah Bartlett）提交了一篇關於這部作品的作文；到了12月，他被指控主要使用人工智慧軟體完成該作文，並被要求在課堂上重寫，結果重寫的只得了D。

他的家人提交了草稿、時間戳記以及他谷歌文件的修改歷史紀錄，最終在1月份向學校提交了一份長達1162頁的證據材料。3月份，他的家人向學校提出了一個條件：給孩子一個B，然後大家就此了事。

但巴洛阿圖學區拒絕了請求。如今，該學區面臨聯邦訴訟，原告加藤（Takashi Kato）指控，他的兒子在學校未通知家長的情況下，遭到錯誤指控和不當懲罰。這已成為一個似曾相識的故事：學生被人工智慧偵測演算法標記，學校拒不讓步，最終只能由家長企圖證明孩子的清白。

該案例並非巴洛阿圖一個焦慮家庭的獨立遭遇，它考驗著美國各地學校悄悄採用的這套系統，而這套系統幾乎沒有任何監管：人工智慧檢測軟體的開發商也承認其存在缺陷，教師們各自部署該軟體，既沒有統一的行動標準，也沒有強制性的審查流程，更沒有可靠的途徑讓被錯誤指控的學生洗清冤屈。

據稱巴特利特在Turnitin（一款用於檢測由生成式AI編寫的文字的軟體工具）報告稱，該生的作文中有76%可能是由AI編寫後，對其進行了標記。該訴訟是於5月5日提交至加州北區聯邦地方法院。