防用AI做功課 史丹福網路高中生研發ChatGPT偵測器

對擔心學生可能使用ChatGPT等人工智慧工具做作業的教授，一名史丹福網路高中（Stanford Online High School）學生有了解決辦法。

史丹福網路高中11年級學生克里格（Benjamin Klieger）在寒假期間推出CheckforAi，這是一個使用機器學習（machine learning）來偵測各種文件是否以人工智慧工具生成的平台。

克里格說：「我認為偵測人工智慧內容是一件很重要的事，因為現在完全無法得知一份內容究竟是人類撰寫的，還是人工智慧生成的。合成式人工智慧（Generative AI）對各行各業和誠信問題來說，都是一種實際的威脅。」

ChatGPT目前每天有超過1300萬人使用，被譽為一種革命性工具，足以威脅到Google的搜索引擎。根據史丹福校園報在匿名社群媒體Fizz上所做的一項非正式民調，發現可能有許多史丹福大學學生在期末考時使用過ChatGPT。

史丹福大學電腦科學博士生米契（Eric Mitchell）說：「我認為這在某種程度上可以改變教育領域的遊戲規則。」米契是另一個人工智慧偵測器DetectGPT的研發者。

米契說：「我擔心作弊的問題，但學生的作業也不能不被批閱。我認為，一定有不適合人工智慧使用的地方，或許偵測工具是解決辦法之一。」

CheckforAi是以OpenAI現有的Roberta模型為基礎，再加上克里格組建的模型進行GPT偵測。克里格認為，他的偵測平台比OpenAI的GPT偵測器更有效。

克里格說：「如果文字只有微小的變化，原始模型就能偵測出它來自ChatGPT。但是，如果將文字做一些混合，原始模型就會認為這些文字並不完全來自ChatGPT。那些最初由人工智慧生成、但經過人類編輯的文字，正是附加的偵測模型能夠識別的地方。」

不過，米契表示，由於人工智慧偵測器是最近才研發出來的，對這些偵測器給予如此高的信任，人們有很多顧慮。

米契說：「偵測器需要具備多高的性能才能讓它們真的有用、利大於弊？如果偵測模型有誤報率，學生就會無辜被指責抄襲，這將對學生造成非常嚴重的影響。」

CheckforAi並不是自ChatGPT出現以來第一個推出的人工智慧偵測器，包括米契在內的史丹福大學研究人員2月研發出DetectGPT，普林斯頓大學一名學生1月時也推出另一個偵測器GPTZero。