我的頻道

* 拖拉類別可自訂排序
恢復預設 確定
設定
快訊

近20年未獲利 Reddit申請上市 允許最狂熱用戶購買股票

移民成大選焦點 拜登、川普將罕見同日訪問德州邊境

防用AI做作業 史丹福網路高中學生研發ChatGPT偵測器

史丹福網路高中學生研發出可偵測ChatGPT文字的工具。(美聯社)
史丹福網路高中學生研發出可偵測ChatGPT文字的工具。(美聯社)

對擔心學生可能使用ChatGPT人工智慧工具做作業的教授,一名史丹福網路高中(Stanford Online High School)學生有了解決辦法。

史丹福網路高中11年級學生克里格(Benjamin Klieger)在寒假期間推出CheckforAi,這是一個使用機器學習(machine learning)來偵測各種文件是否以人工智慧工具生成的平台。

克里格說:「我認為偵測人工智慧內容是一件很重要的事,因為現在完全無法得知一份內容究竟是人類撰寫的,還是人工智慧生成的。合成式人工智慧(Generative AI)對各行各業和誠信問題來說,都是一種實際的威脅。」

ChatGPT目前每天有超過1300萬人使用,被譽為一種革命性工具,足以威脅到Google的搜索引擎。根據史丹福校園報在匿名社群媒體Fizz上所做的一項非正式民調,發現可能有許多史丹福大學學生在期末考時使用過ChatGPT。

史丹福大學電腦科學博士生米契(Eric Mitchell)說:「我認為這在某種程度上可以改變教育領域的遊戲規則。」米契是另一個人工智慧偵測器DetectGPT的研發者。

米契說:「我擔心作弊的問題,但學生的作業也不能不被批閱。我認為,一定有不適合人工智慧使用的地方,或許偵測工具是解決辦法之一。」

CheckforAi是以OpenAI現有的Roberta模型為基礎,再加上克里格組建的模型進行GPT偵測。克里格認為,他的偵測平台比OpenAI的GPT偵測器更有效。

克里格說:「如果文字只有微小的變化,原始模型就能偵測出它來自ChatGPT。但是,如果將文字做一些混合,原始模型就會認為這些文字並不完全來自ChatGPT。那些最初由人工智慧生成、但經過人類編輯的文字,正是附加的偵測模型能夠識別的地方。」

不過,米契表示,由於人工智慧偵測器是最近才研發出來的,對這些偵測器給予如此高的信任,人們有很多顧慮。

米契說:「偵測器需要具備多高的性能才能讓它們真的有用、利大於弊?如果偵測模型有誤報率,學生就會無辜被指責抄襲,這將對學生造成非常嚴重的影響。」

CheckforAi並不是自ChatGPT出現以來第一個推出的人工智慧偵測器,包括米契在內的史丹福大學研究人員2月研發出DetectGPT,普林斯頓大學一名學生1月時也推出另一個偵測器GPTZero。

人工智慧 ChatGPT 史丹福大學

上一則

新報告:舊金山灣區恐丟美科技中心地位

下一則

「繼續反仇恨工作」 AAPI峰會提供治安資訊

超人氣

更多 >