太糟糕！ AI抄襲檢測軟體不斷誣告學生作弊

站長之家（ChinaZ.com）6月7日消息:為了防止學生用AI寫論文，有些高校採用了AI抄襲檢測軟體，但這對有些學生可能是個噩夢。因為有學生被誣告使用人工智慧在論文上作弊，然後在學校調查期間被迫為自己的名字辯護。

正如《滾石》雜誌報道的那樣，加州大學戴維斯分校（University of California Davis）即將畢業的大四學生路易絲·斯蒂弗斯(Louise Stivers)的一篇論文被抄襲檢查軟體Turnitin標記。

在沒有外界支援的情況下，史蒂弗斯被迫為自己辯護，並證明她沒有使用人工智慧聊天機器人來寫論文，這增加了她完成最後一學期的壓力。她爭辯說，甚至她的成績也因此開始下滑。

這一事件凸顯了Turnitin等工具的重大缺陷，以及它們如何越來越多地被用來誣告學生使用人工智慧在課堂上作弊。

史蒂弗斯後來了解到，她甚至不是唯一一個被錯誤地指控基於人工智慧偵測軟體作弊的加州大學戴維斯分校學生。就在今年稍早接受學術誠信審查的前幾天，《今日美國》發表了一篇類似的報道，歷史專業威廉·夸特曼（William Quarterman）稱，他的教授在使用人工智能檢測工具GPTZero後不及格，並錯誤地指控他抄襲。因此，夸特曼不得不經歷與史蒂弗斯相同的自證過程。

像Turnitin和GPTZero這樣的工具的檢測似乎不太準確。有用戶對這兩款工具進行測試時，發現GPTZero遠遠沒有達到標準。即使是ChatGPT製造商OpenAI自己的檢測應用程式也未能可靠地區分人類編寫的文本和AI生成的文本。

最終，學校管理人員向Stivers承認，Turnitin的AI檢測工具正處於beta測試階段，並且已經「搶先體驗」了它。該軟體公司在其網站上承認，儘管據稱準確率為98%，但存在「誤報」。

據史蒂弗斯說，學校還沒有道歉。簡而言之，她被迫為軟體的錯誤負責——這可能會影響她的職業生涯。這是一個令人擔憂的現實。隨著學者使用存在嚴重缺陷的人工智慧抄襲檢測應用程序，在不久的將來，更多的學生可能會被錯誤地指控，這可能會對他們造成毀滅性的後果。

以上是太糟糕！ AI抄襲檢測軟體不斷誣告學生作弊的詳細內容。更多資訊請關注PHP中文網其他相關文章！