とてもひどい！ AI 盗作検出ソフトウェアが学生の不正行為を不当に告発し続ける

Webmaster's Home (ChinaZ.com) 6 月 7 日のニュース:学生が AI を使用して論文を書くことを防ぐために、一部の大学は AI 盗作検出ソフトウェアを導入しましたが、これは悪夢かもしれません一部の学生にとっては。というのは、ある生徒が人工知能を使って作文をカンニングしたとして無実の罪で告発され、その後学校の調査で自分の名前を弁護することを余儀なくされたからだ。

ローリングストーン誌が報じているように、カリフォルニア大学デイビス校の卒業生であるルイーズ・スティバーズ氏のエッセイが、盗作チェックソフトウェア Turnitin マークに引っかかった。

外部からの支援がないため、スティバースさんは自分を弁護し、論文執筆に人工知能チャットボットを使用していないことを証明する必要があり、最終学期を修了しなければならないというプレッシャーがさらに高まりました。その結果、成績さえも下がり始めたと彼女は主張した。

この事件は、Turnitin のようなツールの重大な欠陥と、人工知能を使用して授業でカンニングをしたとして学生を不当に告発するためにこれらのツールがどのように使用されることが増えているかを浮き彫りにしました。

スティバースさんは後に、人工知能検出ソフトウェアに基づいて不正行為をしたとして不当に告発されたカリフォルニア大学デービス校の学生は彼女だけではなかったことを知りました。今年初めに学術的誠実性に関する厳しい調査が行われる数日前に、USAトゥデイは同様の報告書を掲載し、その中で歴史学専攻のウィリアム・クォーターマン氏は、教授がAI検出ツールGPTZeroを使用していたと述べ、その後授業を落第し、盗作の濡れ衣を着せられたと報じた。したがって、クォーターメインはスティヴァースと同じ自己証明のプロセスを経なければならなかった。

Turnitin や GPTZero などのツールによる検出は不正確のようです。一部のユーザーがこれら 2 つのツールをテストしたところ、GPTZero は標準には程遠いことがわかりました。 ChatGPT メーカーである OpenAI 独自の検出アプリケーションでさえ、人間が書いたテキストと AI が生成したテキストを確実に区別することができませんでした。

最終的に、学校管理者は、Turnitin の AI 検出ツールがベータ テスト中であり、「早期アクセス」できたことを Stivers に認めました。このソフトウェア会社は自社のウェブサイトで、98%の精度と称されていたにもかかわらず、「誤検知」があったことを認めた。

スティバース氏によると、学校は謝罪していないとのこと。つまり、彼女はソフトウェアのエラー、つまり彼女のキャリアに影響を与える可能性のあるエラーの責任を負わなければならなくなったのです。これは憂慮すべき現実です。学者たちが重大な欠陥のあるAI盗作検出アプリケーションを使用しているため、近い将来さらに多くの学生が不当に告発される可能性があり、それは彼らに壊滅的な結果をもたらす可能性があります。

以上がとてもひどい！ AI 盗作検出ソフトウェアが学生の不正行為を不当に告発し続けるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。