OpenAI、人工知能テキスト生成検出ツール ChatGPT をリリース

ChatGPT

ChatGPT は、2022 年 11 月に OpenAI によって開始された対話型の自然言語対話モデルです。 OpenAI は RLHF (ヒューマン フィードバックからの強化学習) を使用して ChatGPT をトレーニングします。これは InstructGPT で使用されるのと同じ方法ですが、データ収集設定には明らかな違いがあります。初期モデルのトレーニング時に教師ありチューニング (パラメーター) を使用します: 人間の AI トレーナーによって提供されるセッション。トレーナーは、応答をより適切に完了するために役立つモデルの提案にアクセスできます。新しく生成された会話データセットは、InstructGPT データセットと混合されて、会話形式を形成します。

ChatGPT は、リリース後業界に衝撃を与え、その後、学生を含むすべての関係者によって広く試用されました。一部の学生は ChatGPT を使用して論文、課題、プログラムを作成しようとしますが、教師が論文、課題、プログラムが学生自身によって完成したかどうかを判断するのは困難です。さらに、ChatGPT に署名された未発表論文も多数あります。

この問題を受けて、世界中の学校がプラットフォームの禁止などの措置を講じています。 Business Insider によると、ChatGPT はニューヨーク、シアトル、ロサンゼルスなどの中学校や高校で禁止されており、フランスやインドの大学のコンピューターでもこのプラットフォームは禁止されています。

ChatGPT 検出ツール

1 月 31 日、OpenAI は、入力コンテンツが ChatGPT などの人工知能ツールによって生成されたかどうかを検出するように設計された人工知能テキスト分類器のリリースを発表しました。

OpenAI は、その分類子は完全に信頼できるものではないと述べています。英語のテキストでテストしたところ、分類器は人工知能によって生成されたテキストの 26% を正しく識別し、人間が書いたコンテンツの約 9% が誤って人工知能によって生成されたものとしてラベル付けされました。入力テキストの長さが増加すると、分類器のパフォーマンスが向上します。以前の他の分類器と比較して、この分類器の精度は他の検出分類器よりも高くなっています。

Classifier トライアル アドレス: http://platform.openai.com/ai-text-classifier

OpenAI は、結果が完全に信頼できるものではないため、このツールの使用は推奨されないと述べています。意思決定に使用されますが、他の検出ツールや方法を補完するものとして使用されます。

ChatGPT トライアル アドレス: https://chat.openai.com/

https://openai.com/blog/new-ai-classifier-for-indicating-ai-writing- text

この記事は次から翻訳されています: https://www.bleepingcomputer.com/news/technology/openai-releases-tool-to-detect-ai-writing-text/

以上がOpenAI、人工知能テキスト生成検出ツール ChatGPT をリリースの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。