OpenAIはChatGPTで生成されたコンテンツを99.9%の精度で検出するツールを開発したが、リリースする予定はない

カリフォルニアの会社は、人工知能 (AI) コンテンツを検出できる技術を研究していることを長い間ほのめかしていましたが、顧客はこの技術が何年も先のことであると信じていました。

OpenAI は、誰かが ChatGPT を使用してコンテンツを生成することを 99.9% の精度で検出できるツールを開発したと伝えられていますが、同社はそれを一般にリリースする予定はありません。

カリフォルニアの企業は、人工知能 (AI) コンテンツを検出できる技術を研究していることを長い間ほのめかしてきたが、この技術は何年も先の話であると顧客に信じ込ませてきた。ただし、ウォール ストリート ジャーナル (WSJ) にインタビューした内部関係者によると、このツールは何か月も前から利用可能になっていたそうです。

AI が生成したコンテンツの導入が急増するにつれて、AI によって生成されたコンテンツを検出することが重要な課題となっています。国会議員は、AI 開発者にそのようなコンテンツに透かしやその他の特徴的な機能を含めることを義務付ける法律を制定しましたが、どれも定着していません。

この課題は教育システムなどの一部の分野でより一般的であり、最近の調査では中高生の 60% が学業を支援するために AI を使用していることが判明しました。

OpenAI 内部関係者によると、この課題は 1 年以上前に、ChatGPT で生成されたコンテンツの検出において 99.9% の精度を達成することができたチームによって解決されました。ただし、同社はこのツールを一般公開する予定はありません。

「ボタンを押すだけです」と情報筋の一人は語った。

OpenAIは、このツールには「重要なリスク」があるため、ユーザーを保護するために遅延が必要であると述べています。

「関連する複雑さと、OpenAI を超えたより広範なエコシステムに与える可能性のある影響を考慮すると、私たちが採用した意図的なアプローチが必要であると信じています」と同社の広報担当者は WSJ に語った。

同社はまた、このテクノロジーが誰でも利用できるようになれば、悪意のある者がそのテクニックを解読して回避策を開発できる可能性があるとも主張しました。

しかし、情報筋によると、本当の動機はユーザーの維持だそうです。昨年の同社の調査では、ChatGPT ユーザーの 70% が新しいツールに好意的ではなく、3 人に 1 人がチャットボットをやめてライバルに頼ると回答したことがわかりました。

それ以来、上級幹部はこのツールを公開する準備ができていないと主張して、このツールを隠蔽してきました。 2 か月前の会議で、上層部は、透かし出力に依存するこのツールはあまりにも物議を醸しており、会社は他の選択肢を検討する必要があると述べました。

Google (NASDAQ: GOOGL) が率いる OpenAI のライバルは、これ以上の成績を収めていません。 Gemini LLM が業界リーダーの 1 つである検索エンジンの巨人は、SynthID と呼ばれる同様のツールを開発しましたが、まだ一般公開されていません。

人工知能 (AI) が法律の範囲内で正しく機能し、増大する課題に直面して成功するためには、データ入力の品質と所有権を保証するエンタープライズ ブロックチェーン システムを統合する必要があります。これにより、データを安全に保ちながら、データの不変性。

CoinDesk 購読者はここから全文にアクセスできます。

見てください: 革新的な AI アプリケーションが登場します

ブロックチェーンは初めてですか?ブロックチェーンテクノロジーについて詳しく学ぶための究極のリソースガイドである CoinGeek の「初心者向けブロックチェーン」セクションをご覧ください。

以上がOpenAIはChatGPTで生成されたコンテンツを99.9%の精度で検出するツールを開発したが、リリースする予定はないの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。