OpenAI: ChatGPT のバイアスと不正な動作を減らすために取り組んでいます

2 月 17 日のニュース、人気のチャットボット ChatGPT を開発する AI 研究会社 OpenAI は、システム内の偏見や不正な動作を減らすために取り組んでいると発表しました。ユーザーはチャットボットの動作の一部をカスタマイズできるようになります。以前は、ChatGPT とユーザーとの不適切なやり取りや誤った結果に関する多数の報告がありました。

OpenAI は、同社 Web サイトに掲載されたブログ投稿の中で次のように認めています。「ChatGPT の立ち上げ以来、ユーザーは、偏見、攻撃的、または不快であると思われる多数の出力を共有してきました。多くの場合、我々はそれを認めます」これらの懸念は、当社のシステムの本当の限界を明らかにしており、当社はそれらに対処したいと考えています。」

同社は続けて、「当社は、ChatGPT を削減するために研究とエンジニアリングに投資しています。さまざまな問題への対応には、明白かつ微妙なバイアスが存在します。」 「場合によっては、ChatGPT は現在、出力すべきではない出力を拒否します。また、場合によっては、拒否すべきときに拒否しません。」

OpenAI の動きは、偏見、不正確な結果、およびChatGPT 自体による不適切な行為、および現在テスト中の新しい AI 検索製品に対する Microsoft と Google からの広範な批判。水曜日に公開されたブログ投稿で、MicrosoftはOpenAIテクノロジーをベースにした新しいBingチャットツールの制限について詳しく説明したが、一方GoogleはBardシステムの回答を手動で改善するためにより多くの時間を費やすよう従業員に求めたと伝えられている。

OpenAI はまた、同社が ChatGPT での開発努力を強化しており、各ユーザーの好み、スタイル、ビューに合わせて限定的なカスタマイズを可能にしているとも述べました。

OpenAI はブログ投稿で次のように書いています。「AI は誰にとっても役立つツールであるべきだと信じています。そのため、社会が定める制限内で誰もが AI をカスタマイズできるべきです。これは、他人がシステムをカスタマイズできるようにすることを意味します。」 (私たち自身も含めて) 強く反対する可能性のある出力です。適切なバランスを取ることは大きな課題です。したがって、システムの動作は常に制限する必要があります。」

以上がOpenAI: ChatGPT のバイアスと不正な動作を減らすために取り組んでいますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。