ChatGPTの脆弱性を探しに兄弟がやってくる、OpenAI：報奨金の最高額は2万ドル

ChatGPT の脆弱性を見つけてお金を稼ぐことができるようになりました。

今朝早く、OpenAI はバグ報奨金プログラムの開始を発表しました:

ChatGPT の脆弱性を報告すると、最大 20,000 米ドルの現金報奨金を受け取ることができます。

具体的には、OpenAI はバグ フィードバック プラットフォーム Bugcrowd と協力して、製品の使用中に人々が発見したバグを収集します。

このプラットフォームを通じて脆弱性を発見して報告し、現金報酬を受け取ります:

脆弱性の重大度と範囲に応じて現金報酬を与えます。それほど重大ではない脆弱性には 200 ドルが授与されますが、特別な脆弱性の場合、報奨金の上限は 20,000 ドルとなります。私たちはあなたの貢献を尊重し、あなたの努力の結果を（一般に）公開することに尽力します。

具体的には、ユーザーによって報告された脆弱性は、Bugcrowd 評価分類方法に従って等級付けされます。

OpenAI は、脆弱性の出現が避けられないことを認めています:

OpenAI の使命は、すべての人に利益をもたらす人工知能システムを作成することです。この目的を達成するために、当社は AI システムの安全性と信頼性を確保するために研究とエンジニアリングに多額の投資を行ってきました。ただし、他の複雑なテクノロジーと同様に、バグや欠陥が発生する可能性があることを私たちは理解しています。

OpenAI のセキュリティ部門責任者であるマシュー ナイト氏は、脆弱性を発見するプロセスにはネットユーザーの助けが必要であると説明しました:

この取り組みは、安全で高度な人工知能の開発に対する当社の取り組みの重要な部分です。 。 一部。安全・安心・信頼される技術とサービスを創造するために、皆様のご協力をお待ちしております。

彼らはまた、フィードバックを受け取ったらできるだけ早く脆弱性を修正し、提出者を称賛することをネットワーク全体に約束しました。

新たな副業登場？

ChatGPT を経験したネチズンは、そのパフォーマンスが必ずしも満足できるものではないことを知っているはずです。

質問が少し難しい場合、ChatGPT は混乱し、とんでもない答えを返すこともあります。

こうしてみると、バグを見つけるのは簡単すぎますが、これは大金を稼ぐチャンスではないでしょうか?

あまり早く幸せにならないでください。

OpenAIは発表の中で、修復の可能性を考慮し、モデル自体の問題は今回の計画の範囲外であると述べている。

そして、悪いことを言ったり、悪いことをしたり、悪意のあるコードを生成したり、セキュリティ対策を回避したり機械の幻覚を引き起こしたりするその他の動作を許可することは、モデル自体に問題があります。

間違った答えや不正確な答えは言うまでもありません。

OpenAI は、主にアカウント、認証、サブスクリプション、支払い、メンバーシップ、プラグインの問題に関連する、ChatGPT に関連する脆弱性を収集したいと考えています。

一般のユーザーにとって、これらの観点から脆弱性を発見することはやや困難です。

セキュリティの問題を過小評価することはできません

前の記事で述べたセキュリティ制限の回避などの問題は、実務者にとって大きな懸念事項です。

人工知能プログラムには、危険なコメントや不快なコメントを防ぐ安全制限が組み込まれています。

しかし、何らかの手段を介して、これらの制限を回避または破ることができます。

この現象は、専門家によって明確に「脱獄」と呼ばれています。

ChatGPT に違法なことを行う方法を尋ねる場合は、事前に、悪者を「演じる」よう依頼していることを明記してください。

人工知能の分野には、セキュリティ対策を向上させるための「脱獄」を専門に研究する集団があります。

OpenAI はモデル自体の脆弱性を収集しませんが、これはこの問題に注意を払っていないという意味ではありません。

GPT-4.0 モデルを搭載した新しいバージョンの ChatGPT には、より厳しい制限があります。

ネチズン: ChatGPT に独自にバグを発見させてみてはいかがでしょうか

OpenAI の報奨金計画が発表されるとすぐに、多くのネチズンが注目しました。

いいえ、一部のネチズンはすぐに手を挙げ、バグを発見したと言いました:

報告します。ChatGPT には 3 時間以内に 25 の質問しかできません。これはバグです。

一部のネチズンは、ChatGPT を単独でデバッグできるようにすべきではないかと冗談を言いました。

# 真剣に話すと、一部のネチズンはこう言いました。危険な言論問題がコレクションに含まれていないことへの懸念:

しかし、ほとんどのネチズンは依然として楽観的であり、期待の波を表明しています:

それでは、次の脆弱性を見つけることに興味がありますか? ChatGPT? これに興味がありますか?

参考リンク:

[1]
https://www.php.cn/link/92c4661685bf6681f6a33b78ef729658 [2]
https://www.php.cn/link/52ff52aa56d10a1287274ecf02dccb5f [3]
https://www.php.cn/link/bb44c2e24438b59f0d2109fec67f6b20 [4]
https://www.php.cn/link/a3b36cb25e2e0b93b5f334ffb4e4064e

以上がChatGPTの脆弱性を探しに兄弟がやってくる、OpenAI：報奨金の最高額は2万ドルの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。