ホームページ テクノロジー周辺機器 AI AI の実装に対する最大の障害を解決するために、OpenAI は方法を見つけたのでしょうか?

AI の実装に対する最大の障害を解決するために、OpenAI は方法を見つけたのでしょうか?

Jun 03, 2023 pm 04:49 PM
障害 AI着陸

OpenAI は、生成人工知能の「重大なナンセンス」に対する解決策を見つけたようです。

5 月 31 日、OpenAI は公式 Web サイトで、生成 AI における一般的な「幻想」やその他の一般的な問題の排除に役立つモデルをトレーニングしたと発表しました。

OpenAI は、報酬モデルは幻覚を検出するようにトレーニングできると述べ、報酬モデルは結果監視 (最終結果に基づいてフィードバックを提供) モデルとプロセス監視 (思考連鎖の各ステップにフィードバックを提供) モデルに分けられます。

つまり、プロセスの監視は推論の正しい各ステップに報酬を与えるのに対し、結果の監視は単純に正しい答えに報酬を与えます。

OpenAI は、対照的に、プロセス監視には重要な利点があると述べました - 人間が承認した思考連鎖を生成するようにモデルを直接トレーニングします:

プロセスの監視には、結果の監視に比べて一貫性に関する利点がいくつかあります。各ステップは正確に監視されるため、一貫した思考連鎖モデルに従った行動が評価されます。

プロセス監視は、人間が承認したプロセスにモデルが従うよう促すため、説明可能な推論を生成する可能性も高くなります。

結果のモニタリングは一貫性のないプロセスに報いる可能性がありますが、多くの場合、レビューはより困難です。

OpenAI は数学的データセットで両方のモデルをテストし、

プロセス監視アプローチにより「パフォーマンスが大幅に向上」することがわかりました。

AI の実装に対する最大の障害を解決するために、OpenAI は方法を見つけたのでしょうか?

ただし、これまでのところ、プロセス監視アプローチは数学的領域でのみテストされており、より一般的にどのように機能するかを確認するにはさらなる研究が必要であることに注意することが重要です。

さらに、OpenAI は、この研究がまだ研究段階にある ChatGPT に適用されるまでにどれくらいの時間がかかるかについては示していません。

最初の結果は良好ですが、OpenAI は、より安全なアプローチによりアライメント税と呼ばれるパフォーマンスの低下が生じると言及しています。

現在の結果は、数学的問題を扱う場合、プロセスの監督によって調整税が発生しないことを示していますが、一般的な情報における状況は不明です。

生成AIの「幻想」

生成型 AI の登場以来、虚偽の情報の捏造や「幻覚を生成している」という告発が後を絶たず、これは現在の生成型 AI モデルの最大の問題の 1 つでもあります。

今年2月、GoogleはMicrosoftが資金提供したChatGPTに対抗してチャットボット「Bard」を急遽ローンチしたが、そのデモで常識的な誤りがあったことが判明し、Googleの株価は急落した。

AI の幻覚を引き起こす原因は数多くありますが、その 1 つは、AI プログラムをだまして誤分類させるためのデータ入力です。

たとえば、開発者はデータ (画像、テキスト、その他のタイプなど) を使用して人工知能システムをトレーニングします。データが変更されたり歪められたりすると、アプリケーションは入力を異なる方法で解釈し、誤った結果を生成します。

ChatGPT のような大規模な言語ベースのモデルでは、トランスフォーマーのデコードが間違っているため、錯覚が発生する可能性があり、言語モデルが非論理的または曖昧ではないストーリーや物語を生成する可能性があります。

以上がAI の実装に対する最大の障害を解決するために、OpenAI は方法を見つけたのでしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

モデルコンテキストプロトコル(MCP)とは何ですか? モデルコンテキストプロトコル(MCP)とは何ですか? Mar 03, 2025 pm 07:09 PM

モデルコンテキストプロトコル(MCP):AIとデータのユニバーサルコネクタ 私たちは皆、毎日のコーディングにおけるAIの役割に精通しています。 Replit、Github Copilot、Black Box AI、およびCursor IDEは、AIがワークフローを合理化する方法のほんの一部です。 しかし、想像してみてください

Omniparser V2とOmnitoolを使用して地元のビジョンエージェントを構築する Omniparser V2とOmnitoolを使用して地元のビジョンエージェントを構築する Mar 03, 2025 pm 07:08 PM

MicrosoftのOmniparser V2とOmnitool:AIでGUIオートメーションに革命をもたらす 味付けされた専門家のように、Windows 11インターフェースと相互作用するだけでなく、熟練したプロのように相互作用するAIを想像してください。 MicrosoftのOmniparser V2とOmnitoolはこれを再生します

カーソルAIでバイブコーディングを試してみましたが、驚くべきことです! カーソルAIでバイブコーディングを試してみましたが、驚くべきことです! Mar 20, 2025 pm 03:34 PM

バイブコーディングは、無限のコード行の代わりに自然言語を使用してアプリケーションを作成できるようにすることにより、ソフトウェア開発の世界を再構築しています。 Andrej Karpathyのような先見の明に触発されて、この革新的なアプローチは開発を許可します

レプリットエージェント:実用的な例を備えたガイド レプリットエージェント:実用的な例を備えたガイド Mar 04, 2025 am 10:52 AM

アプリ開発の革新:レプリットエージェントに深く潜ります 複雑な開発環境と不明瞭な構成ファイルとの格闘にうんざりしていませんか? Replit Agentは、アイデアを機能的なアプリに変換するプロセスを簡素化することを目的としています。 このai-p

Runway Act-One Guide:私はそれをテストするために自分自身を撮影しました Runway Act-One Guide:私はそれをテストするために自分自身を撮影しました Mar 03, 2025 am 09:42 AM

このブログ投稿では、Runway MLの新しいAct-One Animationツールの経験をテストし、WebインターフェイスとPython APIの両方をカバーしています。約束しますが、私の結果は予想よりも印象的ではありませんでした。 生成AIを探索したいですか? PでLLMSを使用することを学びます

2025年2月のトップ5 Genai発売:GPT-4.5、Grok-3など! 2025年2月のトップ5 Genai発売:GPT-4.5、Grok-3など! Mar 22, 2025 am 10:58 AM

2025年2月は、生成AIにとってさらにゲームを変える月であり、最も期待されるモデルのアップグレードと画期的な新機能のいくつかをもたらしました。 Xai’s Grok 3とAnthropic's Claude 3.7 SonnetからOpenaiのGまで

オブジェクト検出にYolo V12を使用する方法は? オブジェクト検出にYolo V12を使用する方法は? Mar 22, 2025 am 11:07 AM

Yolo(あなたは一度だけ見ています)は、前のバージョンで各反復が改善され、主要なリアルタイムオブジェクト検出フレームワークでした。最新バージョンYolo V12は、精度を大幅に向上させる進歩を紹介します

Dall-E 3の使用方法:ヒント、例、および機能 Dall-E 3の使用方法:ヒント、例、および機能 Mar 09, 2025 pm 01:00 PM

Dall-E 3:生成AI画像作成ツール 生成AIはコンテンツの作成に革命をもたらし、Openaiの最新の画像生成モデルであるDall-E 3が最前線にあります。 2023年10月にリリースされ、前任者のDall-EとDall-E 2に基づいています

See all articles