OpenAI は新しい微調整とカスタマイズのオプションを提供します

微調整は、価値のある人工知能ツールを構築する上で重要な役割を果たします。よりターゲットを絞ったデータセットを使用して事前トレーニングされたモデルを改良するこのプロセスにより、ユーザーは専門的な意味合いに対するモデルの理解を大幅に高めることができ、特定のタスクのために既製の知識をモデルに追加できるようになります。

このプロセスには時間がかかる場合がありますが、多くの場合、モデルを最初からトレーニングするよりも 3 倍の費用対効果が高くなります。この価値は、カスタム モデル プログラムの拡張と微調整 API のさまざまな新機能に関する OpenAI の最近の発表に反映されています。

セルフサービス微調整 API の新機能

OpenAI は、2023 年 8 月に GPT-3 用のセルフサービス微調整 API のリリースを初めて発表しました。そしてAIコミュニティの反応で熱狂的に受け入れられました。 OpenAI の報告によると、数千のグループが API を活用して、特定のプログラミング言語を使用したコードの生成、テキストを特定の形式に要約する、ユーザーの行動に基づいてパーソナライズされたコンテンツを作成するなど、数千のモデルをトレーニングしています。

2023 年 8 月の立ち上げ以来、求人マッチングおよび採用プラットフォーム Indeed は大きな成功を収めてきました。求職者と関連する求人情報をマッチングするために、Indeed はユーザーにパーソナライズされたおすすめ情報を送信します。 GPT 3.5 Turbo は、プロセスのより正確な説明を生成するように微調整されており、アラート内のトークンの数を 80% 削減できます。これにより、同社が求職者に毎月送信するメッセージの数は 100 万件未満から約 2,000 万件に増加しました。

新しい微調整 API 機能はこの成功に基づいて構築され、将来のユーザーのために機能が向上することが期待されます:

エポックベースのチェックポイントの作成: 自動的に生成されます。すべてのトレーニング エポックで完全に微調整されたモデル チェックポイントを使用できるため、特に過学習の場合、その後の再トレーニングの必要性が軽減されます。

比較プレイグラウンド: モデルの品質とパフォーマンスを比較するための新しい並列プレイグラウンド UI。複数のモデルの出力を手動で評価したり、単一のプロンプトのスナップショットを微調整したりできます。

サードパーティ統合: サードパーティ プラットフォームとの統合 (権限とバイアスから始まる) をサポートし、開発者が詳細な微調整データをスタックの残りの部分と共有できるようにします。

包括的な検証メトリクス: モデルの品質をより深く理解するために、検証データセット全体の損失や精度などのメトリクスを計算する機能。

ハイパーパラメータ構成: (API または SDK 経由だけでなく) ダッシュボードから利用可能なハイパーパラメータを構成する機能。

ダッシュボードの微調整の改善: ハイパーパラメーターの構成、より詳細なトレーニング メトリクスの表示、以前の構成からのジョブの再実行などの機能が含まれます。

過去の成功を踏まえ、OpenAI は、これらの新機能により、開発者が微調整作業をよりきめ細かく制御できるようになると考えています。

支援された微調整とカスタム トレーニング モデル

OpenAI は、2023 年 11 月の DevDay のリリースに基づいてカスタム モデル プランも改善しました。大きな変更の 1 つは、補助付き微調整の出現です。これは、追加のハイパーパラメータや、大規模なさまざまなパラメータ効果的微調整 (PEFT) メソッドの追加など、API 微調整を超えた貴重な技術を活用する手段です。

SK Telecom は、このサービスの可能性を最大限に活用した例です。この通信事業者は韓国に 3,000 万人を超えるユーザーを抱えているため、通信カスタマー サービスの専門家として機能できる人工知能モデルをカスタマイズしたいと考えていました。

OpenAI と協力して GPT-4 を微調整し、韓国の通信関連の会話に焦点を当てたことにより、SK Telecom の会話概要の品質は 35% 向上し、意図認識の精度は 33% 向上しました。新しい微調整モデルを一般化された GPT-4 と比較した場合、満足度スコアも 5 点満点中 3.6 から 4.5 に向上しました。

OpenAI には、ドメイン固有の知識モデルの詳細な微調整が必​​要な企業向けにカスタム モデルを構築する機能も導入されています。法律 AI 企業 Harvey とのパートナーシップは、この機能の価値を実証しています。法務業務では大量の文書を読む必要があるため、ハーベイは LLM (大規模言語モデル) を使用してこれらの文書から情報を合成し、検討のために弁護士に提出したいと考えていました。ただし、多くの法律は複雑で状況に依存するため、Harvey 氏は OpenAI と協力して、新しい知識と推論方法を基本モデルに組み込むことができるカスタムトレーニングされたモデルを構築したいと考えています。

Harvey は OpenAI と提携し、この判例法モデルをカスタム トレーニングするために 100 億トークンに相当するデータを追加しました。情報に基づいた法的判断を下すために必要な文脈の深さを追加することにより、結果として得られたモデルは事実に基づく回答を 83% 改善しました。

AI ツールは決して「万能薬」ソリューションではありません。カスタマイズ性はこのテクノロジーの有用性の核心であり、トレーニング モデルの微調整とカスタマイズにおける OpenAI の取り組みは、すでにツールからメリットを得ている組織を拡大するのに役立ちます。

以上がOpenAI は新しい微調整とカスタマイズのオプションを提供しますの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。