第二次世界大戦中、シックス・トリプル・エイトの女性たちは、数え切れないほどの手紙を細心の注意を払って処理し、それぞれの手紙が意図した受取人に確実に届くようにしました。 彼らの仕事は納品まで完了しませんでした。 AI の領域では、推論はこの重要な最終ステップを反映します。モデルを微調整した後、推論は実世界のデータでそのパフォーマンスを検証し、分類、要約、その他の特殊な機能など、トレーニングされたタスクを正確に実行する能力を確認します。
次の Python の例は、微調整された OpenAI モデルを使用した推論を示しています。 ここでは、記事をビジネス、テクノロジー、エンターテイメント、政治、スポーツのカテゴリに分類します。
<code class="language-python">fine_tuned_model = "ft:gpt-3.5-turbo:xxxxxxxxxxxx" system_prompt = "Classify this article into one of these categories: business, tech, entertainment, politics, sport" user_input = "A new mobile phone is launched" try: response = openai.ChatCompletion.create( model=fine_tuned_model, messages=[ {"role": "system", "content": system_prompt}, {"role": "user", "content": user_input} ] ) print("Model Response:") print(response.choices[0].message.content) # Access the content directly except Exception as e: print("Error during inference:", e)</code>
歴史の例え
各文字の宛先を検証するシックス トリプル エイトと同様に、推論は新しいデータを分類する際の微調整されたモデルの精度を検証します。これは品質管理の最終ステップであり、「メール」(ユーザーのクエリ) が正しい「宛先」(正確な分類) に確実に到着するようにします。
この最終段階では、現実世界のアプリケーションを処理する際のモデルの信頼性が確認され、初期の微調整プロセスに費やした時間と労力が正当化されます。
以上が微調整されたモデルによる推論: メッセージの配信の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。