ホームページ > テクノロジー周辺機器 > AI > Lats:推奨システムのLlamainDexを備えたAIエージェント

Lats:推奨システムのLlamainDexを備えたAIエージェント

Joseph Gordon-Levitt
リリース: 2025-03-08 10:23:11
オリジナル
493 人が閲覧しました

言語エージェントツリー検索(lat)を使用した体系的なAI推論の力のロックを解除する

質問に答えるだけでなく、問題を体系的に解決し、その経験から学び、数段階のステップを戦略的に計画するAIアシスタントを想像してください。 言語エージェントツリー検索(LATS)は、モンテカルロツリー検索(MCTS)の戦略的計画機能と反応の系統的な推論を組み合わせた最先端のAIフレームワークです。

LATSは、包括的な意思決定ツリーを構築し、複数のソリューションを同時に調査し、継続的な学習を通じて意思決定プロセスを改善します。 垂直AIエージェントに焦点を当てたこの記事では、Llamaindexとsambanova.aiを使用したLATSエージェントの実用的な実装について説明します。

主要な学習目標:

反応(推論の演技)プロンプトフレームワークとその思考アクションと観察サイクルを把握します。

    LatsがReactフレームワークにもたらす進歩を理解してください
  • MCTと言語モデルの機能を活用してLATSフレームワークを実装します。
  • 計算リソースとLATSの実装における最適化された結果のトレードオフを分析します。 LLMプロバイダーとしてSambanovaシステムを備えたLlamainDex Latsエージェントを使用して、推奨エンジンを構築します。
  • (この記事はデータサイエンスブログの一部です。)
  • 目次:

反応剤が説明されました

言語エージェントツリー検索エージェントの理解

lats and React:相乗的なアプローチ

コストに関する考慮事項:いつlats
    を採用するか
  • llamaindexとlatsを使用して推奨システムを構築します
  • 結論
  • よくある質問
  • 反応剤が説明されています
React(推論演技)は、言語モデルが思考、行動、観察の循環的なプロセスを通じてタスクに取り組むことを可能にするプロンプトフレームワークです。 アシスタントが声を出して考え、行動を起こし、フィードバックから学ぶことを想像してください。サイクルは次のとおりです

思考:

現在の状況を分析します。

LATS: AI Agent with LlamaIndex for Recommendation Systems

アクション:

分析に基づいて一連のアクションを選択します。

    観察:
  • 環境からのフィードバックの収集。
  • 繰り返します:
  • フィードバックを使用して、後続の考えを通知します この構造化されたアプローチにより、言語モデルは複雑な問題を分解し、情報に基づいた決定を下し、結果に基づいて戦略を適合させることができます。 たとえば、多段階の数学的問題では、モデルは関連する概念を特定し、式を適用し、結果のロジックを評価し、それに応じてアプローチを調整する場合があります。これは、人間の問題解決を反映しており、より信頼性の高い結果をもたらします

    (以前にカバーされた:llamaindexとgeminiを使用した反応剤の実装)

    言語エージェントツリー検索エージェントの理解

    言語エージェントツリー検索(LATS)は、洗練された意思決定と計画のための言語モデル機能とMCTを融合する高度なフレームワークです。

    LATは、入力クエリによって開始される継続的な探索、評価、および学習を通じて動作します。 過去の探求と反省の検索ツリーを網羅した長期的な記憶を維持し、将来の決定を導きます。 LATS: AI Agent with LlamaIndex for Recommendation Systems Latsは、有望なパスを体系的に選択し、各決定点で潜在的なアクションをサンプリングし、値関数を使用してメリットを評価し、それらを端末状態にシミュレートして有効性を測定します。 コードのデモンストレーションでは、ツリーの拡張とスコア評価を示します。

    lats and react:synergistic approach

    latsは、Reactの思考 - アクション - 観測サイクルをツリー検索に統合します:

    LATS: AI Agent with LlamaIndex for Recommendation Systems各ノードは、Reactの思考生成、アクション選択、および観察コレクションを使用します。

    latsは、複数の反応シーケンスを同時に調査し、過去の経験を使用して探索を導くことにより、これを強化します。

    ただし、このアプローチは計算的に集中的です。 Latsが最も有益である場合を調べてみましょう

      コストに関する考慮事項:いつlats LATSはベンチマークでベッド、反応、およびその他の方法を上回るが、その計算コストは​​重要です。 複雑なタスクは多数のノードを生成し、複数のLLM呼び出しにつながり、生産環境には適さない。 リアルタイムアプリケーションは、各API呼び出しの遅延により、特に困難です。 組織は、特にスケーリングする場合、インフラストラクチャコストに対するLatsの優れた意思決定を慎重に比較検討する必要があります。
  • latsを使用してください:

タスクは複数のソリューション(プログラミングなど)を備えた複雑です。

間違いはコストがかかり、正確さが最重要です(例:財務、医療診断)。

過去の試みからの学習は有利です(例えば、複雑な製品検索)。

latsを避けてください:

    タスクはシンプルで、迅速な応答が必要です(例:基本的なカスタマーサービス)。
  • 時間の感度は重要です(例:リアルタイム取引)。
  • リソースは制限されています(モバイルアプリケーションなど)。
  • 大量の反復タスクが関与します(例:コンテンツモデレート)。

LlamaindexとLats LatsとLlamainDexを使用して推奨システムを構築しましょう

    ステップ1:環境のセットアップ
  • 必要なパッケージをインストール:

!pip install llama-index-agent-lats llama-index-core llama-index-readers-file duckduckgo-search llama-index-llms-sambanovasystems
import nest_asyncio; nest_asyncio.apply()
ログイン後にコピー

ステップ2:構成とAPIのセットアップ

Sambanova LLM APIキーをセットアップします(

を置き換えます):<your-api-key></your-api-key>

import os
os.environ["SAMBANOVA_API_KEY"] = "<your-api-key>"

from llama_index.core import Settings
from llama_index.llms.sambanovasystems import SambaNovaCloud

llm = SambaNovaCloud(model="Meta-Llama-3.1-70B-Instruct", context_window=100000, max_tokens=1024, temperature=0.7, top_k=1, top_p=0.01)
Settings.llm = llm</your-api-key>
ログイン後にコピー

ステップ3:Tool-Search(duckduckgo)の定義

from duckduckgo_search import DDGS
from llama_index.core.tools import FunctionTool

def search(query:str) -> str:
    """Searches DuckDuckGo for the given query."""
    req = DDGS()
    response = req.text(query,max_results=4)
    context = ""
    for result in response:
      context += result['body']
    return context

search_tool = FunctionTool.from_defaults(fn=search)
ログイン後にコピー

ステップ4:llamaindexエージェントランナー - lats

from llama_index.agent.lats import LATSAgentWorker
from llama_index.core.agent import AgentRunner

agent_worker = LATSAgentWorker(tools=[search_tool], llm=llm, num_expansions=2, verbose=True, max_rollouts=3)
agent = AgentRunner(agent_worker)
ログイン後にコピー

ステップ5:エージェントを実行

query = "Looking for a mirrorless camera under 00 with good low-light performance"
response = agent.chat(query)
print(response.response)
ログイン後にコピー

ステップ6:エラー処理(例を使用した例) - このセクションでは、エージェントが「私はまだ考えている」を返すケースを処理する方法を提供します。 コードは元の入力で提供されています。agent.list_tasks()

結論

latsはAIエージェントアーキテクチャを大幅に進めます。強力ですが、その計算上の要求は慎重に考慮する必要があります

よくある質問

FAQSセクションは、元の入力で提供されています。

(注:メディアの所有権に関する声明は変わらないままです。)

以上がLats:推奨システムのLlamainDexを備えたAIエージェントの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。
著者別の最新記事
人気のチュートリアル
詳細>
最新のダウンロード
詳細>
ウェブエフェクト
公式サイト
サイト素材
フロントエンドテンプレート