在LLMS中調用工具

大型語言模型（LLMS）的流行激增，工具稱呼功能極大地擴展了其功能，而不是簡單的文本生成。現在，LLM可以處理複雜的自動化任務，例如動態UI創建和自動操作。在大規模數據集中培訓，這些模型在理解和生成結構化數據方面表現出色，使其非常適合精確的工具稱呼應用程序。這加劇了他們在AI驅動的軟件開發中的廣泛採用，從基本功能到復雜的代理，工具稱呼現在是中心。本文探討了LLM工具呼叫的基礎知識，並演示瞭如何使用開源工具來構建強大的代理商來實施它。

關鍵學習目標

• 掌握LLM工具的概念。
• 了解工具呼叫及其應用的基本原理。
• 探索OpenAI中的工具稱呼實現（ChatCompletions API，助手API，並行工具調用和結構化輸出），人類模型和Langchain。
• 學會使用開源資源來構建有效的AI代理。

*本文是***數據科學博客馬拉鬆的一部分。

目錄

• 什麼是工具？
• 什麼是工具調用？
• 工具調用如何工作？
  • 示例用例
• 使用OpenAI型號的工具通話
  • 利用助手API
  • 並行函數調用
  • 結構化輸出
• 用擬人的克勞德（Claude）來調用工具
• 用蘭班呼叫工具
  • 模式定義與pydantic
• 用工具調用的建築代理
• 引入Composio
• 建造GitHub代理
• 常見問題

什麼是工具？

工具是允許LLM與外部系統交互的機制。這些工具是可以訪問LLM的功能，在LLM認為其使用必要時獨立執行。一個典型的工具定義包括：

• 名稱：描述函數/工具名稱。
• 描述：詳細的工具說明。
• 參數：定義函數/工具參數的JSON模式。

什麼是工具調用？

工具調用使該模型能夠生成匹配用戶定義功能架構的響應。當LLM決定需要工具時，它會產生與工具參數模式相符的結構化輸出。例如，鑑於get_weather功能模式，有關城市天氣的查詢將返回一個格式化的功能參數架構，從而使執行能夠檢索天氣數據。重要的是，LLM不會執行該工具；它生成用於外部執行的結構化輸入。

工具調用如何工作？

OpenAI和Anthropic的公司已經培訓了模型，可以根據上下文選擇適當的工具。每個提供商都以不同的方式處理工具調用和響應。一般來說：

1. 定義工具並提供一個提示：定義具有名稱，描述和結構化模式的工具，以及用戶的提示（例如，“倫敦的天氣是什麼？”）。
2. LLM工具選擇： LLM評估工具的必要性。如果是這樣，它會停止文本生成並使用工具參數值生成JSON形式的響應。
3. 提取，執行和返回：提取參數，運行功能，然後返回輸出到LLM。
4. 答案生成： LLM使用工具輸出來製定最終答案。

示例用例

• 動作啟用：將LLMS連接到應用程序（Gmail，Github，Discord）以自動化操作（發送電子郵件，創建拉請請求，發送消息）。
• 數據提供：從知識庫（Web，Wikipedia，API）中獲取數據，以向LLM提供特定信息。
• 動態UIS：基於用戶輸入更新應用程序UIS。

以下各節詳細介紹了OpenAI，人類和Langchain的工具接聽方法。開源模型（例如Llama 3）和推理提供商（如GROQ）也支持工具調用。

（本文的其餘部分將繼續詳細說明在OpenAI，人類，蘭鏈，建築代理，Composio和GitHub代理示例中呼叫工具的詳細說明，反映了原始輸入的結構和內容，但帶有重新表達的句子和詞彙。）

以上是在LLMS中調用工具的詳細內容。更多資訊請關注PHP中文網其他相關文章！