LLM에서 도구 호출

대형 언어 모델 (LLM)은 인기가 높아졌으며, 도구 전달 기능은 단순한 텍스트 생성을 넘어 기능을 극적으로 확장했습니다. 이제 LLM은 동적 UI 생성 및 자율적 인 동작과 같은 복잡한 자동화 작업을 처리 할 수 ​​있습니다. 대규모 데이터 세트에 대해 교육을받은이 모델은 구조화 된 데이터를 이해하고 생성하는 데 탁월하여 정확한 공구 용 연결 애플리케이션에 이상적입니다. 이는 기본 기능에서 정교한 에이전트에 이르기까지 공구 용도가 중심적인 AI 중심 소프트웨어 개발에서 광범위한 채택을 촉발했습니다. 이 기사는 LLM 도구 호출의 기본 사항을 탐구하고 강력한 에이전트를 구축하기 위해 오픈 소스 도구를 사용하여이를 구현하는 방법을 보여줍니다.

주요 학습 목표

• LLM 도구의 개념을 파악하십시오.
• 도구 호출의 기본 사항과 응용 프로그램을 이해하십시오.
• OpenAI (ChatCompletions API, Assistants API, 병렬 도구 호출 및 구조화 된 출력), 인류 모델 및 Langchain에서 도구 부호 구현을 탐색하십시오.
• 오픈 소스 리소스를 사용하여 효과적인 AI 에이전트를 구성하는 방법을 배우십시오.

*이 기사는 *** Data Science Blogathon의 일부입니다.

목차

• 도구는 무엇입니까?
• 도구 통화 가란 무엇입니까?
• 도구 호출은 어떻게 작동합니까?
  • 예제 사용 사례
• OpenAI 모델로 도구 호출
  • 조수 API 사용
  • 병렬 기능 호출
  • 구조화 된 출력
• 의인성 클로드로 도구 호출
• Langchain으로 도구 호출
  • Pydantic을 통한 스키마 정의
• 도구 통화가있는 건물 에이전트
• Composio 소개
• Github 에이전트 구축
• 자주 묻는 질문

도구는 무엇입니까?

도구는 LLM이 외부 시스템과 상호 작용할 수있는 메커니즘입니다. 이러한 도구는 LLM에 액세스 할 수있는 기능으로 LLM이 필요한 것으로 간주 할 때 독립적으로 실행됩니다. 일반적인 도구 정의에는 다음이 포함됩니다.

• 이름 : 설명 기능/도구 이름.
• 설명 : 자세한 도구 설명.
• 매개 변수 : 기능/도구 매개 변수를 정의하는 JSON 스키마.

도구 통화 가란 무엇입니까?

도구 호출을 통해 모델은 사용자 정의 기능 스키마와 일치하는 응답을 생성 할 수 있습니다. LLM이 도구가 필요하다고 결정하면 도구의 인수 스키마를 준수하는 구조화 된 출력을 생성합니다. 예를 들어, get_weather 함수 스키마가 주어지면 도시의 날씨에 대한 쿼리는 형식화 된 기능 인수 스키마를 반환하여 실행이 날씨 데이터를 검색 할 수있게합니다. 중요한 것은 LLM이 도구를 실행하지 않는다는 것입니다. 외부 실행을위한 구조화 된 입력을 생성합니다.

도구 호출은 어떻게 작동합니까?

OpenAi 및 Anthropic과 같은 회사는 맥락에 따라 적절한 도구를 선택하도록 훈련 된 모델을 가지고 있습니다. 각 공급자는 도구 호출 및 응답을 다르게 처리합니다. 일반적으로:

1. 도구를 정의하고 프롬프트를 제공하십시오. 사용자의 프롬프트 (예 : 런던의 날씨는 어떻습니까? ")와 함께 이름, 설명 및 구조화 된 스키마로 도구를 정의하십시오.
2. LLM 도구 선택 : LLM은 도구 필요성을 평가합니다. 그렇다면 텍스트 생성을 중단하고 공구 매개 변수 값으로 JSON 형식의 응답을 생성합니다.
3. 추출, 실행 및 반환 : 매개 변수를 추출하고, 기능을 실행하고, 출력을 LLM으로 되돌립니다.
4. 답변 생성 : LLM은 도구 출력을 사용하여 최종 답변을 공식화합니다.

예제 사용 사례

• 작업 활성화 : LLMS를 응용 프로그램 (Gmail, GitHub, Discord)에 연결하여 작업 자동화 (전자 메일 보내기, 풀 요청 생성, 메시지 보내기).
• 데이터 제공 : LLM에 특정 정보를 제공하기 위해 지식 기반 (Web, Wikipedia, API)의 데이터를 가져 오십시오.
• 동적 UIS : 사용자 입력을 기반으로 애플리케이션 UIS를 업데이트합니다.

다음 섹션에서는 OpenAI, Anthropic 및 Langchain에서 도구 용도 접근 방식을 자세히 설명합니다. Open-Source 모델 (LLAMA 3과 같은) 및 추론 제공 업체 (예 : GROQ)도 도구 통화를 지원합니다.

(이 기사의 나머지 부분은 Openai, Anthropic, Langchain, Building Agents, Composio 및 Github 에이전트 예제에서 도구 호출에 대한 자세한 설명을 계속하여 원래 입력의 구조와 내용을 반영하지만 다시 게시 된 문장 및 어휘를 반영합니다).

위 내용은 LLM에서 도구 호출의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!