연구 및 작문을위한 llamaindex가있는 다중 에이전트 워크 플로

대형 언어 모델 에이전트는 검색, 컨텐츠 생성 및 품질 검토와 같은 작업을 자동화하기위한 강력한 도구입니다. 그러나 단일 에이전트는 종종 외부 리소스 (웹 검색과 같은)와 여러 특수 단계 (예 : 작성 대 검토)를 통합해야 할 때 특히 모든 것을 효율적으로 수행 할 수 없습니다. 다중 에이전트 워크 플로를 사용하면 자체 도구, 제약 및 책임이있는 다른 에이전트로 이러한 작업을 분할 할 수 있습니다. 이 기사에서는 각 에이전트가 인터넷에서 간결한 역사적 보고서를 작성하는 특정 부분을 처리하는 3 에이전트 시스템 (ResearchAgent, WriteAgent 및 ReviewAgent)을 구축하는 방법을 살펴 보겠습니다. 또한 시스템이 검색 루프에 갇히지 않도록하여 시간과 학점을 낭비 할 수 있습니다. 학습 목표

Multi-Agent 워크 플로가 LLMS로 작업 자동화를 향상시키는 방법을 이해하십시오 연구, 작문 및 검토 작업을위한 3 에이전트 시스템을 구축하는 법을 배우십시오. 자동화 된 워크 플로에서 무한 검색 루프를 방지하기 위해 보호 수단을 구현하십시오. 효율적인 데이터 검색을 위해 Duckduckgo와 같은 외부 도구의 통합을 탐색하십시오. 구조화되고 고품질 컨텐츠 생성을 보장하는 LLM 기반 워크 플로 개발.

이 기사는 데이터 과학 블로그 톤의

의 일부로 출판되었습니다. 목차

언어 모델 (LLM)-OpenAi GPT-4 작업 실행에 대한 필수 도구

작업 실행을위한 AI 에이전트 정의 에이전트 워크 플로우 실행- 기대? 결론

자주 묻는 질문 언어 모델 (LLM)-OpenAi GPT-4 우리는 llama-index에서 Openai (model =”gpt-4o”)를 사용합니다. 원하는 경우 다른 LLM으로 교체 할 수 있지만 GPT-4는 일반적으로 다단계 추론 작업을위한 강력한 선택입니다. . 워크 플로우를위한 필수 도구 도구는 에이전트가 자신의 언어 모델링 이외의 행동을 수행하기 위해 호출 할 수있는 기능입니다. 일반적인 도구는 다음과 같습니다 웹 검색 파일 읽기/쓰기 수학 계산기

외부 서비스에 대한 API

이 예에서 핵심 도구는 DuckDuckGosearch입니다.이 도구는 후드 아래에서 Langchain의 DuckDuckGoSearchApiWrapper를 사용하는 DuckDuckGosearch입니다. 또한 메모를 녹음하고 보고서를 작성하고 검토 할 수있는 도구 도구도 있습니다.
작업 실행을위한 AI 에이전트를 정의합니다 각 에이전트는
• functionAgent 의 인스턴스입니다. 주요 필드는 다음을 포함합니다
  • 이름 및 description System_Prompt : 에이전트에게 역할과 제약 조건에 대해 지시합니다
  llm : 사용 된 언어 모델은 입니다 도구 도구 : 에이전트가 를 호출 할 수있는 기능 can_handoff_to : 어떤 에이전트가
  • 에 손으로 제어 할 수 있는지 researchAgent 웹을 검색합니다 (지정된 쿼리 제한까지) 는 관련 결과를“노트”로 저장합니다 충분한 정보가 수집되면 다음 에이전트에게 손을 hand습니다.
  • writeAgent 는 ResearchAgent가 수집 한 모든 메모를 사용하여 Markdown에서 보고서를 작성합니다. 피드백을 위해 검토 대기에 손을 대십시오
  reviewAgent
  • 는 정확성과 완전성을 위해 초안 내용을 검토합니다 변경이 필요한 경우 핸드 제어 그렇지 않으면 최종 승인을 제공합니다
  에이전트 워크 플로 - 조정 작업 실행 에이전트 워크 플로우는 메시지와 상태가 에이전트 간의 이동 방법을 조정합니다. 사용자가 요청을 시작하면 (예 :“인터넷의 역사에 대한 간결한 보고서를 작성하십시오…”), 워크 플로우 :
  researchAgent
  • 사용자 프롬프트를 받고 웹 검색을 수행할지 여부를 결정합니다.
  WriteAgent
  • 는 메모를 사용하여 구조화 또는 스타일의 출력을 만듭니다 (마크 다운 문서와 같은).
  reviewAgent
  최종 출력을 확인하고 개정을 위해 다시 보내거나 승인합니다.
  컨텐츠가 승인되고 추가 변경이 요청되지 않으면 워크 플로가 종료됩니다. 워크 플로를 빌드 이 단계에서는 연구, 작문 및 검토 대리인을 포함한 에이전트 워크 플로를 정의합니다. root_agent는 research_agent로 설정되므로 프로세스는 연구 수집으로 시작합니다. 초기 상태에는 연구 노트, 보고서 내용 및 검토 상태에 대한 자리 표시자가 포함되어 있습니다.

  워크 플로를 실행하십시오 워크 플로는 사용자 요청을 사용하여 실행되며, 이는 보고서에서 다루는 주제와 핵심 포인트를 지정합니다. 이 예제의 요청은 기원, 월드 와이드 웹 개발 및 현대의 진화를 포함하여 인터넷의 역사에 대한 간결한 보고서를 요구합니다. 워크 플로우는 에이전트를 조정 하여이 요청을 처리합니다

  디버깅 또는 관찰을위한 이벤트 스트림 이벤트 워크 플로의 실행을 모니터링하기 위해 이벤트를 스트리밍하고 에이전트 활동에 대한 세부 정보를 인쇄합니다. 이를 통해 현재 작동중인 상담원을 추적하고 중간 출력을보고 에이전트가 작성한 도구 호출을 검사 할 수 있습니다. 더 나은 가시성을 위해 도구 사용 및 응답과 같은 디버깅 정보가 표시됩니다.

• ###############################################################################
  # 1. INSTALLATION
  ###############################################################################
  # Make sure you have the following installed:
  #   pip install llama-index langchain duckduckgo-search
  
  ###############################################################################
  # 2. IMPORTS
  ###############################################################################
  %pip install llama-index langchain duckduckgo-search
  
  from llama_index.llms.openai import OpenAI
  
  # For DuckDuckGo search via LangChain
  from langchain.utilities import DuckDuckGoSearchAPIWrapper
  
  # llama-index workflow classes
  from llama_index.core.workflow import Context
  from llama_index.core.agent.workflow import (
      FunctionAgent,
      AgentWorkflow,
      AgentInput,
      AgentOutput,
      ToolCall,
      ToolCallResult,
      AgentStream
  )
  
  import asyncio
  
  ###############################################################################
  # 3. CREATE LLM
  ###############################################################################
  # Replace "sk-..." with your actual OpenAI API key
  llm = OpenAI(model="gpt-4", api_key="OPENAI_API_KEY")

  최종 보고서를 검색하고 인쇄하십시오 워크 플로가 완료되면 생성 된 보고서가 포함 된 최종 상태를 추출합니다. 보고서 내용이 인쇄되고 검토 에이전트의 검토 피드백이 이어집니다. 이렇게하면 출력이 완료되고 필요한 경우 더 세련 될 수 있습니다.

  ###############################################################################
  # 4. DEFINE DUCKDUCKGO SEARCH TOOL WITH SAFEGUARDS
  ###############################################################################
  # We wrap LangChain's DuckDuckGoSearchAPIWrapper with our own logic
  # to prevent repeated or excessive searches.
  
  duckduckgo = DuckDuckGoSearchAPIWrapper()
  
  MAX_SEARCH_CALLS = 2
  search_call_count = 0
  past_queries = set()
  
  async def safe_duckduckgo_search(query: str) -> str:
      """
      A DuckDuckGo-based search function that:
        1) Prevents more than MAX_SEARCH_CALLS total searches.
        2) Skips duplicate queries.
      """
      global search_call_count, past_queries
  
      # Check for duplicate queries
      if query in past_queries:
          return f"Already searched for '{query}'. Avoiding duplicate search."
  
      # Check if we've reached the max search calls
      if search_call_count >= MAX_SEARCH_CALLS:
          return "Search limit reached, no more searches allowed."
  
      # Otherwise, perform the search
      search_call_count += 1
      past_queries.add(query)
  
      # DuckDuckGoSearchAPIWrapper.run(...) is synchronous, but we have an async signature
      result = duckduckgo.run(query)
      return str(result)
      
  ###############################################################################
  # 5. OTHER TOOL FUNCTIONS: record_notes, write_report, review_report
  ###############################################################################
  async def record_notes(ctx: Context, notes: str, notes_title: str) -> str:
      """Store research notes under a given title in the shared context."""
      current_state = await ctx.get("state")
      if "research_notes" not in current_state:
          current_state["research_notes"] = {}
      current_state["research_notes"][notes_title] = notes
      await ctx.set("state", current_state)
      return "Notes recorded."
  
  async def write_report(ctx: Context, report_content: str) -> str:
      """Write a report in markdown, storing it in the shared context."""
      current_state = await ctx.get("state")
      current_state["report_content"] = report_content
      await ctx.set("state", current_state)
      return "Report written."
  
  async def review_report(ctx: Context, review: str) -> str:
      """Review the report and store feedback in the shared context."""
      current_state = await ctx.get("state")
      current_state["review"] = review
      await ctx.set("state", current_state)
      return "Report reviewed."    

  

  무한 검색 루프를 피하는

  웹 검색 도구를 사용할 때 LLM이 "혼란스러워"및 검색 기능을 반복적으로 호출 할 수 있습니다. 이로 인해 불필요한 비용이나 시간 소비가 발생할 수 있습니다. 이를 방지하기 위해 두 가지 메커니즘을 사용합니다 하드 한계는 max_search_calls = 2

  를 설정하므로 연구 도구는 두 번만 호출 될 수 있습니다.

  복제 DETECTION은 세트 ( past_queries )에 과거 쿼리를 저장하여 정확히 동일한 검색을 여러 번 반복하지 않도록합니다.

  두 조건 중 하나가 충족되면 (최대 검색 또는 중복 쿼리), safe_duckduckgo_search

  함수는 새 검색을 수행하는 대신 통조림 메시지를 반환합니다. > 무엇을 기대 해야하는가?

  researchAgent

  인터넷 기록에 대한 간결한 보고서를 작성하라는 사용자 요청을받습니다. 아마도 최대 두 개의 뚜렷한 Duckduckgo 검색 (예 :“인터넷의 역사”및“월드 와이드 웹 팀 베르너 레어,”등을 수행 한 다음 record_notes를 호출하여 요약을 저장할 수 있습니다.
  • writeAgent
  • 는 공유 컨텍스트에서 "research_notes"를 읽습니다 짧은 마크 다운 보고서를 작성합니다 리뷰 에이전트에게 손을 대고 reviewAgent
  컨텐츠를 평가합니다 변경이 필요한 경우 제어를 WriteAgent로 다시 전달할 수 있습니다. 그렇지 않으면 보고서를 승인합니다.

  워크 플로가 끝나

  최종 출력은

  final_state [ "report_content"]에 저장됩니다

  결론

  검색 에이전트로 나뉘어 검색 ,

  및 리뷰 를 위해 :
  의 강력한 모듈 식 시스템을 만들 수 있습니다.
  • 는 관련 정보를 수집합니다 (통제 된 방식으로 과도한 검색을 방지) 는 구조화 된 고품질 출력 를 생성합니다 정확도와 완전성에 대한 자체 점검
  Langchain을 사용한 Duckduckgo 통합은 특수 API 키 또는 자격 증명없이 다중 에이전트 워크 플로우를위한 플러그 앤 플레이 웹 검색 솔루션을 제공합니다. 내장 된 보호 조치 (검색 통화 제한, 중복 탐지)와 결합 된이 시스템은 강력하고 효율적이며 광범위한 연구 및 콘텐츠 생성 작업에 적합합니다.
  . 키 테이크 아웃

  Multi-Agent 워크 플로우 LLM 에이전트에 특수 역할을 할당하여 효율성을 향상시킵니다. Duckduckgo와 같은 외부 도구를 사용하면 LLM 에이전트의 연구 기능이 향상됩니다. 검색 한계와 같은 제약 조건 구현은 불필요한 자원 소비를 방지합니다. 조정 된 에이전트 워크 플로우는 구조화 된 고품질 컨텐츠 생성을 보장합니다 잘 설계된 핸드 오프 메커니즘은 중복 작업과 무한 루프를 피하는 데 도움이됩니다.

  자주 묻는 질문
  • q1. 단일 다목적 대리인 대신 여러 에이전트를 사용하는 이유

위 내용은 연구 및 작문을위한 llamaindex가있는 다중 에이전트 워크 플로의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!