LangGraph, CopilotKit, Tavily 및 Next.js를 사용하여 Perplexity의 복제본을 구축하세요.-JS 튜토리얼-php.cn

AI 기반 애플리케이션은 단순히 작업을 수행하는 자율 에이전트를 넘어 진화하고 있습니다. Human-in-the-Loop와 관련된 새로운 접근 방식을 통해 사용자는 피드백을 제공하고, 결과를 검토하고, AI의 다음 단계를 결정할 수 있습니다. 이러한 런타임 에이전트를 CoAgent라고 합니다.

TL;DR

이 튜토리얼에서는 LangGraph, CopilotKit 및 Tavily를 사용하여 Perplexity 클론을 구축하는 방법을 알아봅니다.

건축을 시작할 시간입니다!

에이전트 부조종사란 무엇입니까?

에이전트 부조종사는 CopilotKit이 LangGraph 에이전트를 애플리케이션에 도입하는 방법입니다.

CoAgent는 에이전트 경험을 구축하기 위한 CopilotKit의 접근 방식입니다!

간단히 말하면 여러 검색 쿼리를 수행하여 사용자 요청을 처리하고 상태 및 결과와 함께 검색을 실시간으로 클라이언트에 스트리밍합니다.

CopilotKit 확인 ⭐️

전제 조건

이 튜토리얼을 완전히 이해하려면 React 또는 Next.js에 대한 기본적인 이해가 필요합니다.

또한 다음을 활용합니다:

Python - LangGraph를 사용하여 AI 에이전트를 구축하는 데 널리 사용되는 프로그래밍 언어입니다. 컴퓨터에 설치되어 있는지 확인하세요.
LangGraph - AI 에이전트를 생성하고 배포하기 위한 프레임워크입니다. 또한 에이전트가 수행할 제어 흐름과 작업을 정의하는 데도 도움이 됩니다.
OpenAI API 키 - GPT 모델을 사용하여 다양한 작업을 수행할 수 있도록 합니다. 이 튜토리얼에서는 GPT-4 모델에 액세스할 수 있는지 확인하세요.
Tavily AI - AI 에이전트가 애플리케이션 내에서 연구를 수행하고 실시간 지식에 액세스할 수 있게 해주는 검색 엔진입니다.
CopilotKit - 맞춤형 AI 챗봇, 인앱 AI 에이전트 및 텍스트 영역을 구축하기 위한 오픈 소스 부조종사 프레임워크입니다.
Shad Cn UI - 애플리케이션 내에서 재사용 가능한 UI 구성요소 모음을 제공합니다.

LangGraph 및 CopilotKit을 사용하여 AI 에이전트를 만드는 방법

이 섹션에서는 LangGraph와 CopilotKit을 사용하여 AI 에이전트를 만드는 방법을 알아봅니다.

먼저 CopilotKit CoAgents 스타터 저장소를 복제합니다. ui 디렉토리에는 Next.js 애플리케이션의 프런트엔드가 포함되어 있고 agent 디렉토리에는 애플리케이션용 CoAgent가 포함되어 있습니다.

agent 디렉터리 내에서 Poetry를 사용하여 프로젝트 종속성을 설치합니다.

cd agent
poetry install

로그인 후 복사

에이전트 폴더 내에 .env 파일을 생성하고 OpenAI 및 Tavily AI API 키를 파일에 복사합니다.

OPENAI_API_KEY=
TAVILY_API_KEY=

로그인 후 복사

Build a clone of Perplexity with LangGraph, CopilotKit, Tavily & Next.js

아래 코드 조각을 agent.py 파일에 복사하세요.

"""
This is the main entry point for the AI.
It defines the workflow graph and the entry point for the agent.
"""
# pylint: disable=line-too-long, unused-import
from langgraph.graph import StateGraph, END
from langgraph.checkpoint.memory import MemorySaver

from ai_researcher.state import AgentState
from ai_researcher.steps import steps_node
from ai_researcher.search import search_node
from ai_researcher.summarize import summarize_node
from ai_researcher.extract import extract_node

def route(state):
    """Route to research nodes."""
    if not state.get("steps", None):
        return END

    current_step = next((step for step in state["steps"] if step["status"] == "pending"), None)

    if not current_step:
        return "summarize_node"

    if current_step["type"] == "search":
        return "search_node"

    raise ValueError(f"Unknown step type: {current_step['type']}")

# Define a new graph
workflow = StateGraph(AgentState)
workflow.add_node("steps_node", steps_node)
workflow.add_node("search_node", search_node)
workflow.add_node("summarize_node", summarize_node)
workflow.add_node("extract_node", extract_node)
# Chatbot
workflow.set_entry_point("steps_node")

workflow.add_conditional_edges(
    "steps_node", 
    route,
    ["summarize_node", "search_node", END]
)

workflow.add_edge("search_node", "extract_node")

workflow.add_conditional_edges(
    "extract_node",
    route,
    ["summarize_node", "search_node"]
)

workflow.add_edge("summarize_node", END)

memory = MemorySaver()
graph = workflow.compile(checkpointer=memory)

로그인 후 복사

위의 코드 조각은 LangGraph 에이전트 워크플로를 정의합니다. steps_node에서 시작하여 결과를 검색하고 요약하고 핵심을 추출합니다.

Build a clone of Perplexity with LangGraph, CopilotKit, Tavily & Next.js

다음으로 아래 코드 조각을 사용하여 demo.py 파일을 만듭니다.

cd agent
poetry install

로그인 후 복사

위의 코드는 LangGraph 에이전트를 호스팅하고 이를 CopilotKit SDK에 연결하는 FastAPI 엔드포인트를 생성합니다.

GitHub 저장소에서 CoAgent를 생성하기 위한 나머지 코드를 복사할 수 있습니다. 다음 섹션에서는 Perplexity 복제용 사용자 인터페이스를 구축하고 CopilotKit을 사용하여 검색 요청을 처리하는 방법을 알아봅니다.

Next.js를 사용하여 애플리케이션 인터페이스 구축

이 섹션에서는 애플리케이션의 사용자 인터페이스를 구축하는 과정을 안내하겠습니다.

먼저 아래 코드 조각을 실행하여 Next.js Typescript 프로젝트를 만듭니다.

OPENAI_API_KEY=
TAVILY_API_KEY=

로그인 후 복사

Build a clone of Perplexity with LangGraph, CopilotKit, Tavily & Next.js

아래 코드 조각을 실행하여 새로 생성된 프로젝트에 ShadCn UI 라이브러리를 설치합니다.

"""
This is the main entry point for the AI.
It defines the workflow graph and the entry point for the agent.
"""
# pylint: disable=line-too-long, unused-import
from langgraph.graph import StateGraph, END
from langgraph.checkpoint.memory import MemorySaver

from ai_researcher.state import AgentState
from ai_researcher.steps import steps_node
from ai_researcher.search import search_node
from ai_researcher.summarize import summarize_node
from ai_researcher.extract import extract_node

def route(state):
    """Route to research nodes."""
    if not state.get("steps", None):
        return END

    current_step = next((step for step in state["steps"] if step["status"] == "pending"), None)

    if not current_step:
        return "summarize_node"

    if current_step["type"] == "search":
        return "search_node"

    raise ValueError(f"Unknown step type: {current_step['type']}")

# Define a new graph
workflow = StateGraph(AgentState)
workflow.add_node("steps_node", steps_node)
workflow.add_node("search_node", search_node)
workflow.add_node("summarize_node", summarize_node)
workflow.add_node("extract_node", extract_node)
# Chatbot
workflow.set_entry_point("steps_node")

workflow.add_conditional_edges(
    "steps_node", 
    route,
    ["summarize_node", "search_node", END]
)

workflow.add_edge("search_node", "extract_node")

workflow.add_conditional_edges(
    "extract_node",
    route,
    ["summarize_node", "search_node"]
)

workflow.add_edge("summarize_node", END)

memory = MemorySaver()
graph = workflow.compile(checkpointer=memory)

로그인 후 복사

다음으로, Next.js 프로젝트의 루트에 comminents 폴더를 생성한 후 이 GitHub 저장소의 ui 폴더를 해당 폴더에 복사하세요. Shadcn을 사용하면 명령줄을 통해 다양한 구성 요소를 설치하여 애플리케이션에 쉽게 추가할 수 있습니다.

Shadcn 구성 요소 외에도 애플리케이션 인터페이스의 다양한 부분을 나타내는 몇 가지 구성 요소를 생성해야 합니다. comComponents 폴더 내에서 다음 코드 조각을 실행하여 Next.js 프로젝트에 이러한 구성 요소를 추가하세요.

"""Demo"""

import os
from dotenv import load_dotenv
load_dotenv()

from fastapi import FastAPI
import uvicorn
from copilotkit.integrations.fastapi import add_fastapi_endpoint
from copilotkit import CopilotKitSDK, LangGraphAgent
from ai_researcher.agent import graph

app = FastAPI()
sdk = CopilotKitSDK(
    agents=[
        LangGraphAgent(
            name="ai_researcher",
            description="Search agent.",
            graph=graph,
        )
    ],
)

add_fastapi_endpoint(app, sdk, "/copilotkit")

# add new route for health check
@app.get("/health")
def health():
    """Health check."""
    return {"status": "ok"}

def main():
    """Run the uvicorn server."""
    port = int(os.getenv("PORT", "8000"))
    uvicorn.run("ai_researcher.demo:app", host="0.0.0.0", port=port, reload=True)

로그인 후 복사

아래 코드 조각을 app/page.tsx 파일에 복사하세요.

# ?? Navigate into the ui folder
npx create-next-app ./

로그인 후 복사

위의 코드 스니펫에서 ResearchProvider는 사용자의 검색어와 결과를 공유하여 애플리케이션 내의 모든 구성 요소에 액세스할 수 있게 해주는 맞춤형 React 컨텍스트 제공자입니다. ResearchWrapper 구성 요소는 핵심 애플리케이션 요소를 포함하고 UI를 관리합니다.

Next.js 프로젝트 루트에 research-provider.tsx 파일이 포함된 lib 폴더를 만들고 아래 코드를 파일에 복사합니다.

npx shadcn@latest init

로그인 후 복사

상태가 선언되어 ResearchContext에 저장되어 애플리케이션 내의 여러 구성 요소에서 적절하게 관리되도록 합니다.

아래와 같이 ResearchWrapper 구성 요소를 만듭니다.

cd agent
poetry install

로그인 후 복사

ResearchWrapper 구성 요소는 HomeView 구성 요소를 기본 보기로 렌더링하고 검색어가 제공되면 ResultView를 표시합니다. useResearchContext 후크를 사용하면 researchQuery 상태에 액세스하고 이에 따라 뷰를 업데이트할 수 있습니다.

마지막으로 HomeView 구성 요소를 생성하여 애플리케이션 홈 페이지 인터페이스를 렌더링합니다.

OPENAI_API_KEY=
TAVILY_API_KEY=

로그인 후 복사

Build a clone of Perplexity with LangGraph, CopilotKit, Tavily & Next.js

CoAgent를 Next.js 애플리케이션에 연결하는 방법

이 섹션에서는 사용자가 애플리케이션 내에서 검색 작업을 수행할 수 있도록 CopilotKit CoAgent를 Next.js 애플리케이션에 연결하는 방법을 알아봅니다.

다음 CopilotKit 패키지와 OpenAI Node.js SDK를 설치하세요. CopilotKit 패키지를 사용하면 공동 에이전트가 React 상태 값과 상호 작용하고 애플리케이션 내에서 결정을 내릴 수 있습니다.

"""
This is the main entry point for the AI.
It defines the workflow graph and the entry point for the agent.
"""
# pylint: disable=line-too-long, unused-import
from langgraph.graph import StateGraph, END
from langgraph.checkpoint.memory import MemorySaver

from ai_researcher.state import AgentState
from ai_researcher.steps import steps_node
from ai_researcher.search import search_node
from ai_researcher.summarize import summarize_node
from ai_researcher.extract import extract_node

def route(state):
    """Route to research nodes."""
    if not state.get("steps", None):
        return END

    current_step = next((step for step in state["steps"] if step["status"] == "pending"), None)

    if not current_step:
        return "summarize_node"

    if current_step["type"] == "search":
        return "search_node"

    raise ValueError(f"Unknown step type: {current_step['type']}")

# Define a new graph
workflow = StateGraph(AgentState)
workflow.add_node("steps_node", steps_node)
workflow.add_node("search_node", search_node)
workflow.add_node("summarize_node", summarize_node)
workflow.add_node("extract_node", extract_node)
# Chatbot
workflow.set_entry_point("steps_node")

workflow.add_conditional_edges(
    "steps_node", 
    route,
    ["summarize_node", "search_node", END]
)

workflow.add_edge("search_node", "extract_node")

workflow.add_conditional_edges(
    "extract_node",
    route,
    ["summarize_node", "search_node"]
)

workflow.add_edge("summarize_node", END)

memory = MemorySaver()
graph = workflow.compile(checkpointer=memory)

로그인 후 복사

Next.js app 폴더 내에 api 폴더를 만듭니다. api 폴더 안에 route.ts 파일이 포함된 copilotkit 디렉터리를 만듭니다. 이렇게 하면 프런트엔드 애플리케이션을 CopilotKit CoAgent에 연결하는 API 엔드포인트(/api/copilotkit)가 생성됩니다.

"""Demo"""

import os
from dotenv import load_dotenv
load_dotenv()

from fastapi import FastAPI
import uvicorn
from copilotkit.integrations.fastapi import add_fastapi_endpoint
from copilotkit import CopilotKitSDK, LangGraphAgent
from ai_researcher.agent import graph

app = FastAPI()
sdk = CopilotKitSDK(
    agents=[
        LangGraphAgent(
            name="ai_researcher",
            description="Search agent.",
            graph=graph,
        )
    ],
)

add_fastapi_endpoint(app, sdk, "/copilotkit")

# add new route for health check
@app.get("/health")
def health():
    """Health check."""
    return {"status": "ok"}

def main():
    """Run the uvicorn server."""
    port = int(os.getenv("PORT", "8000"))
    uvicorn.run("ai_researcher.demo:app", host="0.0.0.0", port=port, reload=True)

로그인 후 복사

아래 코드 조각을 api/copilotkit/route.ts 파일에 복사하세요.

# ?? Navigate into the ui folder
npx create-next-app ./

로그인 후 복사

위의 코드 조각은 /api/copilotkit API 엔드포인트에서 CopilotKit 런타임을 설정하여 CopilotKit이 AI 공동 에이전트를 통해 사용자 요청을 처리할 수 있도록 합니다.

마지막으로 모든 애플리케이션 구성 요소에 copilot 컨텍스트를 제공하는 CopilotKit 구성 요소로 전체 애플리케이션을 래핑하여 app/page.tsx를 업데이트합니다.

npx shadcn@latest init

로그인 후 복사

CopilotKit 구성 요소는 전체 애플리케이션을 래핑하고 runtimeUrl 및 agent라는 두 가지 prop을 허용합니다. runtimeUrl은 AI 에이전트를 호스팅하는 백엔드 API 경로이고 agent는 작업을 수행하는 에이전트의 이름입니다.

요청 수락 및 프런트엔드에 대한 스트리밍 응답

CopilotKit이 사용자 입력에 액세스하고 처리할 수 있도록 useCoAgent 후크를 제공합니다. 이를 통해 애플리케이션 내 어디에서나 에이전트 상태에 액세스할 수 있습니다.

예를 들어 아래 코드 조각은 useCoAgent 후크를 사용하는 방법을 보여줍니다. state 변수는 에이전트의 현재 상태에 대한 접근을 허용하고, setState는 상태를 수정하는 데 사용되며, run 함수는 에이전트를 사용하여 명령을 실행합니다. start 및 stop 함수는 에이전트 실행을 시작하고 중지합니다.

cd agent
poetry install

로그인 후 복사

검색어가 제공되면 에이전트를 실행하도록 HomeView 구성요소를 업데이트하세요.

OPENAI_API_KEY=
TAVILY_API_KEY=

로그인 후 복사

다음으로 useCoAgent 후크 내의 상태 변수에 액세스하여 검색 결과를 ResultsView로 스트리밍할 수 있습니다. 아래 코드 조각을 ResultsView 구성요소
에 복사하세요.

"""
This is the main entry point for the AI.
It defines the workflow graph and the entry point for the agent.
"""
# pylint: disable=line-too-long, unused-import
from langgraph.graph import StateGraph, END
from langgraph.checkpoint.memory import MemorySaver

from ai_researcher.state import AgentState
from ai_researcher.steps import steps_node
from ai_researcher.search import search_node
from ai_researcher.summarize import summarize_node
from ai_researcher.extract import extract_node

def route(state):
    """Route to research nodes."""
    if not state.get("steps", None):
        return END

    current_step = next((step for step in state["steps"] if step["status"] == "pending"), None)

    if not current_step:
        return "summarize_node"

    if current_step["type"] == "search":
        return "search_node"

    raise ValueError(f"Unknown step type: {current_step['type']}")

# Define a new graph
workflow = StateGraph(AgentState)
workflow.add_node("steps_node", steps_node)
workflow.add_node("search_node", search_node)
workflow.add_node("summarize_node", summarize_node)
workflow.add_node("extract_node", extract_node)
# Chatbot
workflow.set_entry_point("steps_node")

workflow.add_conditional_edges(
    "steps_node", 
    route,
    ["summarize_node", "search_node", END]
)

workflow.add_edge("search_node", "extract_node")

workflow.add_conditional_edges(
    "extract_node",
    route,
    ["summarize_node", "search_node"]
)

workflow.add_edge("summarize_node", END)

memory = MemorySaver()
graph = workflow.compile(checkpointer=memory)

로그인 후 복사

위의 코드 조각은 에이전트 상태에서 검색 결과를 검색하고 useCoAgent 후크를 사용하여 프런트엔드로 스트리밍합니다. 검색 결과는 마크다운 형식으로 반환되고 페이지의 콘텐츠를 렌더링하는 AnswerMarkdown 구성 요소로 전달됩니다.

마지막으로 아래 코드 조각을 AnswerMarkdown 구성 요소에 복사합니다. 이렇게 하면 React Markdown 라이브러리를 사용하여 마크다운 콘텐츠를 서식 있는 텍스트로 렌더링합니다.

"""Demo"""

import os
from dotenv import load_dotenv
load_dotenv()

from fastapi import FastAPI
import uvicorn
from copilotkit.integrations.fastapi import add_fastapi_endpoint
from copilotkit import CopilotKitSDK, LangGraphAgent
from ai_researcher.agent import graph

app = FastAPI()
sdk = CopilotKitSDK(
    agents=[
        LangGraphAgent(
            name="ai_researcher",
            description="Search agent.",
            graph=graph,
        )
    ],
)

add_fastapi_endpoint(app, sdk, "/copilotkit")

# add new route for health check
@app.get("/health")
def health():
    """Health check."""
    return {"status": "ok"}

def main():
    """Run the uvicorn server."""
    port = int(os.getenv("PORT", "8000"))
    uvicorn.run("ai_researcher.demo:app", host="0.0.0.0", port=port, reload=True)

로그인 후 복사

Build a clone of Perplexity with LangGraph, CopilotKit, Tavily & Next.js