시스템은 병렬 쿼리 처리를 보장하기 위해 작업을 동적으로 할당합니다.
이 섹션은 동시 쿼리 해상도 시스템에서 AI 에이전트에 할당 된 작업을 정의합니다.
import os
# Set the API key as an environment variable
os.environ["OPENAI_API_KEY"] = ""
로그인 후 복사
로그인 후 복사
작업 정의 :
resolution_task :이 작업은 쿼리 리졸버 에이전트에게 고객 쿼리를 분석하고 해결하도록 지시합니다.
summary_task :이 작업은 요약 에이전트에게 해상도 프로세스에 대한 간단한 요약을 생성하도록 지시합니다.
-
동적 쿼리 처리 :
-
시스템은 작업을 실행할 때 {Query}를 실제 고객 쿼리로 대체합니다.
이를 통해 시스템은 고객 쿼리를 동적으로 처리 할 수 있습니다.
예상 출력 :
<_> resolution_task는 쿼리에 대한 자세한 응답을 기대합니다
<_ _> summary_task는 쿼리 해상도에 대한 간결한 요약을 생성합니다.
에이전트 할당 :
<_> query_resolution_agent는 해상도 작업을 처리하도록 할당됩니다
<_ _> Summary_Agent는 요약 작업을 처리하도록 할당됩니다
-
왜 이것이 중요한지
-
작업 전문화 :
각 AI 에이전트는 특정 작업을 가지고있어 효율성과 명확성을 보장합니다.
확장 성 :
다른 유형의 고객 지원 상호 작용을 처리하기 위해 더 많은 작업과 에이전트를 추가 할 수 있습니다.
병렬 처리 : 작업을 동시에 실행하여 고객 대기 시간을 줄일 수 있습니다.
6 단계 : AI 에이전트 로 쿼리 실행
쿼리를 처리하기 위해 비동기 기능이 생성됩니다. 승무원 수업은 에이전트와 작업을 구성하여 적절한 쿼리 해결 및 요약을 보장하기 위해 순차적으로 실행합니다.
이 기능은 쿼리를 실행하기 위해 비동기 프로세스를 정의합니다. 다음이 포함 된 승무원 인스턴스를 만듭니다
에이전트 : 프로세스에 관련된 AI 에이전트 (쿼리 레졸버 및 요약 생성기).
작업 : 에이전트에 할당 된 작업 (쿼리 해상도 및 요약).
- process = process.sequential :
는 작업이 순서대로 실행되도록합니다
Verbose = true : - 더 나은 추적을 위해 자세한 로깅을 활성화합니다
이 기능은 AI 에이전트를 비동기로 실행하고 결과를 반환하기 위해 기다리고 있습니다.
7 단계 : 여러 쿼리를 동시에 처리합니다
asyncio.gather ()를 사용하여 여러 쿼리를 동시에 처리 할 수 있습니다. 이렇게하면 AI 에이전트가 다른 고객 문제를 병렬로 처리 할 수있게하여 응답 시간이 줄어 듭니다.
이 함수는 동시에 두 쿼리를 실행합니다. asyncio.gather ()는 두 쿼리를 동시에 처리하여 응답 시간을 크게 줄입니다. 함수는 실행이 완료되면 두 쿼리의 결과를 반환합니다.
8 단계 : 예제 쿼리 정의
개발자는 로그인 실패 및 결제 처리 오류와 같은 일반적인 고객 지원 문제를 다루는 시스템을 테스트하기 위해 샘플 쿼리를 정의합니다.
이들은 시스템을 테스트하기위한 샘플 쿼리입니다 쿼리 1 로그인 문제와 거래되고 쿼리 2는 결제 게이트웨이 오류와 관련이 있습니다.
9 단계 : 이벤트 루프 설정
시스템은 비동기 작업을 처리하기 위해 이벤트 루프를 초기화합니다. 기존 루프를 찾지 못하면 AI 작업 실행을 관리 할 새로운 루프가 생성됩니다.
이 섹션은 비동기 작업을 실행할 때 이벤트 루프를 사용할 수 있도록합니다.
시스템에서 시스템이 이벤트 루프가 감지되지 않으면 (runtimeerror가 발생 함) 새 제품을 생성하고 활성 루프로 설정합니다.
.
10 단계 : Jupyter Notebook/Google Colab에서 이벤트 루프 처리
Jupyter와 Colab은 기존 이벤트 루프를 가지고 있기 때문에 Nest_asyncio.apply ()는 충돌을 방지하는 데 사용되어 비동기 쿼리의 원활한 실행을 보장합니다.
Jupyter Notebooks와 Google Colab은 기존 이벤트 루프를 가지고있어 비동기 기능을 실행할 때 오류가 발생할 수 있습니다.
nest_asyncio.apply ()는 중첩 된 이벤트 루프를 허용하여 호환성 문제를 해결합니다
11 단계 : 쿼리 및 인쇄 결과 실행
이벤트 루프는 핸들 _two_queries ()를 실행하여 쿼리를 동시에 처리합니다. 이 시스템은 최종 AI 생성 응답을 인쇄하여 쿼리 해상도 및 요약을 표시합니다.
시스템은 결과를 인쇄하여 각 쿼리에 대한 AI 생성 해상도를 표시합니다.
import os
# Set the API key as an environment variable
os.environ["OPENAI_API_KEY"] = ""
로그인 후 복사
로그인 후 복사
동시 쿼리 해상도 시스템의 장점
아래에서, 우리는 동시 쿼리 해상도 시스템이 여러 쿼리를 동시에 처리하여 효율성을 향상시켜 응답 시간이 빠르고 사용자 경험을 향상시키는 방법을 살펴 봅니다.
.
더 빠른 응답 시간 : 병렬 실행은 여러 쿼리를 동시에 해결합니다
개선 된 정확도 :
여러 LLM을 활용하여 창의성과 사실적인 정확성 사이의 균형을 유지합니다.
확장 성 : 시스템은 인간의 개입없이 많은 양의 쿼리를 처리 할 수 있습니다.
더 나은 고객 경험 :
자동화 된 요약은 쿼리 해상도에 대한 빠른 개요를 제공합니다.
동시 쿼리 해상도 시스템의 응용 프로그램
우리는 이제 고객 지원 자동화, 챗봇의 실시간 쿼리 처리 및 대규모 서비스 요청의 효율적인 처리를 포함하여 동시 쿼리 해상도 시스템의 다양한 응용 프로그램을 살펴볼 것입니다.
고객 지원 자동화 - : AI 중심 챗봇이 여러 고객 쿼리를 동시에 해결하여 응답 시간을 줄일 수 있습니다.
실시간 쿼리 처리 : 수많은 쿼리를 병렬로 처리하여 효율성을 향상시켜 라이브 지원 시스템을 향상시킵니다.
전자 상거래 지원 : 온라인 쇼핑 플랫폼에서 제품 문의, 주문 추적 및 지불 문제 해결을 간소화합니다.
IT HelpDesk Management
: 동시에 여러 기술적 문제를 진단하고 해결하여 IT 서비스 데스크를 지원합니다.
의료 및 원격 의료 : 환자 문의, 약속 일정 및 의료 조언 관리를 동시에 지원합니다.
결론
동시 쿼리 해상도 시스템은 AI 중심의 다중 에이전트 협업이 고객 지원에 혁명을 일으킬 수있는 방법을 보여줍니다. Crewai, OpenAi의 GPT 모델 및 Google Gemini를 활용하여 비즈니스는 쿼리 처리를 자동화하여 효율성 및 사용자 만족도를 향상시킬 수 있습니다. 이 접근법은 향후보다 진보 된 AI 중심 서비스 솔루션을위한 길을 열어줍니다.
키 테이크 아웃
![[웹 프런트엔드] Node.js 빠른 시작](https://img.php.cn/upload/course/000/000/067/662b5d34ba7c0227.png)
