首页 > 科技周边 > 人工智能 > 使用CREWAI的并发查询分辨率系统

使用CREWAI的并发查询分辨率系统

Jennifer Aniston
发布: 2025-03-03 19:00:14
原创
987 人浏览过

在人工智能时代,企业不断寻求创新的方式来增强客户支持服务。一种这样的方法是利用AI代理协同工作以有效解决客户查询。本文探讨了使用Crewai,OpenAI的GPT模型和Google Gemini的并发查询分辨率系统的实现。该系统采用多个专业代理,它们并行操作以无缝处理客户查询,从而减少响应时间并提高准确性。

学习目标

    >了解AI代理如何通过自动响应并汇总关键信息来有效地处理客户查询。>
  • 了解Crewai如何启用多代理协作以改善客户支持工作流程。
  • >探索不同类型的AI代理,例如查询解析器和摘要及其在客户服务自动化中的角色。>
  • >使用Python的Asyncio来实施并发查询处理以提高响应效率。
  • >通过集成AI驱动的自动化来优化客户支持系统,以提高准确性和可扩展性。
  • >本文是

> > data Science Blogathon的一部分。 目录的>> ai代理如何一起工作?

>实现并发查询分辨率系统

    步骤1:设置api键
    • 步骤2:导入所需的库
    • Step 5: Defining Tasks
    Step 6: Executing a Query with AI Agents
  • Step 7: Handling Multiple Queries Concurrently
  • Step 8: Defining Example Queries
  • Step 9: Setting Up the Event Loop
  • Step 10: Handling Event Loops in Jupyter Notebook/Google COLAB
步骤11:执行查询和打印结果

>并发查询分辨率分辨率系统的优势 >并发查询解决系统的应用程序 AI代理如何一起工作?> 并发查询分辨率系统使用多代理框架,将每个代理分配一个特定的角色。该系统利用Crewai,这是一个使AI代理可以有效协作的框架。 系统的主要组件包括:
  • 查询分辨率代理:负责理解客户查询并提供准确的响应。
  • 摘要代理:总结了快速审查和未来参考的分辨率过程。
  • llms(大语言模型):包括诸如GPT-4O和GEMINI之类的模型,每个模型都具有不同的配置,以平衡速度和准确性。> >
  • 任务管理:
  • 动态分配任务以确保并发查询处理。
  • 并发查询分辨率系统的实现

将AI代理框架从概念转变为现实,结构化实施方法至关重要。下面,我们概述了设置和集成AI代理以进行有效查询解决方案所涉及的关键步骤。

>

>步骤1:设置API键

>使用OS模块将OpenAI API密钥存储为环境变量。这允许系统在无需硬编码敏感凭证的情况下安全地验证API请求。

>系统使用OS模块与操作系统进行交互。
import os 

# Set the API key as an environment variable
os.environ["OPENAI_API_KEY"] = ""
登录后复制
登录后复制
登录后复制
登录后复制
该系统将OpenAI_API_KEY设置为环境变量,允许其对OpenAI的API进行身份验证。

步骤2:导入所需库

>

>必要的库是导入的,包括用于处理异步操作的异步以及诸如代理,机组人员,任务和LLM之类的CREWAI组件。这些对于定义和管理AI代理至关重要。

>

import asyncio
from crewai import Agent, Crew, Task, LLM, Process
import google.generativeai as genai
登录后复制
登录后复制
登录后复制
asyncio:
    python的内置模块,用于异步编程,启用并发执行。>
  • 代理:代表一个具有特定职责的AI工人。
  • > crew:>管理多个代理及其相互作用。
  • >
  • >任务:>定义每个代理应该做的。>
  • llm:>指定所使用的大语言模型。>
  • 进程:>它定义了任务的执行方式,无论是顺序还是并行。
  • google.generativeai:
  • 库用于使用Google的生成AI模型(在此片段中不使用,但可能包括用于将来的扩展)。 步骤3:初始化llms
  • >以不同的温度设置初始化了三种不同的LLM实例(GPT-4O和GPT-4)。温度控制响应的创造力,确保在AI生成的答案中的准确性和灵活性之间保持平衡。
  • 该系统创建三个LLM实例,每个实例都具有不同的配置。>
>参数:

  • 模型:>指定要使用的OpenAI模型(GPT-4O或GPT-4)。
  • >
  • 温度:控制响应中的随机性(0 =确定性,1 =更多创意)。
这些不同的模型和温度有助于平衡准确性和创造力

步骤4:定义AI代理

每个代理都有特定的角色和预定义的目标。创建了两个AI代理:

  • >查询解析器:处理客户查询并提供详细的响应。>
  • >
  • 摘要生成器:总结了快速参考的分辨率。每个代理都有定义的角色,目标和背景故事来指导其相互作用。
    >
查询分辨率代理

import os 

# Set the API key as an environment variable
os.environ["OPENAI_API_KEY"] = ""
登录后复制
登录后复制
登录后复制
登录后复制
让我们看看此代码块中发生了什么

  • 代理创建: QUERY_RESOLUTION_AGENT是负责解决客户查询的AI驱动的助手。>
  • >模型选择:
  • 它使用llm_1,其配置为GPT-4O,温度为0.7。 这种平衡允许创造性而准确的响应。 角色:>系统将代理指定为查询解析器。
  • 背景故事:开发人员计划代理人充当专业客户服务助理,确保高效且专业的回复。>
  • 目标:为用户查询提供准确的解决方案。
  • 详细模式:
  • 摘要代理
  • 在这里会发生什么?

>代理创建:
import asyncio
from crewai import Agent, Crew, Task, LLM, Process
import google.generativeai as genai
登录后复制
登录后复制
登录后复制
summary_agent旨在汇总查询分辨率。

>

>
    模型选择:
  • 使用温度为0.2的LLM_2(GPT-4),使其响应更加确定性和精确。 >角色:
  • >该代理充当摘要发电机。
  • > 背景故事:
  • 它总结了查询分辨率简洁供快速参考。
  • 目标:
  • 它提供了一个清晰明确的摘要,概述了如何解决客户查询。
  • >详细模式:>
  • 步骤5:定义任务 系统动态分配任务以确保并行查询处理。
  • 本节定义了在并发查询分辨率系统中分配给AI代理的任务。
  • 在这里会发生什么?

定义任务:

  • resolution_task:此任务指示查询解析器代理分析和解决客户查询。
  • summary_task:此任务指示摘要代理生成分辨率过程的简短摘要。
  • >

>动态查询处理:

  • 执行任务时,系统用实际的客户查询代替{query}。
  • 这允许系统动态处理任何客户查询。
  • >

预期输出:

    andolution_task期望对查询有详细的响应。
  • >
  • summary_task生成了查询分辨率的简明摘要。
  • >

代理分配:

query_resolution_agent被分配用于处理分辨率任务。
    >
  • summary_agent被分配以处理摘要任务。>
  • 为什么这很重要
>

任务专业:每个AI代理都有特定的工作,可确保效率和清晰度。

    >可伸缩性:
  • 您可以添加更多任务和代理来处理不同类型的客户支持交互。> >>并行处理:
  • 可以同时执行任务,以减少客户的等待时间。
  • 步骤6:用AI代理执行查询
  • >创建一个异步函数来处理查询。机组类组织代理和任务,依次执行它们,以确保正确的查询分辨率和摘要。
  • 此功能定义了执行查询的异步过程。它创建了一个机组人员实例,其中包括:
  • >

代理:

参与该过程的AI代理(查询解析器和摘要生成器)。

import os 

# Set the API key as an environment variable
os.environ["OPENAI_API_KEY"] = ""
登录后复制
登录后复制
登录后复制
登录后复制

任务:

>分配给代理的任务(查询分辨率和摘要)。
  • process = process.sequection:确保任务是按顺序执行的。
  • verbose = true:启用详细记录以更好地跟踪。
  • 该函数使用等待执行AI代理并返回结果。> >步骤7:处理多个查询同时
  • 使用asyncio.gather(),可以同时处理多个查询。这通过允许AI代理并并行处理不同的客户问题来减少响应时间。> 此函数同时执行两个查询。 ASyncio.gather()同时处理两个查询,从而大大减少了响应时间。该函数返回两个查询的结果,一旦执行完成
>步骤8:定义示例查询

开发人员定义样本查询以测试系统,涵盖了常见的客户支持问题,例如登录失败和付款处理错误。

这些是测试系统的示例查询。

查询1涉及登录问题,而查询2与付款网关错误有关。

>步骤9:设置事件循环

该系统初始化事件循环以处理异步操作。如果它找不到现有循环,它将创建一个新的循环来管理AI任务执行。

import os 

# Set the API key as an environment variable
os.environ["OPENAI_API_KEY"] = ""
登录后复制
登录后复制
登录后复制
登录后复制
本节确保事件循环可用于运行异步任务。

如果系统检测到没有事件循环(RuntimeError发生),它将创建一个新的并将其设置为活动循环。

步骤10:Jupyter笔记本中的处理事件循环/Google Colab

>由于jupyter和colab具有预先存在的事件循环,因此使用nest_asyncio.apply()来防止冲突,确保顺畅地执行异步查询。

jupyter笔记本和Google Colab具有预先存在的事件循环,在运行异步功能时可能会导致错误。
import asyncio
from crewai import Agent, Crew, Task, LLM, Process
import google.generativeai as genai
登录后复制
登录后复制
登录后复制

> nest_asyncio.apply()允许嵌套事件循环,解决兼容性问题。

步骤11:执行查询和打印结果

事件循环运行handle_two_queries()同时处理查询。该系统打印最终的AI生成的响应,显示查询分辨率和摘要。

>

loop.run_until_complete()启动执行handle_two_queries(),该(同时处理两个查询。
# Initialize the LLM with Gemini
llm_1 = LLM(
    model="gpt-4o",
    temperature=0.7)
llm_2 = LLM(
    model="gpt-4",
    temperature=0.2)
llm_3 = LLM(
    model="gpt-4o",
    temperature=0.3)
登录后复制
系统打印结果,显示每个查询的AI生成的分辨率。

使用CREWAI的并发查询分辨率系统

并发查询分辨率系统的优势

在下面,我们将通过同时处理多个查询,从而导致更快的响应时间和改进的用户体验,从而看到并发查询分辨率系统如何提高效率。使用CREWAI的并发查询分辨率系统>

>更快的响应时间:

并行执行同时解决多个查询。
    >
  • 提高准确性:利用多个llms确保创造力和事实正确性之间的平衡。
  • >可伸缩性:系统可以在不干预的情况下处理大量查询。
  • 更好的客户体验:
  • 自动摘要提供了查询分辨率的快速概述。
  • >并发查询分辨率系统的应用
  • >现在,我们将探索并发查询分辨率系统的各种应用程序,包括客户支持自动化,聊天机器人中的实时查询处理以及有效处理大型服务请求。>
    • 客户支持自动化:启用AI驱动的聊天机器人可以同时解决多个客户查询,减少响应时间。
    • 实时查询处理:通过并行处理大量查询,提高效率来增强实时支持系统。>
    • >电子商务协助:在线购物平台中精简产品查询,订单跟踪和付款问题解决方案。
    • >
    • > IT帮助台家管理:通过同时诊断和解决多个技术问题来支持IT服务桌。
    • 医疗保健和远程医疗:协助同时管理患者查询,预约时间表和医疗建议。>
    结论

    并发查询分辨率系统展示了AI驱动的多代理协作如何彻底改变客户支持。通过利用Crewai,OpenAI的GPT型号和Google Gemini,企业可以自动化查询处理,提高效率和用户满意度。这种方法将来为更高级的AI驱动服务解决方案铺平了道路。

    钥匙要点

    ai代理简化客户支持,减少响应时间。
    • crewai使专业代理能够有效地一起工作。
    • >
    • 使用Asyncio,同时处理多个查询。
    • >
    • 不同的LLM配置平衡精度和创造力。
    • 该系统可以在不干预的情况下管理大量查询量。
    • 自动摘要提供了快速,清晰的查询分辨率。
    • >
    • 常见问题
    • > Q1。什么是crewai?

    a。 Crewai是一个框架,允许多个AI代理在复杂的任务上进行协作。它可以使代理商之间的任务管理,角色专业化和无缝协调。 Crewai如何工作? Crewai定义具有特定角色的代理,动态分配任务,然后依次或同时处理它们。它利用Openai的GPT和Google Gemini等AI模型有效地执行任务。 Crewai如何同时处理多个查询? Crewai使用Python的asyncio.gather()同时运行多个任务,从而确保了无绩效瓶颈的更快的查询分辨率。

    Q4。 Crewai可以与不同的llms集成?是的,Crewai支持各种大型语言模型(LLMS),包括OpenAI的GPT-4,GPT-4O和Google的Gemini,允许用户根据速度和准确性要求进行选择。 Crewai如何确保任务准确性?通过使用具有不同温度设置的不同AI模型,CREWAI平衡创造力和事实正确性,以确保可靠的响应。

    >本文所示的媒体不归Analytics Vidhya拥有,并由作者自行决定使用。

以上是使用CREWAI的并发查询分辨率系统的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
作者最新文章
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板