使用Mistral 7b -Analytics Vidhya在AI代理中调用功能

利用Mistral 7b的功能呼叫力量：构建智能AI代理商

大型语言模型（LLM）已彻底改变了AI代理与外部系统和API的互动，从而实现了自然的自然驱动决策。这是通过函数调用来实现的，其中JSON模式定义的功能允许LLM自主选择和执行外部操作，从而显着提高自动化。本文演示了使用Mistral 7b的功能调用，这是一种优化的指令遵循的尖端模型。

关键学习目标：

• 掌握生成AI中AI代理的作用和类型。
• 了解函数调用如何通过JSON模式增强LLM功能。
• 配置并加载Mistral 7b模型，以进行文本生成。
• 在LLMS中呼叫函数以执行外部进程。
• 提取功能参数并使用Mistral 7b产生响应。
• 执行具有结构化输出的实时功能，例如天气查询。
• 使用多种工具在不同域上扩展AI代理功能。

（本文是数据科学博客马拉松的一部分。）

目录：

• 了解AI代理
• 在LLMS中呼叫的功能解释了
• 构建Mistral 7b管道：模型和文本生成
• 用Mistral 7b实施功能调用
• 模型生成的最终响应
• 结论
• 常见问题

了解AI代理：

在生成的AI（Genai）中，AI代理代表着重大进步。他们利用LLM等模型来生成内容，模拟交互并自主执行复杂的任务。它们的适应性遍及各个领域，包括客户服务，教育和医疗保健。

AI代理的分类如下（请参见下图）：

• 人类循环（反馈提供）
• 代码执行者（例如，ipython内核）
• 工具执行者（功能或API执行）
• 模型（LLM，VLM等）

函数调用会集成代码执行，工具执行和模型推理。 LLM处理自然语言处理，而代码执行者运行必要的代码段来满足用户请求。人类互动可以提供反馈或控制过程终止。

在LLMS中调用的功能解释了：

开发人员使用JSON模式（传递给模型）定义功能。然后，该模型根据用户提示生成所需的函数参数。例如，它可以致电天气API提供实时天气信息。功能调用允许LLMS智能选择适当的功能或工具，从而实现自主任务完成并提高效率。

本文演示了LLM（Mistral）如何根据用户查询生成函数参数。用户要求德里温度；该模型提取参数，函数检索实时数据（或此处的默认值），LLM提供了用户友好的响应。

构建Mistral 7b管道：模型和文本生成：

我们将导入必要的库，并加载Mistral 7b模型和令牌，从拥抱表面进行推理。该模型可在此处使用。

导入库：

从变形金刚进口管道，AutomodelForCausAllm，AutoTokenizer
进口警告
警告。FilterWarnings（“忽略”）

指定Mistral 7b模型存储库：

 model_name =“ mistralai/mistral-7b-instruct-v0.3”

下载模型和令牌：

（注意：访问需要按照其网站上的说明来拥抱面部注册和代币生成。）

 model = automodelforcausallm.from_pretrate（model_name，token = hf_token，device_map ='auto'）
tokenizer = autotokenizer.from_pretaining（model_name，token = hf_token）

（详细介绍实现，结果和结论的其余部分将遵循类似的重组和重新措辞，以保持原始含义，同时增强清晰度和流动。图像将保留在其原始位置。）

以上是使用Mistral 7b -Analytics Vidhya在AI代理中调用功能的详细内容。更多信息请关注PHP中文网其他相关文章！