自我纠正人工智能代理：如何构建能够从错误中学习的人工智能-Python教程-PHP中文网

Self-Correcting AI Agents: How to Build AI That Learns From Its Mistakes

简介

如果您的人工智能代理能够识别自己的错误，从中学习，然后重试——无需人工干预，会怎样？欢迎来到自我纠正人工智能代理的世界。

大多数人工智能模型都会在一次尝试中生成输出。但自我纠正代理更进一步。他们可以实时识别何时发生错误、分析原因并应用修复。将其视为具有内置“试错”心态的人工智能。

在这个博客中，您将学到：

自我纠正对于人工智能代理意味着什么。
如何构建一个适应错误的代理。
如何在代理设计中应用反射模式。

到最后，您将知道如何设计 AI 代理，不仅可以优雅地失败，而且可以在每次尝试中进行改进。

1️⃣ 什么是自我纠正代理？

自我纠正代理是一个人工智能系统，可以识别自己的失败并尝试新的策略。如果最初的方法不起作用，代理会重新评估并尝试替代路径。

类比：

想象一下请厨师烤蛋糕，但他们第一次用了太多糖。标准的人工智能会不断犯同样的错误。但自我修正的人工智能会注意到错误，下次减少糖分，并进行调整，直到蛋糕味道完美。

为什么自我纠正代理很重要？

大多数人工智能工具（如 ChatGPT）只能给你一个单一的响应。如果错误，您必须手动要求它“重试”。但自我纠正代理可以自主重试。

?️ 示例用例：

人工智能被要求编写一个计算斐波那契数的 Python 函数。

尝试 1： AI 编写一个缓慢的递归函数。

自我修正：它注意到递归太慢了。

尝试 2： AI 使用动态编程重写函数，使其速度更快。

2️⃣自我纠正的关键技巧

我们如何让代理有足够的自我意识来认识到自己的错误？以下是三个主要技术：

1.错误检测

识别结果是否“错误”（例如 API 调用失败、输出不正确或性能不佳）。
使用错误代码、异常或测试用例来检测故障。

2.反思

代理反思他们的决定，询问“出了什么问题？”，并计划下一步。
可以通过记录错误、跟踪不成功的 API 调用或重新评估响应质量来实现反思。

3.重试逻辑

经过反思，代理使用改进的策略重试。
这可能意味着切换 API 提供商、使用更高效的逻辑或应用备份方法。

？专业提示：

错误日志可以反馈到AI模型中，以提高未来的性能。

3️⃣ 实践自我修正

让我们使用 Python 和 FastAPI 构建一个自我纠正的 AI 代理。

？‍？第 1 步：问题

我们想要一个可以生成 Python 函数的 AI 代理。如果函数运行失败或产生错误的输出，代理将自动自我纠正。

问题：编写一个计算第 10 个斐波那契数的斐波那契函数。

挑战：如果代理生成递归版本（速度很慢），它应该识别这一点并使用动态编程重写它。

？‍？第 2 步：设置代理

安装必要的依赖项：

pip install openai fastapi uvicorn

登录后复制

？‍？第三步：编写代理

代理的工作原理如下：

它使用OpenAI的API生成一个Python函数。
它运行函数来检查它是否有效。
如果函数失败（缓慢、错误或错误），它会反映并纠正方法。

代码实现

import openai
import time
import asyncio

# ? Replace with your OpenAI API key
openai.api_key = "your_openai_api_key_here"

# ? Step 1: Ask the AI to generate a Fibonacci function
async def generate_fibonacci_function():
    prompt = "Write a Python function to calculate the 10th Fibonacci number."
    response = openai.ChatCompletion.create(
        model="gpt-4",
        messages=[{"role": "user", "content": prompt}]
    )
    function_code = response['choices'][0]['message']['content']
    return function_code

# ? Step 2: Test the function to see if it works
def test_fibonacci_function(function_code):
    try:
        exec(function_code)  # Run the function in a safe execution environment
        result = eval("fibonacci(10)")  # Call the function with n=10
        if result == 55:  # Correct Fibonacci value for n=10
            return "success", result
        else:
            return "wrong_output", result
    except Exception as e:
        return "error", str(e)

# ? Step 3: Self-Correct by asking for a new version of the function
async def self_correct_function():
    max_attempts = 3
    for attempt in range(max_attempts):
        print(f"? Attempt {attempt + 1}")

        # Generate a new Fibonacci function
        function_code = await generate_fibonacci_function()
        print(f"Generated function:\n{function_code}\n")

        # Test the function to see if it works
        status, result = test_fibonacci_function(function_code)
        if status == "success":
            print(f"✅ Success! Fibonacci(10) = {result}")
            return
        elif status == "wrong_output":
            print(f"❌ Incorrect result: {result}. Asking AI to try a better method.")
        else:
            print(f"? Error: {result}. Asking AI to try again.")

    print("❌ Max attempts reached. Could not generate a correct function.")

# ? Run the correction process
asyncio.run(self_correct_function())

登录后复制