首頁 後端開發 Python教學 如何在chatGPT Python API中啟用上下文管理?

如何在chatGPT Python API中啟用上下文管理?

Apr 21, 2023 pm 07:58 PM
python api chatgpt

官方案例:

# Note: you need to be using OpenAI Python v0.27.0 for the code below to work
import openai
 
openai.ChatCompletion.create(
  model="gpt-3.5-turbo",
  messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Who won the world series in 2020?"},
        {"role": "assistant", "content": "The Los Angeles Dodgers won the World Series in 2020."},
        {"role": "user", "content": "Where was it played?"}
    ]
)
登入後複製

雖然已經給出了格式,但是沒有很詳細的說明,可能對於高階開發者一看就懂了,但是我還是想以更口水的方式講解一下這個上下文管理。

先看一下我一個簡單的程式碼(還沒有啟用上下文管理):

import openai
 
openai.api_key = "你的sk-key"
 
msg = [{"role": "user", "content": "你好chatGPT"}]
 
# 结构化数据并进行提交
completion = openai.ChatCompletion.create(
                # max_tokens = inf # 默认inf 最大令牌数
                presence_penalty = 1, # 惩罚机制,-2.0 到 2.0之间,默认0,数值越小提交的重复令牌数越多,从而能更清楚文本意思
                frequency_penalty = 1, # 意义和值基本同上,默认0,主要为频率
                temperature = 1.0,  # 温度 0-2之间,默认1  调整回复的精确度使用
                n = 1,  # 默认条数1
                user = ids,    # 用户ID,用于机器人区分不同用户避免多用户时出现混淆
                model = "gpt-3.5-turbo",    # 这里注意openai官方有很多个模型
                messages = msg
            )
 
value = completion.choices[0].message.content    # chatGPT返回的数据
登入後複製

這是一個最基本的結構,其中參數model和messages是必須要有的兩個形參。

加入上下文管理的程式碼:

import openai
 
openai.api_key = "你的sk-key"
 
msg = [{"role": "system", "content": "你的名字叫玖河AI,你是一个插件,你的开发者是玖河."},
        {"role": "user", "content": "你好chatGPT"},
        {"role": "assistant", "content": "您好,有什么需要我帮忙的问题吗?"},
        {"role": "user", "content": "我的名字叫高启强,我的妹妹叫高启兰,我们是兄妹关系。记住了吗?"}
        {"role": "assistant", "content": "好的,您叫高启强,您的妹妹叫高启兰,是亲兄妹关系。谢谢您提供信息让我更了解你们~"},
        {"role": "user", "content": "你现在在哪里?"},
        {"role": "assistant", "content": "作为一款智能Ai助手,我并没有实际的位置。我只是在云端中运行,在等待用户输入指令时保持睡眠状态。"},
        {"role": "user", "content": "我的妹妹是谁?"},
        {"role": "assistant", "content": "您之前告诉我,您的妹妹叫高启兰。"},
        {"role": "user", "content": "你的名字叫什么?"},
        {"role": "assistant", "content": "我的名字叫玖河AI是一个叫玖河的开发者开发的插件"}
        ]
 
# 结构化数据并进行提交
completion = openai.ChatCompletion.create(
                # max_tokens = inf # 默认inf 最大令牌数
                presence_penalty = 1, # 惩罚机制,-2.0 到 2.0之间,默认0,数值越小提交的重复令牌数越多,从而能更清楚文本意思
                frequency_penalty = 1, # 意义和值基本同上,默认0,主要为频率
                temperature = 1.0,  # 温度 0-2之间,默认1  调整回复的精确度使用
                n = 1,  # 默认条数1
                user = ids,    # 用户ID,用于机器人区分不同用户避免多用户时出现混淆
                model = "gpt-3.5-turbo",    # 这里注意openai官方有很多个模型
                messages = msg
            )
 
value = completion.choices[0].message.content    # chatGPT返回的数据
登入後複製

下方啟用上下文管理的資料結構和沒有啟用的資料結構略有不同:

① system 代表系統設定(也就是告訴chatGPT他的角色)

② user 表示用戶

③ assistant 表示GPT的回覆

有幾個點要跟大家說一下,避免踩坑!

一、msg數據的儲存建議使用資料庫形式進行儲存,優點是能持久數據,並且調取數據的時候也非常方便,因為我剛開始只想用json來儲存,但是折騰了很久還是放棄了,缺點是不方便儲存和調取,因為你需要考慮到不同的用戶他們下面的會話是不一樣的。

二、要注意的是,提交的資料結構順序必須是從上到下的資料結構,不然chatGPT會混淆錯亂,system可以沒有,如果你想讓它一直保持這個設定的話,那在每次提交的時候在第一個列表元素中加入system的資料就可以。

三、還有一個重要的點:提交的這些數據都會計算進tokens裡麵包括chatGPT回复的時候(最多4096個tokens),如果你想讓上下文管理能記憶更多的語料,那麼在提交資料的時候就盡可能的增加你們之間對話的內容(同時會更快的消耗你的tokens)。

四、截止2023年3月14日前:chatGPT的會員價格為20美元/月 ,tokens按量收費。通俗的說就是想手機卡一樣,每個月有月租,通話另外計費。 chatGPT Plus會員的好處就是速度能更快,並且穩定,白嫖版的也能用,就是速度會慢一些而且不穩定容易掛掉。

以上是如何在chatGPT Python API中啟用上下文管理?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
2 週前 By 尊渡假赌尊渡假赌尊渡假赌
倉庫:如何復興隊友
4 週前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒險:如何獲得巨型種子
3 週前 By 尊渡假赌尊渡假赌尊渡假赌

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
2 週前 By 尊渡假赌尊渡假赌尊渡假赌
倉庫:如何復興隊友
4 週前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒險:如何獲得巨型種子
3 週前 By 尊渡假赌尊渡假赌尊渡假赌

熱門文章標籤

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

ChatGPT 現在允許免費用戶使用 DALL-E 3 產生每日限制的圖像 ChatGPT 現在允許免費用戶使用 DALL-E 3 產生每日限制的圖像 Aug 09, 2024 pm 09:37 PM

ChatGPT 現在允許免費用戶使用 DALL-E 3 產生每日限制的圖像

Google AI 為開發者發佈 Gemini 1.5 Pro 和 Gemma 2 Google AI 為開發者發佈 Gemini 1.5 Pro 和 Gemma 2 Jul 01, 2024 am 07:22 AM

Google AI 為開發者發佈 Gemini 1.5 Pro 和 Gemma 2

怎麼下載deepseek 小米 怎麼下載deepseek 小米 Feb 19, 2025 pm 05:27 PM

怎麼下載deepseek 小米

ChatGPT 現已可用於 macOS,並發布了專用應用程式 ChatGPT 現已可用於 macOS,並發布了專用應用程式 Jun 27, 2024 am 10:05 AM

ChatGPT 現已可用於 macOS,並發布了專用應用程式

deepseek怎麼問他 deepseek怎麼問他 Feb 19, 2025 pm 04:42 PM

deepseek怎麼問他

SearchGPT:開放人工智慧用自己的人工智慧搜尋引擎挑戰谷歌 SearchGPT:開放人工智慧用自己的人工智慧搜尋引擎挑戰谷歌 Jul 30, 2024 am 09:58 AM

SearchGPT:開放人工智慧用自己的人工智慧搜尋引擎挑戰谷歌

NET40是什麼軟體 NET40是什麼軟體 May 10, 2024 am 01:12 AM

NET40是什麼軟體

deepseek該怎麼搜索 deepseek該怎麼搜索 Feb 19, 2025 pm 05:18 PM

deepseek該怎麼搜索

See all articles