1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください-AI-php.cn

この記事は、Tusi が執筆した WeChat 公開アカウント「Front-end Sinan」から転載したものです。この記事を転載するには、フロントエンド Sinan 公開アカウントまでご連絡ください。

ChatGPT は最近技術界で非常に人気があり、投票サークルにも殺到しています。私もそれに参加して、私のブログに ChatGPT 会話機能を追加することにしました。

最初にエクスペリエンスリンクを添付してください。ソースコードも下部にあります。

サポートありがとうございます。Open AI 個人アカウントの無料割り当てがなくなりました。大変申し訳ありません。記事とソースコードに従って独自のエクスペリエンスを構築するか、アカウントを登録してエクスペリエンスしてください。バックエンドで。

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

ChatGPT を体験

ChatGPT は、Open AI によって訓練された AI 対話モデルであり、さまざまなシナリオでインテリジェントな対話をサポートできます。

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

ChatGPT を体験したい場合は、まずアカウントを登録する必要がありますが、本製品は国内ネットワークでは直接使用できず、ネットワークの問題を自分で解決する必要があります。。

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

ネットワークの問題を解決した後、登録時に電子メール認証を行うよう求められます。

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

そうすれば、携帯電話番号を認証する必要がありますが、残念ながら国内の携帯電話番号はご利用いただけません。

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

#Google アカウントでログインすることもできますが、最終的には携帯電話番号を確認する必要があります。

したがって、まず SMS 認証コードを受信できる外国の携帯電話番号を見つける必要がありますが、この時点では SMS-ACTIVATE を使用できます。

これは、地球上の何百万ものサービスにアカウントを登録するための Web サイトです。確認コード付きのテキストメッセージをオンラインで受信できるように、世界中のほとんどの国で仮想番号を提供しています。当社のサービスの中には、仮想番号の長期レンタル、接続の転送、電話認証などもあります。

SMS-ACTIVATE の価格はルーブルです。SMS 認証には携帯電話番号を使用する必要があります。問い合わせの結果、最も安いのはインドの携帯電話番号で、小売価格は 10.5 ルーブルであることがわかりました。ルーブル。

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

為替レートに基づいて計算すると、おそらく 1 RMB 以上です。

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

#SMS-ACTIVATE は、特定の宝物によるチャージをサポートしています。インドのアカウントを購入し、Open AI から確認コードを受け取ることができます。

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

この番号はレンタル専用であり、期限があるため、急いで登録プロセスを完了する必要があることに注意してください。20 分後には、この番号はもうあなたのものではなくなります。 . .

Open AI アカウントを登録した後、ChatGPT Web ワークベンチに移動して AI 会話を体験できます。

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

API を介してオープン AI 機能にアクセス

ChatGPT を体験した後、テクノロジーに携わっている人は、これをどのように接続するかを考えているかもしれません。機能を独自の製品に組み込みます。

すぐに始めましょう

ChatGPT は Open AI によってトレーニングされたモデルです。Open AI は開発者が呼び出すための API も提供しており、ドキュメントやケースも比較的包括的です。

機械学習における非常に重要なステップはパラメーターを調整することですが、フロントエンド開発者にとって、ほとんどの人はパラメーターを調整する方法を間違いなく知りません。そのため、ニーズに最も適した公式のケースを参照します。素晴らしいですね。このチャットケースはシナリオのニーズに非常によく当てはまります。

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

公式は、nodejs スターターを提供しており、これに基づいてすぐに開始してテストできます。

git clone https://github.com/openai/openai-quickstart-node.git

ログイン後にコピー

そのコアコードはこの部分であり、そこで使用される openai は正式にカプセル化された NodeJS ライブラリです。

const completion = await openai.createCompletion({
model: "text-davinci-003",
prompt: '提问内容',
temperature: 0.9,
max_tokens: 150,
top_p: 1,
frequency_penalty: 0,
presence_penalty: 0.6,
});

ログイン後にコピー

API を呼び出す前に、Open AI アカウントで API キーを生成する必要があります。

現在、公式の無料制限は 18 ナイフであり、超過分は支払う必要があります。課金はトークンに基づいて計算されます。トークンとは何かについては、主要な概念を参照してください。

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

上記のチャットケースのパラメータを取得して、直接使用してみましょう。基本的に、質問に答える 70% または 80% の AI があります。これを自分で試してみてください。効果は複雑ではありません。

次のステップは、このスターターのキーコードを独自の製品に統合する方法を検討することです。

产品分析

我之前有在自己的博客中做过一个简单的 WebSocket 聊天功能，而在 AI 对话这个需求中，前端 UI 部分基本上可以参考着WebSocket 聊天功能改改，工作量不是很大，主要工作量还是在前后端的逻辑和对接上面。

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

ChatGPT 的这个产品模式，它不是一个常规的 WebSocket 全双工对话，而是像我们平常调接口一样，发生用户输入后，客户端发送请求到服务端，等待服务端响应，最后反馈给用户，它仅仅是从界面上看起来像是聊天，实际上不是一个标准的聊天过程。所以前后端交互主要还是靠 HTTP 接口对接。

核心要素 Prompt

在openai.createCompletion调用时有一个很重要的参数prompt，它是对话的上下文信息，只有这个信息足够完整，AI 才能正确地做出反馈。

举个例子，假设在对话过程中有2个回合。

// 回合1
你：爱因斯坦是谁？
AI: 爱因斯坦（Albert Einstein）是20世纪最重要的物理学家，他被誉为“时空之父”。他发现了相对论，并获得诺贝尔物理学奖。

ログイン後にコピー

第一个回合中，传参prompt是爱因斯坦是谁？，机器人很好理解，马上能给出符合实际的回复。

// 回合2
你：他做了什么贡献？
AI: 他为社会做出了许多贡献，例如改善公共卫生、建立教育基础设施、提高农业生产能力、促进经济发展等。

ログイン後にコピー

第二个回合传参prompt是他做了什么贡献？，看到机器人的答复，你可能会觉得有点离谱，因为这根本就是牛头不对马嘴。但是仔细想想，这是因为机器人不知道上下文信息，所以机器人不能理解他代表的含义，只能通过他做了什么贡献？整句话去推测，所以从结果上看就是符合语言的逻辑，但是不符合我们给出的语境。

如果我们把第二个回合的传参prompt改成你: 爱因斯坦是谁？nAI: 爱因斯坦（Albert Einstein）是20世纪最重要的物理学家，他被誉为“时空之父”。他发现了相对论，并获得诺贝尔物理学奖。n你: 他做了什么贡献？nAI:，机器人就能够理解上下文信息，给出接下来的符合逻辑的答复。

// 改进后的回合2
你：他做了什么贡献？
AI: 爱因斯坦对科学有着重大的贡献，他发明了相对论，改变了人们对世界、物理定律和宇宙的认识，并为量子力学奠定了基础。他还发现了...

ログイン後にコピー

所以，我们的初步结论是：prompt参数应该包含此次对话主题的较完整内容，才能保证 AI 给出的下一次回答符合我们的基本认知。

前后端交互

对于前端来说，我们通常关注的是，我给后端发了什么数据，后端反馈给我什么数据。所以，前端关注点之一就是用户的输入，用上面的例子说，爱因斯坦是谁？和他做了什么贡献？这两个内容，应该分别作为前端两次请求的参数。而且，对于前端来说，我们也不需要考虑后端传给 Open AI 的prompt是不是完整，只要把用户输入的内容合理地传给后端就够了。

对于后端来说，我们要关注 session 问题，每个用户应该有属于自己和 AI 的私密对话空间，不能和其他的用户对话串了数据，这个可以基于 session 实现。前端每次传过来的信息只有简单的用户输入，而后端要关注与 Open AI 的对接过程，结合用户的输入以及会话中保留的一些信息，合并成一个完整的prompt传给 Open AI，这样才能得到正常的对话过程。

所以基本的流程应该是这个样子：

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

我们根据这个流程输出第一版代码。

后端V1版本代码

router.get('/chat-v1', async function(req, res, next) {
// 取得用户输入
const wd = req.query.wd;
// 构造 prompt 参数
if (!req.session.chatgptSessionPrompt) {
req.session.chatgptSessionPrompt = ''
}
const prompt = req.session.chatgptSessionPrompt + `n提问:` + wd + `nAI:`
try {
const completion = await openai.createCompletion({
model: "text-davinci-003",
prompt,
temperature: 0.9,
max_tokens: 150,
top_p: 1,
frequency_penalty: 0,
presence_penalty: 0.6,
stop: ["n提问:", "nAI:"],
});
// 调用 Open AI 成功后，更新 session
req.session.chatgptSessionPrompt = prompt + completion.data
// 返回结果
res.status(200).json({
code: '0',
result: completion.data.choices[0].text
});
} catch (error) {
console.error(error)
res.status(500).json({
message: "Open AI 调用异常"
});
}
});

ログイン後にコピー

前端V1版本关键代码

const sendChatContentV1 = async () => {
// 先显示自己说的话
msgList.value.push({
time: format(new Date(), "HH:mm:ss"),
user: "我说",
content: chatForm.chatContent,
type: "mine",
customClass: "mine",
});
loading.value = true;
try {
// 调 chat-v1 接口，等结果
const { result } = await chatgptService.chatV1({ wd: chatForm.chatContent });
// 显示 AI 的答复
msgList.value.push({
time: format(new Date(), "HH:mm:ss"),
user: "Chat AI",
content: result,
type: "others",
customClass: "others",
});
} finally {
loading.value = false;
}
};

ログイン後にコピー

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

基本的对话能力已经有了，但是最明显的缺点就是一个回合等得太久了，我们希望他速度更快一点，至少在交互上看起来快一点。

流式输出（服务器推 + EventSource）

还好 Open AI 也支持 stream 流式输出，在前端可以配合 EventSource 一起用。

You can also set the stream parameter to true for the API to stream back text (as data-only server-sent events).

基本的数据流是这个样子的：

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

后端改造如下：

router.get('/chat-v2', async function(req, res, next) {
// ...省略部分代码
try {
const completion = await openai.createCompletion({
// ...省略部分代码
// 增加了 stream 参数
stream: true
}, { responseType: 'stream' });
// 设置响应的 content-type 为 text/event-stream
res.setHeader("content-type", "text/event-stream")
// completion.data 是一个 ReadableStream，res 是一个 WritableStream，可以通过 pipe 打通管道，流式输出给前端。
completion.data.pipe(res)
}
// ...省略部分代码
});

ログイン後にコピー

前端放弃使用 axios 发起 HTTP 请求，而是改用 EventSource。

const sendChatContent = async () => {
// ...省略部分代码
// 先显示自己说的话
msgList.value.push({
time: format(new Date(), "HH:mm:ss"),
user: "我说",
content: chatForm.chatContent,
type: "mine",
customClass: "mine",
});

// 通过 EventSource 取数据
const es = new EventSource(`/api/chatgpt/chat?wd=${chatForm.chatContent}`);

// 记录 AI 答复的内容
let content = "";

// ...省略部分代码

es.onmessage = (e) => {
if (e.data === "[DONE]") {
// [DONE] 标志数据结束，调用 feedback 反馈给服务器
chatgptService.feedback(content);
es.close();
loading.value = false;
updateScrollTop();
return;
}
// 从数据中取出文本
const text = JSON.parse(e.data).choices[0].text;
if (text) {
if (!content) {
// 第一条数据来了，先显示
msgList.value.push({
time: format(new Date(), "HH:mm:ss"),
user: "Chat AI",
content: text,
type: "others",
customClass: "others",
});
// 再拼接
content += text;
} else {
// 先拼接
content += text;
// 再更新内容，实现打字机效果
msgList.value[msgList.value.length - 1].content = content;
}
}
};
};

ログイン後にコピー

从代码中可以发现前端在 EventSource message 接收结束时，还调用了一个 feedback 接口做反馈。这是因为在使用 Pipe 输出时，后端没有记录 AI 答复的文本，考虑到前端已经处理了文本，这里就由前端做一次反馈，把本次 AI 答复的内容完整回传给后端，后端再更新 session 中存储的对话信息，保证对话上下文的完整性。

feedback 接口的实现比较简单：

router.post('/feedback', function(req, res, next) {
if (req.body.result) {
req.session.chatgptSessionPrompt += req.body.result
res.status(200).json({
code: '0',
msg: "更新成功"
});
} else {
res.status(400).json({
msg: "参数错误"
});
}
});

ログイン後にコピー

我这里只是给出一种简单的做法，实际产品中可能要考虑的会更多，或者应该在后端自行处理 session 内容，而不是依靠前端的反馈。

最终的效果大概是这个样子：

1 元を支払ってあなたのウェブサイトを ChatGPT に対応させてください

限制访问频次

由于 Open AI 也是有免费额度的，所以在调用频率和次数上也应该做个限制，防止被恶意调用，这个也可以通过 session 来处理。我这里也提供一种比较粗糙的处理方式，具体请往下看。实际产品中可能会写 Redis，写库，加定时任务之类的，这方面我也不够专业，就不多说了。

针对访问频率，我暂定的是 3 秒内最多调用一次，我们可以在调用 Open AI 成功之后，在 session 中记录时间戳。

req.session.chatgptRequestTime = Date.now()

ログイン後にコピー

当一个新的请求过来时，可以用当前时间减去上次记录的chatgptRequestTime，判断一下是不是在 3 秒内，如果是，就返回 HTTP 状态码 429；如果不在 3 秒内，就可以继续后面的逻辑。

if (req.session.chatgptRequestTime && Date.now() - req.session.chatgptRequestTime <= 3000) {
// 不允许在3s里重复调用
return res.status(429).json({
msg: "请降低请求频次"
});
}

ログイン後にコピー

关于请求次数也是同样的道理，我这里也写得很简单，实际上还应该有跨天清理等逻辑要做。我这里偷懒了，暂时没做这些。

if (req.session.chatgptTimes && req.session.chatgptTimes >= 50) {
// 实际上还需要跨天清理，这里先偷懒了。
return res.status(403).json({
msg: "到达调用上限，欢迎明天再来哦"
});
}

ログイン後にコピー

同一个话题也不能聊太多，否则传给 Open AI 的 prompt 参数会很大，这就可能会耗费很多 Token，也有可能超过 Open AI 参数的限制。

if (req.session.chatgptTopicCount && req.session.chatgptTopicCount >= 10) {
// 一个话题聊的次数超过限制时，需要强行重置 chatgptSessionPrompt，换个话题。
req.session.chatgptSessionPrompt = ''
req.session.chatgptTopicCount = 0
return res.status(403).json({
msg: "这个话题聊得有点深入了，不如换一个"
});
}

ログイン後にコピー

切换话题

客户端应该也有切换话题的能力，否则 session 中记录的信息可能会包含多个话题的内容，可能导致与用户的预期不符。那我们做个接口就好了。

router.post('/changeTopic', function(req, res, next) {
req.session.chatgptSessionPrompt = ''
req.session.chatgptTopicCount = 0
res.status(200).json({
code: '0',
msg: "可以尝试新的话题"
});
});

ログイン後にコピー