Erfahren Sie mehr über die Verwendung der Redis-Clusterfunktion im Knoten [detaillierte Konfiguration]

Wie verwende ich die Redis-Cluster-Funktion im Knoten? Der folgende Artikel gibt Ihnen eine detaillierte Erklärung der Redis-Cluster-Konfiguration basierend auf node. Ich hoffe, er wird Ihnen hilfreich sein!

Bezüglich der Verwendung der redis-Clusterfunktion in nodejsnodejs中使用redis集群功能，没有找到一篇比较完整且通俗易懂的文章，因此自己在开发调试的过程中也走了不少弯路。

本文会详细介绍了在本地如何搭建redis集群、在客户端如何使用集群、在搭建过程中遇到的问题和错误汇总并说明，以避免下次使用的时候再走弯路，提高开发、工作效率。

使用集群的背景是：在Redis单例模式下随着用户量、访问量的提高，qps值急剧上涨??，大量的io操作导致某一时刻占满cpu(100%)，随时有宕机的危险，同时通过批量处理redis等方式也是治标不治本，无法突破服务器性能的瓶颈。因此使用集群方案或增加redis实例就势在必行。

名词解释--集群

集群一般是指服务器集群，区别于分布式系统，是将很多服务器集中起来一起进行同一种服务，在客户端看来就像是只有一个服务器。集群可以利用多个计算机进行并行计算从而获得很高的计算速度，也可以用多个计算机做备份，从而使得任何一个机器坏了整个系统还是能正常运行。(在redis3.0之前一般使用的都是 哨兵模式，但 哨兵的配置略微复杂，并且性能和高可用性等各方面表现一般)

redis集群要求

由于投票容错机制要求超过半数节点认为某个节点挂了该节点才是挂了，所以2个节点无法构成集群，因此Redis集群至少需要3个节点。

要保证集群的高可用、需要每个节点都有从节点（也就是备份节点），所以Redis集群至少需要6台服务器。 （三主三从、三存三取、高可用、可备份）

当然，我们在本地调试时不可能用这么多服务器，因此我们可以在本地模拟运行6个redis实例，事实上生产环境的Redis集群搭建和这里基本上一样。

mac 环境下搭建本地redis集群

1. 下载安装redis

可以在官网选择安装，也可以用命名行安装

#安装
brew install redis
#启动
redis-server
#进入redis客户端
redis-cli

2. 通过redis配置集群环境

首先要找到redis配置文件的位置

• brew list redis # 查看redis安装的位置
• cd /opt/homebrew/Cellar/redis/6.2.4 # 根据位置进入版本号所在的文件夹
• open . # 打开文件夹
• 用Xcode.app打开homebrew.mxcl.redis.plist, 即可找到redis.conf所在的位置，如下所示：

创建六个服务配置文件

cd /opt/homebrew/etc/(上一步找到的配置文件目录)

# 需要在 /opt/homebrew/etc/ 路径下
mkdir -p redis/cluster/7000
mkdir -p redis/cluster/7001
mkdir -p redis/cluster/7002
mkdir -p redis/cluster/7003
mkdir -p redis/cluster/7004
mkdir -p redis/cluster/7005

修改配置文件

/opt/homebrew/etc/redis.conf路径下的配置文件不用去修改, 只要将其copy到上面创建的 redis/cluster/7000目录下，然后再修改，步骤如下

• 先复制一份配置文件修改

cd /opt/homebrew/etc/ # 进入配置文件目录
cp redis.conf redis/cluster/7000/7000.conf
code redis/cluster/7000/7000.conf # 用编辑器打开或者用vim打开配置文件来进行修改

• 进入到7000.conf后，修改以下属性

# Redis端口号（7000-7005每个配置文件都要修改）
port 7000  

# 开启集群模式运行
cluster-enabled yes   

# 集群内部配置文件配置文件路径，默认nodes-6379.conf（7000-7005每个配置文件都要修改）
cluster-config-file nodes-7000.conf 

# 节点间通信的超时时间
cluster-node-timeout 5000  

# 数据持久化
appendonly yes

• 将7000.conf复制到每个redis服务的目录下

cd /opt/homebrew/etc/redis/cluster # 进入配置文件目录

cp 7000/7000.conf 7001/7001.conf
cp 7000/7000.conf 7002/7002.conf
cp 7000/7000.conf 7003/7003.conf
cp 7000/7000.conf 7004/7004.conf
cp 7000/7000.conf 7005/7005.conf

• 再修改7001.conf-7005.conf每个配置文件的port和cluster-config-file属性

注意：每个配置文件必需配置不一样的port和cluster-config-file值（否则集群不会生效），上面是以端口区分。

通过find /opt/homebrew -name nodes-7000.conf habe ich keinen relativ vollständigen und leicht verständlichen Artikel gefunden, also bin ich dabei Auch beim Entwickeln und Debuggen habe ich viele Umwege gemacht. In diesem Artikel wird detailliert beschrieben, wie ein Redis-Cluster lokal erstellt wird, wie der Cluster auf dem Client verwendet wird, und die während des Erstellungsprozesses aufgetretenen Probleme und Fehler werden zusammengefasst und erläutert, um beim nächsten Mal Umwege zu vermeiden und Verbesserungen vorzunehmen Entwicklung, Arbeitseffizienz.

---

Der Hintergrund der Verwendung des Clusters ist: Im Redis-Singleton-Modus steigt der QPS-Wert mit zunehmender Anzahl von Benutzern und Besuchen stark an und führt zu einer großen Anzahl von io-Vorgängen Wenn der zu einem bestimmten Zeitpunkt voll ist >CPU(100%), besteht jederzeit die Gefahr eines Ausfalls. Gleichzeitig sind die Stapelverarbeitung von Redis und anderen Methoden nur eine vorübergehende Lösung die Grundursache und kann den Engpass der Serverleistung nicht überwinden

. Daher ist es zwingend erforderlich, eine Clusterlösung zu verwenden oder Redis-Instanzen hinzuzufügen.

Begriffserklärung – Cluster

Cluster bezieht sich im Allgemeinen auf einen Servercluster, der sich von einem verteilten System unterscheidet. Es handelt sich um eine Gruppe vieler Server, die zusammengefasst sind um den gleichen Dienst bereitzustellen. Es sieht so aus, als gäbe es nur einen Server. Der Cluster kann mehrere Computer für Parallel Computing

um eine sehr hohe Rechengeschwindigkeit zu erreichen, können Sie auch mehrere Computer verwenden Backup

, sodass das gesamte System weiterhin normal laufen kann, wenn eine Maschine kaputt geht. (

Vor redis3.0 🎜 🎜Sentinel-Modus wurde im Allgemeinen verwendet, aber 🎜 🎜Sentinels Konfiguration ist etwas komplex und seine Leistung und hohe Verfügbarkeit sind in allen Aspekten durchschnittlich 🎜)🎜

Redis-Cluster-Anforderungen

🎜Da der Voting-Fehlertoleranzmechanismus erfordert, dass mehr als die Hälfte der Knoten annimmt, dass ein Knoten ausgefallen ist, ist der Knoten ausgefallen, sodass 2 Knoten keinen Cluster bilden können, sodass der Redis-Cluster mindestens 3 benötigt Knoten. 🎜🎜Um die hohe Verfügbarkeit des Clusters sicherzustellen, muss jeder Knoten über einen Slave-Knoten (d. h. einen Backup-Knoten) verfügen, sodass der Redis-Cluster mindestens 6 Server benötigt. 🎜(Drei Master und drei Slaves, drei Einzahlungen und drei Abrufe, hohe Verfügbarkeit, Backup)🎜🎜🎜Natürlich ist es für uns unmöglich, beim lokalen Debuggen so viele Server zu verwenden, sodass wir die Ausführung von 6 Redis< simulieren können /code>Beispiel: 🎜Tatsächlich ist das Redis-Cluster-Setup in der Produktionsumgebung im Wesentlichen das gleiche wie hier. 🎜🎜<h2 id="Erstellen-Sie-einen-lokalen-Redis-Cluster-in-einer-Mac-Umgebung">Erstellen Sie einen lokalen Redis-Cluster in einer Mac-Umgebung</h2><h3 data-id="heading-4">🎜1 Laden Sie Redis herunter und installieren Sie es.🎜🎜🎜Sie können Wählen Sie die Installation auf der offiziellen Website aus. Sie können auch die benannte Zeile zum Installieren verwenden. 🎜<div class="code" style="position:relative; padding:0px; margin:0px;"><div class="code" style="position:relative; padding:0px; margin:0px;"><pre class='brush:php;toolbar:false;'># start.sh 文件 #!/bin/sh redis-server /opt/homebrew/etc/redis/cluster/7000/7000.conf &amp; redis-server /opt/homebrew/etc/redis/cluster/7001/7001.conf &amp; redis-server /opt/homebrew/etc/redis/cluster/7002/7002.conf &amp; redis-server /opt/homebrew/etc/redis/cluster/7003/7003.conf &amp; redis-server /opt/homebrew/etc/redis/cluster/7004/7004.conf &amp; redis-server /opt/homebrew/etc/redis/cluster/7005/7005.conf &amp; # stop.sh 文件 #!/bin/sh redis-cli -p 7000 shutdown &amp; redis-cli -p 7001 shutdown &amp; redis-cli -p 7002 shutdown &amp; redis-cli -p 7003 shutdown &amp; redis-cli -p 7004 shutdown &amp; redis-cli -p 7005 shutdown &amp;</pre><div class="contentsignin">Nach dem Login kopieren</div></div><div class="contentsignin">Nach dem Login kopieren</div></div><h3 data-id="heading-5">🎜2 Konfigurieren Sie die Clusterumgebung über Redis. Suchen Sie zunächst den Speicherort Redis-Konfigurationsdatei🎜🎜<ul><li> <code>brew list redis # Überprüfen Sie den Speicherort der Redis-Installation

cd /opt/homebrew/Cellar/redis/6.2. 4 # Geben Sie die Versionsnummer basierend auf dem Speicherort ein. Ordner

öffnen # Öffnen Sie den Ordner

Verwenden Sie Xcode.app< /code> um <code>homebrew.mxcl.redis .plist zu öffnen, finden Sie den Speicherort von redis.conf, wie unten gezeigt:

🎜 🎜🎜🎜🎜🎜Erstellen Sie sechs Dienstkonfigurationsdateien 🎜🎜🎜cd /opt/homebrew/ etc/ (das im vorherigen Schritt gefundene Konfigurationsdateiverzeichnis)🎜

redis-cli -p 7000 # 单个客户端启动
redis-server 7000/7000.conf  # 启动单个服务端
redis-cli -p 7000 shutdown # 关闭服务端
sudo chmod +x start.sh # 开启脚本执行权限

# 设置redis主从关系（三主三从）
redis-cli --cluster create  --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005

cluster nodes #查看集群节点情况（进入某个客户端执行）
cluster info #查看集群信息（进入某个客户端执行）

查看所有key值：keys *

删除指定索引的值：del key

清空整个 Redis 服务器的数据：flushall 

清空当前库中的所有 key：flushdb

🎜🎜Ändern Sie die Konfigurationsdatei🎜🎜🎜Die Konfigurationsdatei unter dem Pfad / opt/homebrew/etc/redis.conf muss nicht geändert werden. Kopieren Sie es einfach in das oben erstellte Verzeichnis redis/cluster/7000 und ändern Sie es wie folgt🎜

• Kopieren Sie zuerst eine Konfigurationsdatei und ändern Sie sie

// redis.js
const Redis = require("ioredis");

const cluster = new Redis.Cluster([
  {
    port: 7000,
    host: "127.0.0.1",
  },
  {
    port: 7001,
    host: "127.0.0.1",
  },
]);

cluster.set("foo", "bar");
cluster.get("foo", (err, res) => {
  // res === 'bar'
});

• Ändern Sie nach der Eingabe von 7000.conf die folgenden Eigenschaften< /li>

import Queue from 'bull'
// 创建redis队列实例
const instance = new Queue('custom', {
  prefix : '{myprefix}',
  createClient(type) {
    // cluster 集群实例同上
    return cluster
  }
})

// 添加数据到redis队列(生产者)
instance.add(
  'request', 
  { 
    ...params
  },
  {
    removeOnComplete: false
  }
).catch(e => {
  console.error(e)
})

// 消费者回调
instance.process('request', 5, async (job, done) => {
  console.log('获取当前消费的数据：', job.data)
  // 执行异步操作
  await new Promise((resolve)=>resolve())
  done()
})

• Kopieren Sie 7000.conf auf jedes Redis im Verzeichnis des Dienstes

# 以7000端口的服务为例，7001-7005重复以下操作
$redis-cli -p 7000
127.0.0.1:7000> flushall
127.0.0.1:7000> cluster reset
127.0.0.1:7000> exit

# 使用find找到rdb和aof文件(也在rdb目录下)
find /opt/homebrew -name dump.rdb

# 重新执行创建语句成功
redis-cli --cluster create  --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005

• Ändern Sie den Port und die Clusterkonfiguration. Dateiattribute jeder Konfigurationsdatei7001.conf-7005.conf li>
🎜🎜Hinweis: 🎜Jede Konfigurationsdatei muss mit unterschiedlichem Port und Cluster-Konfigurationsdatei konfiguriert werden Werte (andernfalls wird der Cluster nicht wirksam). 🎜🎜🎜Sie können das Verzeichnis der Konfigurationsdatei über den Befehl 🎜find /opt/homebrew -name nodes-7000.conf🎜🎜🎜🎜🎜🎜3 finden. Starten und stoppen Sie den Clusterdienst🎜 🎜🎜Da wir 6 Dienste konfiguriert haben, ist es unmöglich, einen nach dem anderen zu starten oder zu stoppen. Um dies zu erreichen, müssen wir Shell-Skripte verwenden

进入/opt/homebrew/etc/redis/cluster目录，创建start.sh和stop.sh文件

# start.sh 文件
#!/bin/sh
redis-server /opt/homebrew/etc/redis/cluster/7000/7000.conf &
redis-server /opt/homebrew/etc/redis/cluster/7001/7001.conf &
redis-server /opt/homebrew/etc/redis/cluster/7002/7002.conf &
redis-server /opt/homebrew/etc/redis/cluster/7003/7003.conf &
redis-server /opt/homebrew/etc/redis/cluster/7004/7004.conf &
redis-server /opt/homebrew/etc/redis/cluster/7005/7005.conf &

# stop.sh 文件
#!/bin/sh
redis-cli -p 7000 shutdown &
redis-cli -p 7001 shutdown &
redis-cli -p 7002 shutdown &
redis-cli -p 7003 shutdown &
redis-cli -p 7004 shutdown &
redis-cli -p 7005 shutdown &

执行./start.sh或者./stop.sh来启停服务

执行ps -ef |grep redis来查看已启动的redis服务

注意： 第一次执行./start.sh需要通过sudo chmod +x start.sh授权执行权限

4. 相关命令

redis-cli -p 7000 # 单个客户端启动
redis-server 7000/7000.conf  # 启动单个服务端
redis-cli -p 7000 shutdown # 关闭服务端
sudo chmod +x start.sh # 开启脚本执行权限

# 设置redis主从关系（三主三从）
redis-cli --cluster create  --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005

cluster nodes #查看集群节点情况（进入某个客户端执行）
cluster info #查看集群信息（进入某个客户端执行）

查看所有key值：keys *

删除指定索引的值：del key

清空整个 Redis 服务器的数据：flushall 

清空当前库中的所有 key：flushdb

客户端使用 ioredis 框架接入集群

Redis.Cluster提供了在多个Redis节点上自动分片的功能，使用前面搭建好的六个redis服务器，然后在本地启动node redis.js,就可以测试集群的效果了。ioredis

// redis.js
const Redis = require("ioredis");

const cluster = new Redis.Cluster([
  {
    port: 7000,
    host: "127.0.0.1",
  },
  {
    port: 7001,
    host: "127.0.0.1",
  },
]);

cluster.set("foo", "bar");
cluster.get("foo", (err, res) => {
  // res === 'bar'
});

使用bull框架（redis 队列）

import Queue from 'bull'
// 创建redis队列实例
const instance = new Queue('custom', {
  prefix : '{myprefix}',
  createClient(type) {
    // cluster 集群实例同上
    return cluster
  }
})

// 添加数据到redis队列(生产者)
instance.add(
  'request', 
  { 
    ...params
  },
  {
    removeOnComplete: false
  }
).catch(e => {
  console.error(e)
})

// 消费者回调
instance.process('request', 5, async (job, done) => {
  console.log('获取当前消费的数据：', job.data)
  // 执行异步操作
  await new Promise((resolve)=>resolve())
  done()
})

使用bull框架连接ioredis集群时存在问题： 每次有数据push到redis队列时对应的回调函数可能会触发多次，目前无法确定是使用的问题还是框架本身的问题（如果有了解的欢迎大家留言告知）。

替代集群的方案：在不需要数据同步和数据迁移的情况下，可以在客户端使用多个redis实例，结合Math.random()使数据平分到其中的一个redis，从而解决了单个实例硬件(cpu等)瓶颈的问题。

问题处理

1、Mac系统下连接redis报错？

控制台错误提示：Could not connect to Redis at 127.0.0.1:6379: Connection refused

原因：服务端没有开启或启动失败

解决办法：需要先启动redis服务端redis-server

参考链接

https://blog.csdn.net/qq_23347459/article/details/104257529

2、客户端启动、读写报错？

错误提示：ClusterAllFailedError: Failed to refresh slots cache.

原因：每个服务下的配置文件中的cluster-config-file属性一致。

处理：修改成唯一的属性值

• 参考链接1

  https://stackoverflow.com/questions/57350961/ioredis-clusterallfailederror-failed-to-refresh-slots-cache

• 参考2

  https://github.com/luin/ioredis/issues/711

3、执行创建主从redis语句失败？

执行语句：redis-cli --cluster create --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005

提示错误：[ERR] Node 127.0.0.1:7000 is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0

原因：执行创建语句时，没有清空数据和重置集群

处理：清空数据和重置集群, 清除rdb和aof文件

参考清除redis数据

https://stackoverflow.com/questions/37206993/redis-server-cluster-not-working

# 以7000端口的服务为例，7001-7005重复以下操作
$redis-cli -p 7000
127.0.0.1:7000> flushall
127.0.0.1:7000> cluster reset
127.0.0.1:7000> exit

# 使用find找到rdb和aof文件(也在rdb目录下)
find /opt/homebrew -name dump.rdb

# 重新执行创建语句成功
redis-cli --cluster create  --cluster-replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005

结语

redis集群在客户端的使用是非常简单的，相比之下服务端的配置会比较繁琐。

客户端的具体使用只做了一下简单的说明，使用过程中要注意redis数据的同步和迁移等问题。

使用集群虽然能提升服务能力、支持主从复制、哨兵模式、读写分离、平分服务器的压力等特点。但不具备自动容错和恢复功能，如果出现宕机会使部分读写请求失败，降低了系统的可用性。在使用时根据业务情况分析、选择不同的方案。

本文转载自：https://juejin.cn/post/7079928963107127327


作者：tager

更多node相关知识，请访问：nodejs 教程！

Das obige ist der detaillierte Inhalt vonErfahren Sie mehr über die Verwendung der Redis-Clusterfunktion im Knoten [detaillierte Konfiguration]. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!