redis 叢集建置以及監控環境

實作3主3從的叢集虛擬機器單機ip:192.168.40.128

叢集基本建置

#簡單下載

#透過wget http://download.redis.io/releases/redis-4.0.10.tar.gz
解壓縮tar zxvf redis-4.0.10.tar.gz
#指定安裝路徑，切換root使用者執行make && make PREFIX=/usr/ local/redis install，可能出現權限不夠的問題，sudo同樣會報錯，直接使用root進行操作。

安裝編譯工具

#sudo apt-get update
sudo apt-get install gcc
#sudo apt-get install make
sudo apt-get install tcl

#建立redis叢集資料夾

##因為是/usr，所以總是在root權限下操作
cd /usr/local/redis
mkdir cluster
cd cluster
mkdir 7000 7001 7002 7003 7004 7005

#修改設定檔

複製redis conf內的config檔複製到六個資料夾中，並且修改以下內容

# 端口号  
port 7000  
# 后台启动  
daemonize yes  
# 开启集群  
cluster-enabled yes  
#集群节点配置文件  
cluster-config-file nodes-7000.conf  
# 集群连接超时时间  
cluster-node-timeout 5000  
# 进程pid的文件位置  
pidfile /home/ubuntu/redis-4.0.10/pid/redis-7000.pid
#工作文件夹
dir "/home/ubuntu/redis-4.0.10/working"
# 开启aof  
appendonly yes  
# aof文件路径  
appendfilename "appendonly-7005.aof"  
# rdb文件路径  
dbfilename dump-7000.rdb

登入後複製

redis 的設定檔中的bind指定的是redis伺服器的網路卡ip，也就是redis伺服器的ip

#啟動腳本

##cd / home/ubuntu/redis-4.0.10/
#touch start.link.sh
為了操作簡單,建立腳本

#!/bin/bash
export BASE_FLOD="/usr/local/redis"
{BASE_FLOD}/bin/redis-server /usr/local/redis/cluster/7000/redis.conf
/usr/local/redis/bin/redis-server /usr/local/redis/cluster/7001/redis.conf
/usr/local/redis/bin/redis-server /usr/local/redis/cluster/7002/redis.conf
/usr/local/redis/bin/redis-server /usr/local/redis/cluster/7003/redis.conf
/usr/local/redis/bin/redis-server /usr/local/redis/cluster/7004/redis.conf
/usr/local/redis/bin/redis-server /usr/local/redis/cluster/7005/redis.conf
#cd src
#./redis-trib.rb create --replicas 1 192.168.40.128:7000 192.168.40.128:7001 192.168.40.128:7002 192.168.40.128:7003 192.168.40.128:7004 192.168.40.128:7005

登入後複製

叢集啟動

sudo apt-get install ruby rubygems -y
redis-trib. rb create --replicas 1 192.168.40.128:7000 192.168.40.128:7001 192.168.40.128:7002 192.168.40.168.40.128:7002 192.168.40.128:7038:7002 192.168.40.128:7038. 28:7005
,檢查配置的資訊是否有錯誤，沒有直接yes就可以. [OK] All 16384 slots covered.代表接群啟動成功。

節點查看，重啟

檢視叢集運作狀態：使用指令

./redis-trib.rb check 192.168.40.128:7000

，進行叢集的狀態檢查

效能測試

自帶測試工具redis-benchmark

redis-benchmark - h 192.168.40.128 -p 6379 -c 100 -n 100000
100個並發連接，100000個請求，偵測host 為localhost 連接埠為6379的redis 伺服器效能。
redis-benchmark -h 192.168.40.128 -p 6379 -q -d 100
測試存取大小為100位元組的封包的效能。
redis-benchmark -t set,lpush -n 100000 -q
只測試某些操作的效能。
redis-benchmark -n 100000 -q script load "redis.call('set','foo','bar')"
只測試某些數值存取的效能。

叢集密碼設定

叢集建置初始不需要密碼，啟動完成後，先看每個節點的設定檔是否有讀寫權限，如果沒有讀寫權限，需要chmod修改的讀寫權限，透過

./redis-cli -c -p port
config set masterauth password
config set requirepass password
config rewrite

登入後複製

分別連接每個節點進行設定

若要重啟發現連線不上，修改啟動腳本redis-.sh 99行，配置啟動腳本密碼啟動

@r = Redis.new(:host => @info[:host], :port => @info[:port], :timeout => 60,:password => "yangfan@1995")

程式碼測試

/*
 *集群连接测试
 */

@Test
public void testJedisCluster() {
    Set<HostAndPort> nodes = new LinkedHashSet<>();
    //所有主机节点ip和端口
    nodes.add(new HostAndPort("192.168.40.128", 7000));
    nodes.add(new HostAndPort("192.168.40.128", 7001));
    nodes.add(new HostAndPort("192.168.40.128", 7002));
    nodes.add(new HostAndPort("192.168.40.128", 7003));
    nodes.add(new HostAndPort("192.168.40.128", 7004));
    nodes.add(new HostAndPort("192.168.40.128", 7005));
    //没有密码
    //JedisCluster cluster = new JedisCluster(nodes);
    //添加密码调用
    JedisCluster cluster = new JedisCluster(nodes, 5000, 5000, 10, "yangfan@1995", new GenericObjectPoolConfig());
    //cluster.zadd("test_1", String.valueOf(""),"id_2");
    System.out.println(cluster.zscore("test_1", "id_1"));
    try {
        cluster.close();
    } catch (IOException e) {
        e.printStackTrace();
    }
}

登入後複製

主從模式、哨兵、叢集的關係

使用哨兵，redis每个实例也是全量存储，每个redis存储的内容都是完整的数据，浪费内存且有木桶效应。为了最大化利用内存，可以采用集群，就是分布式存储。即每台redis存储不同的内容，共有16384个slot。每个redis分得一些slot，hash_slot = crc16(key) mod 16384 找到对应slot，键是可用键，如果有{}则取{}内的作为可用键，否则整个键是可用键集群至少需要3主3从，且每个实例使用不同的配置文件，主从不用配置，集群会自己选。

监控部署

RedisLive搭建部署

运行环境部署

git clone https://github.com/kumarnitin/RedisLive.git
下载redislive,解压缩unzip -o -d /home/ubuntu/ RedisLive-master.zip

进入src文件夹，复制example文件，编辑

"RedisServers":
[
    {
    "server": "192.168.40.128",
    "port" : 7000,
    "password" : "yangfan@1995"
    },
    //...多个监听
],

"DataStoreType" : "redis",

"RedisStatsServer": //存储的redis监听接口
{
    "server" : "127.0.0.1",
    "port" : 6379
},

"SqliteStatsStore" :
{
    "path":  "/home/ubuntu/redis-4.0.10/working/redislive.db" //进行存储的文件
} }

登入後複製

ubuntu@ubuntu:~/redis-4.0.10$ mkdir pid
ubuntu@ubuntu:~/redis-4.0.10$ mkdir log
ubuntu@ubuntu:~/redis-4.0.10$ mkdir working
//保存aof，rdb，node-config文件。
RedisLive分为两部分，其中一部分为监控脚本，另一部分为web服务，所以需要分别启动。`./redis-monitor.py
--duration=120`./redis-live.py

Q&A

redis.clients.jedis.exceptions.JedisNoReachableClusterNodeException: No reachable node in cluster redis node的redis.conf 绑定ip设置为指定的redis节点ip，启动集群时只用指定ip启动，不使用192.168.40.128
connect refuse 关闭防火墙
No module named redis