Maison > base de données > Redis > Quelles sont les méthodes d'utilisation de la collection d'entiers Redis ?

Quelles sont les méthodes d'utilisation de la collection d'entiers Redis ?

PHPz
Libérer: 2023-06-03 21:18:54
avant
1032 Les gens l'ont consulté

1. Aperçu des ensembles

Pour les ensembles, je pense que tout le monde connaît l'ensemble de STL. Son implémentation sous-jacente est un arbre rouge-noir. Quelle que soit l'insertion, la suppression ou la recherche, la complexité temporelle est O (log n). Bien sûr, si une table de hachage est utilisée pour implémenter une collection, l'insertion, la suppression et la recherche peuvent toutes atteindre O(1). Alors pourquoi la collection utilise-t-elle des arbres rouge-noir et non des tables de hachage ? Je pense que la plus grande possibilité repose sur les caractéristiques de l’ensemble lui-même. L’ensemble a ses propres opérations uniques : intersection, union et différence. Les trois opérations sont O(n) pour les tables de hachage. Par rapport à une table de hachage non ordonnée, il est plus approprié d’utiliser un arbre ordonné rouge-noir, car c’est important.

2. Ensemble d'entiers Redis (intset)

L'ensemble d'entiers dont nous allons parler aujourd'hui, également appelé intset, est une structure de données unique de Redis. Son implémentation n’est ni un arbre rouge-noir ni une table de hachage. C'est un simple tableau plus un encodage mémoire. Les ensembles d'entiers ne sont utilisés que lorsqu'il y a peu d'éléments stockés (la limite supérieure du nombre d'éléments est définie dans la valeur de définition de macro OBJ_SET_MAX_INTSET_ENTRIES de server.h est 512) et ce sont tous des entiers. Sa recherche est O(log n), et l'insertion et la suppression sont toutes deux O(n). Cependant, lorsqu'il y a relativement peu d'éléments de stockage, la différence entre O(log n) et O(n) n'est pas très grande. Cependant, l'utilisation de la collection d'entiers de Redis peut réduire considérablement la mémoire par rapport aux arbres rouge-noir et aux tables de hachage. .
Par conséquent, l’existence de l’ensemble d’entiers intset de Redis est principalement destinée à économiser de la mémoire.

1. Définition de la structure Intset

La structure intset est définie dans intset.h :

#define INTSET_ENC_INT16 (sizeof(int16_t))
#define INTSET_ENC_INT32 (sizeof(int32_t))
#define INTSET_ENC_INT64 (sizeof(int64_t))
 
typedef struct intset {
    uint32_t encoding;      /* a */
    uint32_t length;        /* b */
    int8_t contents[];      /* c */
} intset;
Copier après la connexion

a) encoding spécifie la méthode d'encodage, il existe trois types : INTSET_ENC_INT16, INTSET_ENC_INT32 et INTSET_ENC_INT64. Comme le montre la définition de la macro, ces trois valeurs sont respectivement 2, 4 et 8. D'après le sens littéral, on peut voir que la plage que les trois peuvent représenter est un entier de 16 bits, un entier de 32 bits et un entier de 64 bits.
          b) length stocke le nombre d'éléments de l'ensemble entier. T C) Le contenu est un tableau flexible d'un ensemble d'entiers. Le type d'élément n'est pas nécessairement de type INT8_T. le contenu n'occupe pas la taille de la structure, il sert uniquement de premier pointeur des données de la collection entière. Les éléments de la collection entière sont classés dans le contenu par ordre croissant.

2. Méthode d'encodage

Tout d'abord, comprenons la signification de la méthode d'encodage. Une chose qui doit être claire est que pour un ensemble d'entiers, l'encodage de tous les éléments doit être cohérent (sinon chaque nombre doit stocker un code au lieu de le stocker dans la structure intset), puis l'encodage de l'entier entier set Dépend du nombre dans l'ensemble avec la plus grande "valeur absolue" (la raison pour laquelle il s'agit d'une valeur absolue est que les entiers contiennent des nombres positifs et négatifs).

          Obtenez l'encodage via l'entier ayant la plus grande valeur absolue, l'implémentation est la suivante :

static uint8_t _intsetValueEncoding(int64_t v) {
    if (v < INT32_MIN || v > INT32_MAX)
        return INTSET_ENC_INT64;
    else if (v < INT16_MIN || v > INT16_MAX)
        return INTSET_ENC_INT32;
    else
        return INTSET_ENC_INT16;
}
Copier après la connexion

                                                           La signification de ce code est que si l'entier v ne peut pas être représenté par un entier de 32 bits, alors le codage INTSET_ENC_INT64 est nécessaire si ; il ne peut pas être représenté par un entier de 16 bits, vous devez alors utiliser le codage INTSET_ENC_INT32, sinon, utilisez le codage INTSET_ENC_INT16 ; Le noyau est le suivant : si vous pouvez utiliser 2 octets pour l'exprimer, vous n'avez pas besoin de 4 octets ; si vous pouvez utiliser 4 octets pour l'exprimer, vous n'avez pas besoin de 8 octets. Enregistrez ce que vous pouvez.

Plusieurs macros sont définies dans stdint.h, comme suit :

/* Minimum of signed integral types. */ 
# define INT16_MIN      (-32767-1)  
# define INT32_MIN      (-2147483647-1)  
 
/* Maximum of signed integral types. */  
# define INT16_MAX      (32767)  
# define INT32_MAX      (2147483647)
Copier après la connexion

3. Mise à niveau de l'encodage

Lorsque la méthode d'encodage actuelle n'est pas suffisante pour stocker des entiers avec des chiffres plus grands, l'encodage doit être mis à niveau. Par exemple, les quatre nombres affichés dans la figure ci-dessous sont tous compris dans la plage [-32768, 32767], le codage INTSET_ENC_INT16 peut donc être utilisé. La longueur du contenu du tableau est sizeof(int16_t) * 4 = 2 * 4 = 8 octets (soit 64 bits binaires).

Quelles sont les méthodes dutilisation de la collection dentiers Redis ?

Ensuite, nous insérons un nombre, sa valeur est 32768, soit 1 supérieure à INT16_MAX, il doit donc être codé avec INTSET_ENC_INT32, et le codage de tous les nombres de l'ensemble entier doit être cohérent. Par conséquent, le codage de tous les nombres est converti en codage INTSET_ENC_INT32. C'est une "mise à niveau". Comme le montre la figure :

Quelles sont les méthodes dutilisation de la collection dentiers Redis ?

Après la mise à niveau, la longueur du tableau de contenu devient sizeof(int32_t) * 5 = 4 * 5 = 20 octets (soit 160 bits binaires). De plus, la mémoire occupée par chaque élément a doublé et sa position relative a également changé, obligeant tous les éléments à migrer vers une mémoire élevée.

Ce serait formidable si nous codions tous les ensembles d'entiers avec INTSET_ENC_INT64 depuis le début et évitions les problèmes. La raison en est que l'intention initiale de Redis en concevant intset est d'économiser de la mémoire. On suppose que les éléments d'un ensemble ne dépasseront jamais un entier de 16 bits. Si un entier de 64 bits est utilisé, cela équivaut à une perte de 3 fois. la mémoire.

三、整数集合常用操作

1、创建集合

创建一个整数集合 intsetNew,实现在 intset.c 中:

intset *intsetNew(void) {
    intset *is = zmalloc(sizeof(intset));
    is->encoding = intrev32ifbe(INTSET_ENC_INT16);
    is->length = 0;
    return is;
}
Copier après la connexion

初始创建的整数集合为空集合,用 zmalloc 进行内存分配后,定义编码为 INTSET_ENC_INT16,这样可以使内存尽量小。这里需要注意的是,intset 的存储直接涉及到内存编码,所以需要考虑主机的字节序问题(相关资料请参阅:字节序)。
intrev32ifbe 的意思是 int32 reversal if big endian。即 如果当前主机字节序为大端序,那么将它的内存存储进行翻转操作。简言之,intset 的所有成员存储方式都采用小端序。所以创建一个空的整数集合,内存分布如下:

Quelles sont les méthodes dutilisation de la collection dentiers Redis ?

了解了整数集合的内存编码以后,我们来看看它的 设置 (set)和 获取(get)。

2、元素设置

设置 的含义就是给定整数集合以及一个位置和值,将值设置到这个整数集合的对应位置上。_intsetSet 实现如下:

static void _intsetSet(intset *is, int pos, int64_t value) {
    uint32_t encoding = intrev32ifbe(is->encoding);          /* a */
 
    if (encoding == INTSET_ENC_INT64) {
        ((int64_t*)is->contents)[pos] = value;               /* b */
        memrev64ifbe(((int64_t*)is->contents)+pos);          /* c */
    } else if (encoding == INTSET_ENC_INT32) {
        ((int32_t*)is->contents)[pos] = value;
        memrev32ifbe(((int32_t*)is->contents)+pos);
    } else {
        ((int16_t*)is->contents)[pos] = value;
        memrev16ifbe(((int16_t*)is->contents)+pos);
    }
}
Copier après la connexion

a) 大端序和小端序只是存储方式,encoding 在存储的时候进行了一次 intrev32ifbe 转换,取出来用的时候需要再进行一次 intrev32ifbe 转换(其实就是序列化和反序列化)。
b) 根据 encoding 的类型,将 contents 转换成指定类型的指针,然后用 pos 进行索引找到对应的内存位置,然后将 value 的值设置到对应的内存中。
c) memrev64ifbe 的实现参见 字节序 的 memrev64 函数,即将对应内存的值转换成小端序存储。

3、元素获取

获取 的含义就是给定整数集合以及一个位置,返回给定位置的元素的值。_intsetGet 实现如下:

static int64_t _intsetGetEncoded(intset *is, int pos, uint8_t enc) {
    int64_t v64;
    int32_t v32;
    int16_t v16;
 
    if (enc == INTSET_ENC_INT64) {
        memcpy(&v64,((int64_t*)is->contents)+pos,sizeof(v64));   /* a */
        memrev64ifbe(&v64);                                      /* b */
        return v64;
    } else if (enc == INTSET_ENC_INT32) {
        memcpy(&v32,((int32_t*)is->contents)+pos,sizeof(v32));
        memrev32ifbe(&v32);
        return v32;
    } else {
        memcpy(&v16,((int16_t*)is->contents)+pos,sizeof(v16));
        memrev16ifbe(&v16);
        return v16;
    }
}
 
static int64_t _intsetGet(intset *is, int pos) {
    return _intsetGetEncoded(is,pos,intrev32ifbe(is->encoding));
}
Copier après la connexion

a) 根据 encoding 的类型,将 contents 转换成指定类型的指针,然后用 pos 进行索引找到对应的内存位置,将内存位置上的值拷贝到临时变量中;
b) 由于是直接的内存拷贝,所以取出来的值还是小端序的,那么在大端序的主机上得到的值是不对的,所以需要再做一次 memrev64ifbe 转换将值还原。

4、元素查找

由于整数集合是有序集合,所以查找某个元素是否在整数集合中,Redis 采用的是二分查找。intsetSearch 实现如下:

static uint8_t intsetSearch(intset *is, int64_t value, uint32_t *pos) {
    int min = 0, max = intrev32ifbe(is->length)-1, mid = -1;
    int64_t cur = -1;
    if (intrev32ifbe(is->length) == 0) {
        if (pos) *pos = 0;                                        /* a */
        return 0;
    } else {                                                      /* b */
        if (value > _intsetGet(is,intrev32ifbe(is->length)-1)) {
            if (pos) *pos = intrev32ifbe(is->length);
            return 0;
        } else if (value < _intsetGet(is,0)) {
            if (pos) *pos = 0;
            return 0;
        }
    }
    while(max >= min) {                                          
        mid = ((unsigned int)min + (unsigned int)max) >> 1;       /* c */
        cur = _intsetGet(is,mid);
        if (value > cur) {
            min = mid+1;
        } else if (value < cur) {
            max = mid-1;
        } else {
            break;
        }
    }
    if (value == cur) {                                           /* d */
        if (pos) *pos = mid;
        return 1;
    } else {
        if (pos) *pos = min;
        return 0;
    }
}
Copier après la connexion

a) 整数集合为空,返回0表示查找失败;
b) value 的值比整数集合中的最大值还大,或者比最小值还小,则返回0表示查找失败;
c) 执行二分查找,将找到的值存在 cur 中;
d) 如果找到则返回1,表示查找成功,并且将 pos 设置为 mid 并返回;如果没找到则返回一个需要插入的位置。

5、内存重分配

由于 contents 的内存是动态分配的,所以每次进行元素插入或者删除的时候,都需要重新分配内存,这个实现放在 intsetResize 中,实现如下:

static intset *intsetResize(intset *is, uint32_t len) {
    uint32_t size = len*intrev32ifbe(is->encoding);
    is = zrealloc(is,sizeof(intset)+size);
    return is;
}
Copier après la connexion

encoding 本身表示字节个数,所以乘上集合个数 len 就是 contents 数组需要的总字节数了,调用 zrealloc 进行内存重分配,然后返回重新分配后的地址。
注意:zrealloc 的返回值必须返回出去,因为 intset 在进行内存重分配以后,地址可能就变了。即 is = zrealloc(is, ...) 中,此 is 非彼 is。所以,所有调用 intsetResize 的函数都需要连带的返回新的 intset 指针。

6、编码升级

编码升级一定发生在元素插入,并且插入的元素的绝对值比整数集合中的元素都大的时候,所以我们把升级后的元素插入和编码升级放在一个函数实现,名曰 intsetUpgradeAndAdd,实现如下:

static intset *intsetUpgradeAndAdd(intset *is, int64_t value) {
    uint8_t curenc = intrev32ifbe(is->encoding);
    uint8_t newenc = _intsetValueEncoding(value);                             
    int length = intrev32ifbe(is->length);
    int prepend = value < 0 ? 1 : 0;                                         /* a */
    is->encoding = intrev32ifbe(newenc);
    is = intsetResize(is,intrev32ifbe(is->length)+1);                        /* b */
    while(length--)
        _intsetSet(is,length+prepend,_intsetGetEncoded(is,length,curenc));   /* c */
    if (prepend)
        _intsetSet(is,0,value);
    else
        _intsetSet(is,intrev32ifbe(is->length),value);                       /* d */
    is->length = intrev32ifbe(intrev32ifbe(is->length)+1);
    return is;
}
Copier après la connexion

a) curenc 记录升级前的编码,newenc 记录升级后的编码;
b) 将整数集合 is 的编码设置成新的编码后,进行内存重分配;
c) 获取原先内存中的数据,设置到新内存中(注意:由于两段内存空间是重叠的,而且新内存的长度一定大于原先内存,所以需要从后往前进行拷贝);
d) 当插入的值 value 为负数的时候,为了保证集合的有序性,需要插入到 contents 的头部;反之,插入到尾部;当 value 为负数时 prepend 为1,这样就可以保证在内存拷贝的时候将第 0 个位置留空。
如图展示了一个 (-32768, 0, 1, 32767) 的整数集合在插入数字 32768 后的升级的完整过程:

Quelles sont les méthodes dutilisation de la collection dentiers Redis ?

整数集合升级的时间复杂度是 O(n) 的,但是在整数集合的生命期内,升级最多发生两次(从 INTSET_ENC_INT16 到 INTSET_ENC_INT32 以及 从 INTSET_ENC_INT32 到 INTSET_ENC_INT64)。

7、内存迁移

绝大多数情况都是在执行 插入 、删除 、查找 操作。插入 和 删除 会涉及到连续内存的移动。为了实现内存移动,Redis内部实现包括intsetMoveTail函数。

static void intsetMoveTail(intset *is, uint32_t from, uint32_t to) {
    void *src, *dst;
    uint32_t bytes = intrev32ifbe(is->length)-from;   /* a */
    uint32_t encoding = intrev32ifbe(is->encoding);
 
    if (encoding == INTSET_ENC_INT64) {
        src = (int64_t*)is->contents+from;                   
        dst = (int64_t*)is->contents+to;              
        bytes *= sizeof(int64_t);                     /* b */
    } else if (encoding == INTSET_ENC_INT32) {
        src = (int32_t*)is->contents+from;
        dst = (int32_t*)is->contents+to;
        bytes *= sizeof(int32_t);
    } else {
        src = (int16_t*)is->contents+from;
        dst = (int16_t*)is->contents+to;
        bytes *= sizeof(int16_t);
    }
    memmove(dst,src,bytes);                           /* c */
}
Copier après la connexion

a) 统计从 from 到结尾,有多少个元素;
b) 根据不同的编码,计算出需要拷贝的内存字节数 bytes,以及拷贝源位置 src,拷贝目标位置 dst;
c) memmove 是 string.h 中的函数:src指向的内存区域拷贝 bytes 个字节到 dst 所指向的内存区域,这个函数是支持内存重叠的;

8、元素插入

最后,讲整数集合的插入和删除,插入调用的是 intsetAdd,在 intset.c 中实现:

intset *intsetAdd(intset *is, int64_t value, uint8_t *success) {
    uint8_t valenc = _intsetValueEncoding(value);
    uint32_t pos;
    if (success) *success = 1;
    if (valenc > intrev32ifbe(is->encoding)) {                               /* a */
        return intsetUpgradeAndAdd(is,value);
    } else {
        if (intsetSearch(is,value,&pos)) {                                
            if (success) *success = 0;                                       /* b */
            return is;
        }
        is = intsetResize(is,intrev32ifbe(is->length)+1);                    /* c */
        if (pos < intrev32ifbe(is->length)) intsetMoveTail(is,pos,pos+1);    /* d */
    }
    _intsetSet(is,pos,value);                                                 
    is->length = intrev32ifbe(intrev32ifbe(is->length)+1);                   /* e */
    return is;
}
Copier après la connexion

a) 插入的数值 value 的内存编码大于现有集合的编码,直接调用 intsetUpgradeAndAdd 进行编码升级;
b) 集合元素是不重复的,如果 intsetSearch 能够找到,则将 success 置为0,表示此次插入失败;
c) 如果 intsetSearch 找不到,将 intset 进行内存重分配,即 长度 加 1。
d) pos 为 intsetSearch 过程中找到的 value 将要插入的位置,我们将 pos 以后的内存向后移动1个单位 (这里的1个单位可能是2个字节、4个字节或者8个字节,取决于当前整数集合的内存编码)。
e) 调用 _intsetSet 将 value 的值设置到 pos 的位置上,然后给成员变量 length 加 1。最后返回 intset 指针首地址,因为其间进行了 intsetResize,传入的 intset 指针和返回的有可能不是同一个了。

9、元素删除

删除元素调用的是 intsetRemove ,实现如下:

intset *intsetRemove(intset *is, int64_t value, int *success) {
    uint8_t valenc = _intsetValueEncoding(value);
    uint32_t pos;
    if (success) *success = 0;
    if (valenc <= intrev32ifbe(is->encoding) && intsetSearch(is,value,&pos)) {  /* a */
        uint32_t len = intrev32ifbe(is->length);
        if (success) *success = 1;
        if (pos < (len-1)) intsetMoveTail(is,pos+1,pos);                        /* b */
        is = intsetResize(is,len-1);                                            /* c */
        is->length = intrev32ifbe(len-1); 
    }
    return is;
}
Copier après la connexion

       a) 当整数集合中存在 value 这个元素时才能执行删除操作;
       b) 如果能通过 intsetSearch 找到元素,那么它的位置就在 pos 上,这是通过 intsetMoveTail 将内存往前挪;
       c) intsetResize 重新分配内存,并且将集合长度减1;

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Étiquettes associées:
source:yisu.com
Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn
Tutoriels populaires
Plus>
Derniers téléchargements
Plus>
effets Web
Code source du site Web
Matériel du site Web
Modèle frontal