沃梦达 / 编程技术 / 数据库 / 正文

Redis实现之压缩列表

压缩列表压缩列表(ziplist)是列表键和哈希键的底层实现之一,当一个列表键只包含少量列表项,并且每个列表项要嘛是整数值,要嘛是比较短的字符串,那么Redis就会使用压缩列表来做列表键的底层实现。例如,执行以下...

压缩列表

压缩列表(ziplist)是列表键和哈希键的底层实现之一,当一个列表键只包含少量列表项,并且每个列表项要嘛是整数值,要嘛是比较短的字符串,那么Redis就会使用压缩列表来做列表键的底层实现。例如,执行以下命令将创建一个压缩列表键的底层实现

127.0.0.1:6379> RPUSH lst 1 3 5 10086 "hello" "world"
(integer) 6
127.0.0.1:6379> OBJECT ENCODING lst
"quicklist"

  

quicklist结构在quicklist.c中的解释为A doubly linked list of ziplists意思为一个由ziplist组成的双向链表,列表键里面包含的都是1、3、5、10086这样的小整数值,以及"hello"、"world"这样短的字符串。

另外,当一个哈希键只包含少量键值对,且每个键值对的键和值要嘛是比较短的字符串,Redis会使用压缩列表来做哈希键的底层实现。举个栗子,执行以下命令将创建一个压缩列表实现的哈希键

127.0.0.1:6379> HMSET profile "name" "Jack" "age" 28 "job" "Programmer"
OK
127.0.0.1:6379> OBJECT ENCODING profile
"ziplist"

  

哈希键里面包含的所有键和值都是小整数或者短字符串

压缩列表的构成

压缩列表是Redis为了节约内存而开发的,是由一系列特殊编码的连续内存块组成的顺序型数据结构。一个压缩列表可以包含任意多个节点,每个节点可以保存一个字节数组或者一个整数值。图1-1展示了压缩列表的各个组成部分,表1-1则记录了各个组成部分的类型、长度以及用途

图1-1   压缩列表的各个组成部分

表1-1   压缩列表各个组成部分的详细说明明
属性 类型 长度 用途
zlbytes uint32_t 4字节 记录整个压缩列表占用的内存字节数:在对压缩列表进行内存重分配,或者计算zlend的位置时使用 
zltail  uint32_t 4字节  记录压缩列表表尾节点距离压缩列表的起始地址有多少字节:通过这个偏移量,程序无须遍历整个压缩列表就可以确定表尾节点的地址 
zllen   uint16_t 2字节 

记录了压缩列表包含的节点数量:当这个属性的值小于UINT16_MAX(65535)时, 这个属性的值就是压缩列表包含节点的数量;

这个值等于 UINT16_MAX 时,节点的真实数量需要遍历整个压缩列表才能计算得出

entryX  列表节点  不定  压缩列表包含的各个节点,节点的长度由节点保存的内容决定 
zlend  uint8_t   1字节  特殊值0xFF(十进制 255 ),用于标记压缩列表的末端

图1-2展示了一个压缩列表的示例:

  • 列表zlbytes属性的值为0x50(十进制80),表示压缩列表的总长为80字节
  • 列表zltail属性的值为0x3c(十进制60),表示如果有一个指向压缩列表起始地址的指针p,那么只要用指针p加上偏量60,就可以计算出表尾节点entry3的地址
  • 列表zlend属性的值为0x3(十进制3),表示压缩列表包含三个节点

图1-2   包含三个节点的压缩列表

图1-3展示了另一个压缩表示例

图1-3   包含五个节点的压缩列表

  • 列表zlbytes属性的值为0xd2(十进制210),表示压缩列表的总长为210字节
  • 列表zltail属性的值为0xb3(十进制179),表示如果有一个指向压缩列表起始地址的指针p,那么只要用指针p加上偏量179,就可以计算出表尾节点entry5的地址
  • 列表zlend属性的值为0x5(十进制5),表示压缩列表包含五个节点

压缩列表节点的构成

每个压缩列表节点可以保存一个字节数组或者一个整数值,其中,字节数组可以是以下三种长度的其中一种:

  • 长度小于等于63(2^6 -1)字节的字节数组
  • 长度小于等于16 383(2^14 -1)字节的字节数组
  • 长度小于等于4 294 967 295(2^32 -1)字节的字节数组

而整数值则可以是以下六种长度的其中一种:

  • 4位长,介意0至12之间的无符号整数
  • 1字节长的有符号整数
  • 3字节长的有符号整数
  • int16_t类型整数
  • int32_t类型整数
  • int64_t类型整数

每个压缩列表节点都由previous_entry_length、encoding、content三个部分组成,如图1-4所示

图1-4   压缩列表节点的各个组成部分

previous_entry_length

节点previous_entry_length属性以字节为单位,记录了压缩列表中前一个节点的长度。previous_entry_length属性可以是1个字节或者5个字节:

  • 如果前一节点的长度小于254字节,那么previous_entry_length属性的长度为1字节:前一节点的长度就保存在这一个字节里面
  • 如果前一节点的长度大于等于254字节,那么previous_entry_length属性的长度为5字节:其中属性的第一字节会被设置为0xFE(十进制值254),而之后的四个字节则用于保存前一节点的长度

图1-5展示了一个包含一字节长previous_entry_length属性的压缩列表节点,属性的值为0x05,表示前一节点的长度为5字节

图1-5   当前节点的前一节点的长度为5字节

 

图1-6展示了一个包含五字节长previous_entry_length属性的压缩节点,属性值为0xFE00002766,其中值的最高位字节0xFE表示这是一个五字节长的previous_entry_length属性,而之后的四字节00002766(十进制10086)才是前一节点的实际长度。因为节点的previous_entry_length属性记录了前一个节点的长度,所以程序可以通过指针运算,根据当前节点的起始位置来计算出前一个节点的起始地址

举个栗子,如果我们有一个指向当前节点起始地址的指针c,那么我们只要用指针c减去当前节点previous_entry_length属性的值,就可以得出一个指向前一个节点起始地址的指针p,如图1-7所示

图1-7   通过指针运算计算处前一个节点的地址

压缩列表的表尾向表头遍历操作就是使用这一原理实现的,只要我们拥有一个指向某个节点起始地址的指针,那么通过这个指针以及这个节点的previous_entry_length属性,程序就可以一直向前一个节点回溯,最终到达压缩列表的表头节点。

图1-8展示了一个从表尾节点向表头节点进行遍历的完整过程:

  • 首先,我们拥有指向压缩列表表尾节点entry4起始地址的指针p1(指向表尾节点的指针可以通过指向压缩列表起始地址的指针加上zltail属性的值得出)
  • 通过用p1减去entry4节点previous_entry_length属性的值,我们得到一个指向entry4前一节点entry3起始地址的指针p2
  • 通过用p2减去entry3节点previous_entry_length属性的值,我们得到一个指向entry3前一节点entry2起始地址的指针p3
  • 通过用p3减去entry2节点previous_entry_length属性的值,我们得到一个指向entry2前一节点entry1起始地址的指针p4,entry1为压缩列表的表头节点
  • 最终,我们从表尾节点向表头节点遍历了整个列表

图1-8   一个从表尾向表头遍历的例子

encoding

节点的encoding属性记录了节点的content属性所保存数据的类型以及长度:

  • 一字节、两字节或五字节长,值的最高位为00、01或者10的是字节数组编码:这种编码表示节点的content属性保存着字节数组,数组的长度由编码除去最高两位之后的其他位记录
  • 一字节长,值最高位以11开头的是整数编码:这种编码表示节点的content属性保存的是整数值,整数值的类型和长度由编码除去最高两位之后的其他位记录

表1-2记录了所有可用的字节数组编码,而表1-3则记录了所有可用的整数编码。表格中的“_”表示留空,而b、x等变量则代表实际的二进制数据,为了方便阅读,多个字节之间用空格隔开

表1-2   字节数组编码
编码 编码长度 content属性保存的值
00bbbbbb 1字节 长度小于等于63字节的字节数组
01bbbbbb xxxxxxxx 2字节 长度小于等于16383字节的字节数组
10______ aaaaaaaa bbbbbbbb cccccccc dddddddd 5字节 长度小于等于4294967295的字节数组

 

表1-3   整数编码
编码 编码长度 content属性保存的值
11000000 1字节 int16_t类型的整数
11010000 1字节 int32_t类型的整数
11100000 1字节 int64_t类型的整数
11110000 1字节 24位有符号整数
11111110 1字节 8位有符号整数
1111xxxx 1字节 使用这一编码的节点没有相应的content属性,因为编码本身的xxxx四个位已经保存了一个介于0和12之间的值,所以它无须content属性

content

节点的content属性负责保存节点的值,节点值可以是一个字节数组或整数,值的类型和长度由节点的encoding属性决定

图1-9展示了一个保存字节数组的节点示例:

  • 编码的最高位00表示节点保存的是一个字节数组
  • 编码的后六位001011记录了字节数组的长度11
  • content属性保存着节点的值"hello world"

图1-9   保存着字节数组"hello world"的节点

图1-10展示了一个保存整数值的节点示例:

  • 编码11000000表示节点保存的是一个int16_t类型的整数值
  • content属性保存着节点的值10086

图1-10   保存着整数值10086的节点

连锁更新

前面说过,每个节点的previous_entry_length属性都记录了前一个节点的长度:

  • 如果前一节点的长度小于254字节,那么previous_entry_length属性需要用1字节长的空间来保存这个长度值
  • 如果前一节点的长度大于等于254字节,那么previous_entry_length属性需要用5字节长的空间来保存这个长度值

现在,考虑这样一种情况:在一个压缩列表中,有多个连续的、长度介于250字节到253字节之间的节点e1到eN,如图1-11所示

图1-11   包含e1至eN的压缩列表

因为e1至eN的所有节点的长度都小于254字节,所以记录这些节点的长度只需一个字节长的previous_entry_length属性,换言之,e1到eN的previous_entry_length属性都是1字节长。这时,如果我们将一个长度大于254字节的新节点new设置为压缩列表的表头节点,那么new将成为e1的前置节点,如图1-12所示

图1-12   添加新节点到压缩列表

因为e1的previous_entry_length属性仅1字节长,它没办法保存新节点new的长度,所以程序将对压缩列表执行空间重分配操作,并将e1的节点previous_entry_length属性从原来的1字节长扩展为5字节长

现在,麻烦来了,e1原本的长度介于250字节至253字节之间,在为previous_entry_length属性新增四字节的空间之后,e1的长度就变成了介于254字节至257字节之间,而这种长度使用1字节长的previous_entry_length属性时没法保存的。因此,为了让e2的previous_entry_length属性可以记录下e1的长度,程序需再次对压缩列表执行空间重分配操作,并将e2节点的previous_entry_length属性从原来的1字节扩展为5字节长

正如扩展e1引发对e2的扩展一样,扩展e2也会引发对e3的扩展……为了让每个节点的previous_entry_length属性都符合压缩列表对节点的要求,程序需要不断地对压缩列表执行空间重分配操作,直到eN为止

Redis将这种在特殊情况产生的连续多次空间扩展操作称之为“连锁更新”,图1-13展示了这一过程

图1-13   连锁更新过程

除了添加节点可能会引发连锁更新,删除节点也可能会引发连锁更新。考虑图1-14所示的压缩列表,如果e1至eN都是大小介于250字节至253字节的节点,big节点的长度大于等于254字节(需要5字节的previous_entry_length来保存),而small节点的长度小于254字节(只需要1字节的previous_entry_length来保存),那么当我们将small节点从压缩列表中删除之后,为了让e1的previous_entry_length属性可以记录big节点的长度,程序将扩展e1的空间,并由此引发之后的连锁更新

 

图1-14   另一种连锁更新的情况

因为连锁更新在最坏情况下需要对压缩列表执行N次空间重分配操作,而每次空间重分配的最坏时间复杂度为O(N),所以连锁更新的最坏复杂度为O(N^2)。要注意的是,尽管连锁更新的复杂度较高,但它真正造成性能问题的概率是很低的:

  • 首先,压缩列表里要恰好有多个连续的、长度介于250字节至253字节之间的节点,连锁更新才有可能引发,在实际中,这种能够情况并不多见
  • 其次,即使出现连锁更新,但只要被更新的节点数量不多,就不会对性能造成任何影响:比如说,对三五个节点进行连锁更新是绝不会影响性能的

因为以上原因,ziplistPush等命令的平均时间复杂度仅为O(N),在实际中,我们可以放心使用这些函数,而不必担心连锁更新会影响压缩列表的性能

压缩列表API

表1-4列出了所有用于操作压缩列表的API

 

包1-4   压缩列表API
函数 作用 时间复杂度
ziplistNew(void) 创建一个新的压缩列表 O(1)
ziplistPush(unsigned char *zl, unsigned char *s, unsigned int slen, int where) 创建一个包含给定值的新节点,并将这个新节点添加到压缩列表的表头或者表尾 平均O(N),最坏O(N^2)
ziplistInsert(unsigned char *zl, unsigned char *p, unsigned char *s, unsigned int slen) 将包含给定值的新节点插入到给定节点之后 平均O(N),最坏O(N^2)
ziplistIndex(unsigned char *zl, int index) 返回压缩列表给定索引上的节点 O(N)
ziplistFind(unsigned char *p, unsigned char *vstr, unsigned int vlen, unsigned int skip) 在压缩列表中查找并返回包含了给定值的节点 因为节点的值可能是一个字节数组,所以检查节点值和给定值是否相同的复杂度为O(N), 而查找整个列表的复杂度则为O(N^2)
ziplistNext(unsigned char *zl, unsigned char *p) 返回给定节点的下一个节点 O(1)
ziplistPrev(unsigned char *zl, unsigned char *p) 返回给定节点的前一个节点 O(1)
ziplistGet(unsigned char *p, unsigned char **sval, unsigned int *slen, long long *lval) 获取给定节点所保存的值 O(1)
ziplistDelete(unsigned char *zl, unsigned char **p) 从压缩列表中删除给定的节点 平均O(N),最坏O(N^2)
ziplistDeleteRange(unsigned char *zl, unsigned int index, unsigned int num) 删除压缩列表在给定索引上的连续多个节点 平均O(N),最坏O(N^2)
ziplistBlobLen(unsigned char *zl) 返回压缩列表目前占用的内存字节数 O(1)
ziplistLen(unsigned char *zl) 返回压缩列表目前包含的节点数量 节点数量小于65535时O(1),大于65535时O(N)

本文标题为:Redis实现之压缩列表

基础教程推荐