17跳表:为什么Redis一定要用跳表来实现有序集合?.pdf

上传人:紫竹语嫣 文档编号:5529861 上传时间:2020-06-01 格式:PDF 页数:16 大小:679.41KB
返回 下载 相关 举报
17跳表:为什么Redis一定要用跳表来实现有序集合?.pdf_第1页
第1页 / 共16页
17跳表:为什么Redis一定要用跳表来实现有序集合?.pdf_第2页
第2页 / 共16页
17跳表:为什么Redis一定要用跳表来实现有序集合?.pdf_第3页
第3页 / 共16页
17跳表:为什么Redis一定要用跳表来实现有序集合?.pdf_第4页
第4页 / 共16页
17跳表:为什么Redis一定要用跳表来实现有序集合?.pdf_第5页
第5页 / 共16页
点击查看更多>>
资源描述

《17跳表:为什么Redis一定要用跳表来实现有序集合?.pdf》由会员分享,可在线阅读,更多相关《17跳表:为什么Redis一定要用跳表来实现有序集合?.pdf(16页珍藏版)》请在三一文库上搜索。

1、17|跳表:为什么Redis一定要用跳表来实现有序集合? file:/F/temp/geektime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.html2019/1/15 15:35:39 17|跳表:为什么Redis一定要用跳表来实现有序集合? 上两节我们讲了二分查找算法。当时我讲到,因为二分查找底层依赖的是数组随机访问的特性,所以只能用数组来实现。如果数据存储在链表中,就真的没法用 二分查找算法了吗? 实际上,我们只需要对链表稍加改造,就可以支持类似“二分”的查找算法。我们把改造之后的数据结构叫作跳表(Skip list),也就是今天要讲的内容。 跳表这种

2、数据结构对你来说,可能会比较陌生,因为一般的数据结构和算法书籍里都不怎么会讲。但是它确实是一种各方面性能都比较优秀的动态数据结构,可 以支持快速的插入、删除、查找操作,写起来也不复杂,甚至可以替代红黑树(Red-black tree)。 Redis中的有序集合(Sorted Set)就是用跳表来实现的。如果你有一定基础,应该知道红黑树也可以实现快速的插入、删除和查找操作。那Redis为什么会选择用跳 表来实现有序集合呢? 为什么不用红黑树呢?学完今天的内容,你就知道答案了。 如何理解“跳表”? 对于一个单链表来讲,即便链表中存储的数据是有序的,如果我们要想在其中查找某个数据,也只能从头到尾遍历

3、链表。这样查找效率就会很低,时间复杂度会 很高,是O(n)。 那怎么来提高查找效率呢?如果像图中那样,对链表建立一级“索引”,查找起来是不是就会更快一些呢?每两个结点提取一个结点到上一级,我们把抽出来的那 一级叫作索引或索引层。你可以看我画的图。图中的down表示down指针,指向下一级结点。 17|跳表:为什么Redis一定要用跳表来实现有序集合? file:/F/temp/geektime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.html2019/1/15 15:35:39 如果我们现在要查找某个结点,比如16。我们可以先在索引层遍历,当遍历到索引层中值

4、为13的结点时,我们发现下一个结点是17,那要查找的结点16肯定就在 这两个结点之间。然后我们通过索引层结点的down指针,下降到原始链表这一层,继续遍历。这个时候,我们只需要再遍历2个结点,就可以找到值等于16的这个 结点了。这样,原来如果要查找16,需要遍历10个结点,现在只需要遍历7个结点。 从这个例子里,我们看出,加来一层索引之后,查找一个结点需要遍历的结点个数减少了,也就是说查找效率提高了。那如果我们再加一级索引呢?效率会不会 提升更多呢? 跟前面建立第一级索引的方式相似,我们在第一级索引的基础之上,每两个结点就抽出一个结点到第二级索引。现在我们再来查找16,只需要遍历6个结点了,需

5、 要遍历的结点数量又减少了。 17|跳表:为什么Redis一定要用跳表来实现有序集合? file:/F/temp/geektime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.html2019/1/15 15:35:39 我举的例子数据量不大,所以即便加了两级索引,查找效率的提升也并不明显。为了让你能真切地感受索引提升查询效率。我画了一个包含64个结点的链表,按 照前面讲的这种思路,建立了五级索引。 17|跳表:为什么Redis一定要用跳表来实现有序集合? file:/F/temp/geektime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实

6、现有序集合?.html2019/1/15 15:35:39 从图中我们可以看出,原来没有索引的时候,查找62需要遍历62个结点,现在只需要遍历11个结点,速度是不是提高了很多?所以,当链表的长度n比较大时,比 如1000、10000的时候,在构建索引之后,查找效率的提升就会非常明显。 前面讲的这种链表加多级索引的结构,就是跳表。我通过例子给你展示了跳表是如何减少查询次数的,现在你应该比较清晰地知道,跳表确实是可以提高查询效 率的。接下来,我会定量地分析一下,用跳表查询到底有多快。 用跳表查询到底有多快? 17|跳表:为什么Redis一定要用跳表来实现有序集合? file:/F/temp/gee

7、ktime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.html2019/1/15 15:35:39 前面我讲过,算法的执行效率可以通过时间复杂度来度量,这里依旧可以用。我们知道,在一个单链表中查询某个数据的时间复杂度是O(n)。那在一个具有多级 索引的跳表中,查询某个数据的时间复杂度是多少呢? 这个时间复杂度的分析方法比较难想到。我把问题分解一下,先来看这样一个问题,如果链表里有n个结点,会有多少级索引呢? 按照我们刚才讲的,每两个结点会抽出一个结点作为上一级索引的结点,那第一级索引的结点个数大约就是n/2,第二级索引的结点个数大约就是n/4,第三级索引 的结

8、点个数大约就是n/8,依次类推,也就是说,第k级索引的结点个数是第k-1级索引的结点个数的1/2,那第k级索引结点的个数就是n/(2k)。 假设索引有h级,最高级的索引有2个结点。通过上面的公式,我们可以得到n/(2h)=2,从而求得h=log2n-1。如果包含原始链表这一层,整个跳表的高度就是log2n。 我们在跳表中查询某个数据的时候,如果每一层都要遍历m个结点,那在跳表中查询一个数据的时间复杂度就是O(m*logn)。 那这个m的值是多少呢?按照前面这种索引结构,我们每一级索引都最多只需要遍历3个结点,也就是说m=3,为什么是3呢?我来解释一下。 假设我们要查找的数据是x,在第k级索引中

9、,我们遍历到y结点之后,发现x大于y,小于后面的结点z,所以我们通过y的down指针,从第k级索引下降到第k-1级索 引。在第k-1级索引中,y和z之间只有3个结点(包含y和z),所以,我们在K-1级索引中最多只需要遍历3个结点,依次类推,每一级索引都最多只需要遍历3个结 点。 通过上面的分析,我们得到m=3,所以在跳表中查询任意数据的时间复杂度就是O(logn)。这个查找的时间复杂度跟二分查找是一样的。换句话说,我们其实是基 于单链表实现了二分查找,是不是很神奇?不过,天下没有免费的午餐,这种查询效率的提升,前提是建立了很多级索引,也就是我们在第6节讲过的空间换时间 的设计思路。 17|跳表

10、:为什么Redis一定要用跳表来实现有序集合? file:/F/temp/geektime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.html2019/1/15 15:35:39 跳表是不是很浪费内存? 比起单纯的单链表,跳表需要存储多级索引,肯定要消耗更多的存储空间。那到底需要消耗多少额外的存储空间呢?我们来分析一下跳表的空间复杂度。 跳表的空间复杂度分析并不难,我在前面说了,假设原始链表大小为n,那第一级索引大约有n/2个结点,第二级索引大约有n/4个结点,以此类推,每上升一级就 减少一半,直到剩下2个结点。如果我们把每层索引的结点数写出来,就是一个等比数

11、列。 这几级索引的结点总和就是n/2+n/4+n/8+8+4+2=n-2。所以,跳表的空间复杂度是O(n)。也就是说,如果将包含n个结点的单链表构造成跳表,我们需要额外再用 接近n个结点的存储空间。那我们有没有办法降低索引占用的内存空间呢? 我们前面都是每两个结点抽一个结点到上级索引,如果我们每三个结点或五个结点,抽一个结点到上级索引,是不是就不用那么多索引结点了呢?我画了一个每 三个结点抽一个的示意图,你可以看下。 17|跳表:为什么Redis一定要用跳表来实现有序集合? file:/F/temp/geektime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.

12、html2019/1/15 15:35:39 从图中可以看出,第一级索引需要大约n/3个结点,第二级索引需要大约n/9个结点。每往上一级,索引结点个数都除以3。为了方便计算,我们假设最高一级的索 引结点个数是1。我们把每级索引的结点个数都写下来,也是一个等比数列。 17|跳表:为什么Redis一定要用跳表来实现有序集合? file:/F/temp/geektime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.html2019/1/15 15:35:39 通过等比数列求和公式,总的索引结点大约就是n/3+n/9+n/27+9+3+1=n/2。尽管空间复杂度还是O(

13、n),但比上面的每两个结点抽一个结点的索引构建方法,要 减少了一半的索引结点存储空间。 实际上,在软件开发中,我们不必太在意索引占用的额外空间。在讲数据结构和算法时,我们习惯性地把要处理的数据看成整数,但是在实际的软件开发中,原 始链表中存储的有可能是很大的对象,而索引结点只需要存储关键值和几个指针,并不需要存储对象,所以当对象比索引结点大很多时,那索引占用的额外空间 就可以忽略了。 高效的动态插入和删除 跳表长什么样子我想你应该已经很清楚了,它的查找操作我们刚才也讲过了。实际上,跳表这个动态数据结构,不仅支持查找操作,还支持动态的插入、删除操 作,而且插入、删除操作的时间复杂度也是O(log

14、n)。 我们现在来看下, 如何在跳表中插入一个数据,以及它是如何做到O(logn)的时间复杂度的? 我们知道,在单链表中,一旦定位好要插入的位置,插入结点的时间复杂度是很低的,就是O(1)。但是,这里为了保证原始链表中数据的有序性,我们需要先找 到要插入的位置,这个查找操作就会比较耗时。 对于纯粹的单链表,需要遍历每个结点,来找到插入的位置。但是,对于跳表来说,我们讲过查找某个结点的的时间复杂度是O(logn),所以这里查找某个数据应 该插入的位置,方法也是类似的,时间复杂度也是O(logn)。我画了一张图,你可以很清晰地看到插入的过程。 17|跳表:为什么Redis一定要用跳表来实现有序集合

15、? file:/F/temp/geektime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.html2019/1/15 15:35:39 好了,我们再来看删除操作。 如果这个结点在索引中也有出现,我们除了要删除原始链表中的结点,还要删除索引中的。因为单链表中的删除操作需要拿到要删除结点的前驱结点,然后通过 指针操作完成删除。所以在查找要删除的结点的时候,一定要获取前驱结点。当然,如果我们用的是双向链表,就不需要考虑这个问题了。 跳表索引动态更新 当我们不停地往跳表中插入数据时,如果我们不更新索引,就有可能出现某2个索引结点之间数据非常多的情况。极端情况下,跳表还

16、会退化成单链表。 17|跳表:为什么Redis一定要用跳表来实现有序集合? file:/F/temp/geektime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.html2019/1/15 15:35:39 作为一种动态数据结构,我们需要某种手段来维护索引与原始链表大小之间的平衡,也就是说,如果链表中结点多了,索引结点就相应地增加一些,避免复杂度 退化,以及查找、插入、删除操作性能下降。 如果你了解红黑树、AVL树这样平衡二叉树,你就知道它们是通过左右旋的方式保持左右子树的大小平衡(如果不了解也没关系,我们后面会讲),而跳表是通 过随机函数来维护前面提到的“平

17、衡性”。 当我们往跳表中插入数据的时候,我们可以选择同时将这个数据插入到部分索引层中。如何选择加入哪些索引层呢? 我们通过一个随机函数,来决定将这个结点插入到哪几级索引中,比如随机函数生成了值K,那我们就将这个结点添加到第一级到第K级这K级索引中。 17|跳表:为什么Redis一定要用跳表来实现有序集合? file:/F/temp/geektime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.html2019/1/15 15:35:39 随机函数的选择很有讲究,从概率上来讲,能够保证跳表的索引大小和数据大小平衡性,不至于性能过度退化。至于随机函数的选择,我就不展

18、开讲解了。如果 你感兴趣的话,可以看看我在GitHub上的代码或者Redis中关于有序集合的跳表实现。 跳表的实现还是稍微有点复杂的,我将Java实现的代码放到了GitHub中,你可以根据我刚刚的讲解,对照着代码仔细思考一下。你不用死记硬背代码,跳表的实现 并不是我们这节的重点。 17|跳表:为什么Redis一定要用跳表来实现有序集合? file:/F/temp/geektime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.html2019/1/15 15:35:39 解答开篇 今天的内容到此就讲完了。现在,我来讲解一下开篇的思考题:为什么Redis要用跳表来实

19、现有序集合,而不是红黑树? Redis中的有序集合是通过跳表来实现的,严格点讲,其实还用到了散列表。不过散列表我们后面才会讲到,所以我们现在暂且忽略这部分。如果你去查看Redis的 开发手册,就会发现,Redis中的有序集合支持的核心操作主要有下面这几个: 插入一个数据; 删除一个数据; 查找一个数据; 按照区间查找数据(比如查找值在100, 356之间的数据); 迭代输出有序序列。 其中,插入、删除、查找以及迭代输出有序序列这几个操作,红黑树也可以完成,时间复杂度跟跳表是一样的。但是,按照区间来查找数据这个操作,红黑树的 效率没有跳表高。 对于按照区间查找数据这个操作,跳表可以做到O(log

20、n)的时间复杂度定位区间的起点,然后在原始链表中顺序往后遍历就可以了。这样做非常高效。 当然,Redis之所以用跳表来实现有序集合,还有其他原因,比如,跳表更容易代码实现。虽然跳表的实现也不简单,但比起红黑树来说还是好懂、好写多了,而 简单就意味着可读性好,不容易出错。还有,跳表更加灵活,它可以通过改变索引构建策略,有效平衡执行效率和内存消耗。 不过,跳表也不能完全替代红黑树。因为红黑树比跳表的出现要早一些,很多编程语言中的Map类型都是通过红黑树来实现的。我们做业务开发的时候,直接拿来 用就可以了,不用费劲自己去实现一个红黑树,但是跳表并没有一个现成的实现,所以在开发中,如果你想使用跳表,必

21、须要自己实现。 内容小结 今天我们讲了跳表这种数据结构。跳表使用空间换时间的设计思路,通过构建多级索引来提高查询的效率,实现了基于链表的“二分查找”。跳表是一种动态数据 结构,支持快速的插入、删除、查找操作,时间复杂度都是O(logn)。 跳表的空间复杂度是O(n)。不过,跳表的实现非常灵活,可以通过改变索引构建策略,有效平衡执行效率和内存消耗。虽然跳表的代码实现并不简单,但是作为 一种动态数据结构,比起红黑树来说,实现要简单多了。所以很多时候,我们为了代码的简单、易读,比起红黑树,我们更倾向用跳表。 课后思考 在今天的内容中,对于跳表的时间复杂度分析,我分析了每两个结点提取一个结点作为索引的

22、时间复杂度。如果每三个或者五个结点提取一个结点作为上级索 引,对应的在跳表中查询数据的时间复杂度是多少呢? 欢迎留言和我分享,我会第一时间给你反馈。 17|跳表:为什么Redis一定要用跳表来实现有序集合? file:/F/temp/geektime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.html2019/1/15 15:35:39 我已将本节内容相关的详细代码更新到GitHub,戳此即可查看。 精选留言: leo 2018-10-29 03:58:31 跳表是我非常喜欢的数据结构,之前写过一篇文章,希望大家斧正(https:/ 17|跳表:为什么Redi

23、s一定要用跳表来实现有序集合? file:/F/temp/geektime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.html2019/1/15 15:35:39 中的每种对象实际上都是基于使用场景选择多种底层数据结构实现的,比如ZSET就是基于【压缩列表】或者【跳跃表+字典】(这也跟之前排序中提到的Sor t包实现的思想一样,基于数据规模选择合适的排序算法),体现了Redis对于性能极致的追求。 49赞 作者回复2018-10-29 11:14:44 Liam 2018-10-29 03:39:39 看了下老师github上的实现(java版本),不是很理解

24、,尤其是数组Node forward的作用,能多加些注释或讲解一下吗 43赞 董航 2018-10-29 00:29:36 redis有序集合是跳跃表实现的,直接这么说有失偏驳,他是复合数据结构,准确说应该是由一个双hashmap构成的字典和跳跃表实现的,不知道我说的有问 题吗 20赞 作者回复2018-10-29 01:41:29 后面还会讲 你说的没错 escray 2018-10-28 22:07:29 如果每三个或者五个节点提取一个节点作为上级索引,那么对应的查询数据时间复杂度,应该也还是 O(logn)。 假设每 5 个节点提取,那么最高一层有 5 个节点,而跳表高度为 log5n,

25、每层最多需要查找 5 个节点,即 O(mlogn) 中的 m = 5,最终,时间复杂度为 O(logn) 。 空间复杂度也还是 O(logn),虽然省去了一部分索引节点,但是似乎意义不大。 不知道在一般的生产系统,跳表的提取是按照多少个节点来实现?还是每个系统根据实际情况,都不一样。 看了跳表的 Java 实现,查找部分的代码真是漂亮,插入部分看了半天才看明白。 12赞 作者回复2018-10-29 01:44:09 姜威 2018-10-31 00:47:07 总结: 一、什么是跳表? 为一个值有序的链表建立多级索引,比如每2个节点提取一个节点到上一级,我们把抽出来的那一级叫做索引或索引层。

26、如下图所示,其中down表示down指 针,指向下一级节点。以此类推,对于节点数为n的链表,大约可以建立log2n-1级索引。像这种为链表建立多级索引的数据结构就称为跳表。 17|跳表:为什么Redis一定要用跳表来实现有序集合? file:/F/temp/geektime/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.html2019/1/15 15:35:39 二、跳表的时间复杂度? 1.计算跳表的高度 如果链表有n个节点,每2个节点抽取抽出一个节点作为上一级索引的节点,那第1级索引的节点个数大约是n/2,第2级索引的节点个数大约是n/4,依次类推 ,第k级索

27、引的节点个数就是n/(2k)。假设索引有h级别,最高级的索引有2个节点,则有n/(2h)=2,得出h=log2n-1,包含原始链表这一层,整个跳表的高度 就是log2n。 2.计算跳表的时间复杂度 假设我们在跳表中查询某个数据的时候,如果每一层都遍历m个节点,那在跳表中查询一个数据的时间复杂度就是O(m*logn)。那这个m是多少呢?如下图所 示,假设我们要查找的数据是x,在第k级索引中,我们遍历到y节点之后,发现x大于y,小于后面的节点z,所以我们通过y的down指针,从第k级下降到第k- 1级索引。在第k-1级索引中,y和z之间只有3个节点(包含y和z),所以,我们在k-1级索引中最多只需

28、要遍历3个节点,以此类推,每一级索引都最多只需要 遍历3个节点。所以m=3。因此在跳表中查询某个数据的时间复杂度就是O(logn)。 三、跳表的空间复杂度及如何优化? 1.计算索引的节点总数 如果链表有n个节点,每2个节点抽取抽出一个节点作为上一级索引的节点,那每一级索引的节点数分别为:n/2,n/4,n/8,8,4,2,等比数列求和n-1 ,所以跳表的空间复杂度为O(n)。 2.如何优化时间复杂度 如果链表有n个节点,每3或5个节点抽取抽出一个节点作为上一级索引的节点,那每一级索引的节点数分别为(以3为例):n/3,n/9,n/27,27,9,3, 1,等比数列求和n/2,所以跳表的空间复杂

29、度为O(n),和每2个节点抽取一次相比,时间复杂度要低不少呢。 四、高效的动态插入和删除? 跳表本质上就是链表,所以仅插作,插入和删除操时间复杂度就为O(1),但在实际情况中,要插入或删除某个节点,需要先查找到指定位置,而这个查找操 作比较费时,但在跳表中这个查找操作的时间复杂度是O(logn),所以,跳表的插入和删除操作的是时间复杂度也是O(logn)。 五、跳表索引动态更新? 当往跳表中插入数据的时候,可以选择同时将这个数据插入到部分索引层中,那么如何选择这个索引层呢?可以通过随机函数来决定将这个节点插入到哪几 级索引中,比如随机函数生成了值K,那就可以把这个节点添加到第1级到第K级索引中

30、。 9赞 小情绪 2018-11-29 12:24:22 王老师:跳表的思想讲的非常好,但是我总觉得应该把跳表的具体实现讲一下吧,毕竟来这里的大部分算法能力不是很强,而跳表的实现还是有一定难度的 。 6赞 张先生 2018-11-26 07:35:54 为什么评论区的都这么优秀,为什么我这么菜,我该怎么办 5赞 許敲敲 2018-10-29 00:39:29 我是机械行业打算换行的,不知道应该怎么把这些知识掌握的扎实一点,今天课里面的红黑树不了解. 4赞 作者回复2018-10-29 11:23:00 17|跳表:为什么Redis一定要用跳表来实现有序集合? file:/F/temp/geek

31、time/数据结构与算法之美/17跳表:为什么Redis一定要用跳表来实现有序集合?.html2019/1/15 15:35:39 后面会讲 不急 kakasi 2018-11-12 07:11:20 感觉github上的实现好难理解,希望老师有时间能解释下。 我有一个思路:定义两个数据结构,一个是普通的单链表Node,一个索引类Index。索引类中两个域:单链表节点Node, 下一个Index引用。用Index数组表 示1 - level索引层。 这样数据结构里就不会出现数组了,不知这样的思路是否正确。 3赞 作者回复2018-11-13 02:01:39 你的方法也可以 我的实现思路比较有技巧 是不容易看懂 建议不要纠结实现了 Smallfly 2018-10-29 15:07:32 老师想问下文章中出现的等比数列求和怎么算的,因为整数除法是取整的,所以公式好像不好使,用数据代入老师的公式又是正确的,希望能指点一下 。 3赞 作者回复2018-10-31 01:54:25 整数除法是取取整的是什么意思啊

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 建筑/环境 > 建筑资料


经营许可证编号:宁ICP备18001539号-1