LevelDB性能分析和表现

Leveldb是一个google实现的非常高效的kv数据库，目前的版本1.2能够支持billion级别的数据量了。 在这个数量级别下还有着非常高的性能，主要归功于它的良好的设计。特别是LSM算法。

那么数据库最怕的的随机IO他是如何解决的呢?

先说随机写，它的写都是先记录到日志文件去的，在日志文件满之前只是简单的更新memtable,那么就把随机写转化成了顺序写。在日志满了后，把日志里面的数据排序写成sst表同时和之前的sst进行合并，这个动作也是顺序读和写。大家都知道传统磁盘raid的顺序读写吞吐量是很大的，100M左右是没有问题。在写日志文件的时候，用到是buffer IO，也就是说如果操作系统有足够的内存，这个读写全部由操作系统缓冲，效果非常好。即使是sync写模式，也是以数据累计到4K为一个单位写的，所以效率高。

那么随机读呢?这个它解决不了。但是ssd盘最擅长随机读了。这个硬件很自然的解决了这个问题。

所以leveldb的绝配是ssd盘的raid.

leveldb标准版本编译见浅谈LevelDB在ubuntu 11.04下编译失败的问题，由于标准版本用到了c++ 0x的特性，在RHEL平台下没得到支持，所以为了移植性, basho为它做了标准c++版本的port, 见目录c_src/leveldb. 他之所以用c++ 0x标准主要是用到里面的原子库，basho的port用了libatomicops搞定这个问题.

我们的测试采用的就是这个版本, 我们分别测试了1000万， 1亿，10亿数据量下的leveldb表现，发现随着数据集的变化性能变化不大。

由于leveldb默认的sst文件是2M, 在数据集达到100G的时候要占用几万个文件，我修改了：

 
 
 
      
  
  
  1. version_set.cc：23 static const int kTargetFileSize = 32 * 1048576; 
    2.

让默认的文件变成32M,减少目录的压力。

我的测试环境是:

 
 
 
      
  
  
  1. $uname -r    
    2.   
  
  
  2. 2.6.18-164.el5 #RHEL 5U4    
    3.   
  
  
  3. # 10* SAS 300G raid卡，fusionIO 320G, Flashcache,内存96G,  24 * Intel(R) Xeon(R) CPU  
    4.

top说:

 
 
 
      
  
  
  1. 21782 root      18   0 1273m 1.1g 2012 R 85.3  1.2   1152:34 db_bench  
    2.

iostat说:

 
 
 
      
  
  
  1. $iostat -dx 5    
    2.   
  
  
  2. ...    
    3.   
  
  
  3. sdb1              0.40     0.00  3.40  0.00    30.40     0.00     8.94     0.02    4.65   4.65   1.58    
    4.   
  
  
  4. fioa              0.00     0.00 2074.80  3.80 16598.40    30.40     8.00     0.00    0.13   0.00   0.00    
    5.   
  
  
  5. dm-0              0.00     0.00 1600.00  0.00 16630.40     0.00    10.39     0.25    0.15   0.15  24.76    
    6.   
  
  
  6. ...  
    7.

该测试中请注意snappy压缩没有打开，如果有压缩性能还会高很多，因为IO少了一半。

write_buffer_size=$((256*1024*1024))，log大小设成256M，这样减少切换日志的开销和减少数据合并的频率。

同时应该注意到db_bench是单线程程序，还有一个compact线程，所以最多的时候这个程序只能跑到200%的cpu, IO util也不是很高. 换句话说如果是多线程程序的话性能还要N倍的提高。

我们来看下实际的性能数字：

 
 
 
      
  
  
  1. #1千万条记录    
    2.   
  
  
  2. $sudo ./db_bench --num=10000000 --write_buffer_size=$((256*1024*1024))    
    3.   
  
  
  3. LevelDB:    version 1.2    
    4.   
  
  
  4. Date:       Fri May 27 17:14:33 2011    
    5.   
  
  
  5. CPU:        24 * Intel(R) Xeon(R) CPU           X5670  @ 2.93GHz    
    6.   
  
  
  6. CPUCache:   12288 KB    
    7.   
  
  
  7. Keys:       16 bytes each    
    8.   
  
  
  8. Values:     100 bytes each (50 bytes after compression)    
    9.   
  
  
  9. Entries:    10000000    
    10.   
  
  
  10. RawSize:    1106.3 MB (estimated)    
    11.   
  
  
  11. FileSize:   629.4 MB (estimated)    
    12.   
  
  
  12. write_buffer_size=268435456    
    13.   
  
  
  13. WARNING: Snappy compression is not enabled    
    14.   
  
  
  14. ------------------------------------------------    
    15.   
  
  
  15. fillseq      :       2.134 micros/op;   51.8 MB/s    
    16.   
  
  
  16. fillsync     :      70.722 micros/op;    1.6 MB/s (100000 ops)    
    17.   
  
  
  17. fillrandom   :       5.229 micros/op;   21.2 MB/s    
    18.   
  
  
  18. overwrite    :       5.396 micros/op;   20.5 MB/s    
    19.   
  
  
  19. readrandom   :      65.729 micros/op;    
    20.   
  
  
  20. readrandom   :      43.086 micros/op;    
    21.   
  
  
  21. readseq      :       0.882 micros/op;  125.4 MB/s    
    22.   
  
  
  22. readreverse  :       1.200 micros/op;   92.2 MB/s    
    23.   
  
  
  23. compact      : 24599514.008 micros/op;    
    24.   
  
  
  24. readrandom   :      12.663 micros/op;    
    25.   
  
  
  25. readseq      :       0.372 micros/op;  297.4 MB/s    
    26.   
  
  
  26. readreverse  :       0.559 micros/op;  198.0 MB/s    
    27.   
  
  
  27. fill100K     :     349.894 micros/op;  272.6 MB/s (10000 ops)    
    28.   
  
  
  28. crc32c       :       4.759 micros/op;  820.8 MB/s (4K per op)    
    29.   
  
  
  29. snappycomp   :       3.099 micros/op; (snappy failure)    
    30.   
  
  
  30. snappyuncomp :       2.146 micros/op; (snappy failure)    
    31.   
  
  
  31.  
    32.   
  
  
  32. #1亿条记录    
    33.   
  
  
  33. $sudo ./db_bench --num=100000000 --write_buffer_size=$((256*1024*1024))    
    34.   
  
  
  34. LevelDB:    version 1.2    
    35.   
  
  
  35. Date:       Fri May 27 17:39:19 2011    
    36.   
  
  
  36. CPU:        24 * Intel(R) Xeon(R) CPU           X5670  @ 2.93GHz    
    37.   
  
  
  37. CPUCache:   12288 KB    
    38.   
  
  
  38. Keys:       16 bytes each    
    39.   
  
  
  39. Values:     100 bytes each (50 bytes after compression)    
    40.   
  
  
  40. Entries:    100000000    
    41.   
  
  
  41. RawSize:    11062.6 MB (estimated)    
    42.   
  
  
  42. FileSize:   6294.3 MB (estimated)    
    43.   
  
  
  43. write_buffer_size=268435456    
    44.   
  
  
  44. WARNING: Snappy compression is not enabled    
    45.   
  
  
  45. ------------------------------------------------    
    46.   
  
  
  46. fillseq      :       2.140 micros/op;   51.7 MB/s    
    47.   
  
  
  47. fillsync     :      70.592 micros/op;    1.6 MB/s (1000000 ops)    
    48.   
  
  
  48. fillrandom   :       6.033 micros/op;   18.3 MB/s    
    49.   
  
  
  49. overwrite    :       7.653 micros/op;   14.5 MB/s    
    50.   
  
  
  50. readrandom   :      44.833 micros/op;    
    51.   
  
  
  51. readrandom   :      43.963 micros/op;    
    52.   
  
  
  52. readseq      :       0.561 micros/op;  197.1 MB/s    
    53.   
  
  
  53. readreverse  :       0.809 micros/op;  136.8 MB/s    
    54.   
  
  
  54. compact      : 123458261.013 micros/op;    
    55.   
  
  
  55. readrandom   :      14.079 micros/op;    
    56.   
  
  
  56. readseq      :       0.378 micros/op;  292.5 MB/s    
    57.   
  
  
  57. readreverse  :       0.567 micros/op;  195.2 MB/s    
    58.   
  
  
  58. fill100K     :    1516.707 micros/op;   62.9 MB/s (100000 ops)    
    59.   
  
  
  59. crc32c       :       4.726 micros/op;  826.6 MB/s (4K per op)    
    60.   
  
  
  60. snappycomp   :       1.907 micros/op; (snappy failure)    
    61.   
  
  
  61. snappyuncomp :       0.954 micros/op; (snappy failure)    
    62.   
  
  
  62.  
    63.   
  
  
  63. #10亿条记录    
    64.   
  
  
  64. $sudo ./db_bench --num=1000000000 --write_buffer_size=$((256*1024*1024))    
    65.   
  
  
  65. Password:    
    66.   
  
  
  66. LevelDB:    version 1.2    
    67.   
  
  
  67. Date:       Sun May 29 17:04:14 2011    
    68.   
  
  
  68. CPU:        24 * Intel(R) Xeon(R) CPU           X5670  @ 2.93GHz    
    69.   
  
  
  69. CPUCache:   12288 KB    
    70.   
  
  
  70. Keys:       16 bytes each    
    71.   
  
  
  71. Values:     100 bytes each (50 bytes after compression)    
    72.   
  
  
  72. Entries:    1000000000    
    73.   
  
  
  73. RawSize:    110626.2 MB (estimated)    
    74.   
  
  
  74. FileSize:   62942.5 MB (estimated)    
    75.   
  
  
  75. write_buffer_size=268435456    
    76.   
  
  
  76. WARNING: Snappy compression is not enabled    
    77.   
  
  
  77. ------------------------------------------------    
    78.   
  
  
  78. fillseq      :       2.126 micros/op;   52.0 MB/s    
    79.   
  
  
  79. fillsync     :      63.644 micros/op;    1.7 MB/s (10000000 ops)    
    80.   
  
  
  80. fillrandom   :      10.267 micros/op;   10.8 MB/s    
    81.   
  
  
  81. overwrite    :      14.339 micros/op;    7.7 MB/s    
    82.   
  
  
  82. ...比较慢待补充  
    83.

总结: Leveldb是个很好的kv库，重点解决了随机IO性能不好的问题，多线程更新的性能非常好.

网站栏目：LevelDB性能分析和表现
本文来源：http://www.shufengxianlan.com/qtweb/news29/324229.html

网站建设、网络推广公司-创新互联，是专注品牌与效果的网站制作，网络营销seo公司；服务项目有等

广告

声明：本网站发布的内容（图片、视频和文字）以用户投稿、用户转载内容为主，如果涉及侵权请尽快告知，我们将会在第一时间删除。文章观点不代表本网站立场，如需处理请联系客服。电话：028-86922220；邮箱：631063699@qq.com。内容未经允许不得转载，或转载时需注明来源： 创新互联

猜你还喜欢下面的内容

全网营销推广知识

同城分类信息

崇州搬家公司　　 　网络推广公司　　 　微信小程序开发　　 　成都微信小程序开发　　 　成都圣月服饰　　 　都江堰网站建设　　 　成都网站建设公司　　 　定制网站建设　　 　成都网站建设　　 　成都广告招牌　　 　微信公众号开发　　 　h5页面制作　　 　营销型网站　　 　成都logo设计标志　　 　成都定制网站　　 　网站建设　　 　界面设计　　 　温江电信机房　　 　绵阳梓潼做网站　　 　广告媒介投放