基于RDMA的键值存储系统性能优化

发布时间：2020-11-01 12:51

　　 随着电子商务、社交网络以及移动互联网的蓬勃发展,互联网用户群体正伴随着这种高速发展的浪潮逐渐壮大,与此同时海量的数据正不断地产生、汇集。这些巨量的数据对传统的关系型数据库带来了重大挑战,而键值存储系统作为一种非关系型数据存储系统,拥有着更好的性能和可扩展性。然而面对动态数据的不断增加和集群规模的不断扩大,网络的性能开销成为了基于内存的键值存储系统的性能瓶颈。由于高性能网络的发展,数据中心逐渐引入了高速网络中的RDMA(Remote Direct Memory Access)技术。RDMA有着高带宽、低延迟、轻CPU负荷的特点,对应用起到了性能保障,为键值存储系统设计提供了新的思路。以目前的技术,虽然可以在不改写应用的情况下,直接利用IPoIB(Internet Protocol over InfiniBand)的方式使用RDMA网络,但是这种方式并没有最大化RDMA的性能。为了获取RDMA高速网络传输服务,键值系统需要在应用层面使用RDMA的单边元语,并负责管理网络传输。针对以上问题,本文结合高性能网络中的RDMA技术,设计并实现了高性能、低CPU负载的键值存储系统Chequer。主要的工作包括以下几个方面:(1)首先结合RDMA元语的特性,重新设计了键值系统的操作流程:get操作为了降低服务器端负载,使用了 RDMA的read元语,真正做到服务器的CPU旁路;put操作为了减少数据的拷贝操作,兼顾性能和工作负载,提供了两种传输模式。设计了带有自校验功能的数据结构,来解决客户端与服务器端的读写竞争问题。(2)其次设计了基于线性探测的共享hash表,来解决客户端缓存失效的问题以及提高hash命中率减少客户端的读取轮数,进一步提高了系统的性能。(3)最后Chequer系统实现的时候,针对网络模块、内存管理以及客户端传输模式选择这三个方面进行了进一步的优化。RDMA网络传输模块使用队列复用的方式解决了网络连接的可扩展性问题,并基于事件驱动的模式处理消息,达到了高吞吐量和低时延的效果。针对服务器可能成为性能瓶颈的问题,设计并实现了基于Buddy内存管理算法的缓冲区内存池,以快速响应服务器端的申请和释放内存块的请求。结合服务器端的负载以及相关硬件性能,以自适应调节参数的方式,为客户端的put操作选择合适的传输模式。通过实验测试与分析对比,Chequer系统有着较大性能的提升。
【学位单位】：南京大学
【学位级别】：硕士
【学位年份】：2019
【中图分类】：F49;TP311.13
【部分图文】：

数据的平台。Ｊｉａｎ?Ｈｕａｎｇ等人指出了通信开销在系统整体运行延迟方面的重要作??用，详细分析并揭示了?ｊａｖａ网络套接字导致的网络传输开销，最后设计了一个??混合的通信机制。如图１－１所示，这个机制将传统的套接字传输和高性能??２??

数据包大小（Ｂｙｔｅｓ）??图１－３往返时延性能对比??如图１－３为时延性能的对比，展示了不同通信模式下的往返时延。对于小数??据的传输操作，ｒｅａｄ元语的时延最低为２．３｜ａｓ，ｓｅｎｄ／ｒｅｃｅｉｖｅ元语的时延３．９｜ａｓ左??右，而以太网的时延达到了?３５｜ｉｓ以上。可以看出传统以太网上的传输时延很大，??所以系统设计的时候会尽力减少完成操作所必需的通信消耗。现有的键值存储系??统处理ｇｅｔ操作或者ｐｕｔ操作，仅使用一轮往返，而ＲＤＭＡ环境下，由于网络的??低时延、ｒｅａｄ元语不需要经过服务器端的ＣＰＵ等特性，完全Ｈｆ以实现多轮往返。??＃?１’乂?义〈ＭｌＧｂｐｓ?？?ｓｅｎｄ／ｒｅｃｅｉｖｅ?？＇?ｒｅａｄ／ｗｒｉｔｅ??１００００００??＾１０００００?『??？?ｌｏｏｏｏ?ｒ??１０００?ｒ?？?？?？??Ｉ…??Ｓ?１０?：?＾??ｊ?Ｉ?Ｉ?Ｉ?Ｉ?Ｉ?Ｉ?Ｉ?Ｉ?Ｉ?Ｉ?Ｉ?Ｉ?Ｉ??１?１０?１００?１０００?１００００?１０００００??数ＩＫｌｌｉ?人小（Ｂｙｔｅｓ）??图１４不同通信模式卜Ｍ络的乔吐量??

图１４不同通信模式卜Ｍ络的乔吐量??
【相似文献】

相关期刊论文 前10条

1 徐逸文;方钰;陈闳中;;一种处理B~+树重复键值的方法[J];计算机工程;2009年05期

2 杨小小;;在重启中被替换的键值[J];办公自动化;2007年01期

3 杨小小;;在重启中被替换的键值[J];电脑知识与技术(经验技巧);2007年01期

4 杨小小;;重启中被替换的键值[J];办公自动化;2007年08期

5 卢侨生;;一个键值让文件在重启过程中替换[J];电脑爱好者;2006年21期

6 史军绒;Windows2000注册表键值类型的探索[J];现代情报;2005年06期

7 王禄;;多键值字符串键树的原理及实现[J];电脑知识与技术(学术交流);2007年02期

8 刘晓;;大数据环境下分布式键值系统的架构研究[J];中国金融电脑;2015年06期

9 孙洪秋;删除相关键值巧装超级解霸[J];电脑爱好者;2001年24期

10 蒋天发;蒋巍;王维虎;熊祥光;;基于转换键值的非对称数字水印算法[J];信息安全与技术;2010年08期

相关博士学位论文 前4条

1 徐辰;键值存储系统中的质量感知调度[D];华东师范大学;2014年

2 张凯;基于多核/众核体系结构构建高性能网络系统的研究[D];中国科学技术大学;2016年

3 黄玉龙;基于GPU的查询技术并行化研究[D];华南理工大学;2013年

4 赵楠楠;分布式键值存储系统高效能数据布局技术研究[D];华中科技大学;2016年

相关硕士学位论文 前10条

1 王成;基于RDMA的键值存储系统性能优化[D];南京大学;2019年

2 张月明;基于LSM-tree键值系统读性能优化[D];中国科学技术大学;2018年

3 匡雯;在等概率和不等概率条件下多级索引模型的键值选择策略研究[D];江苏大学;2018年

4 桂清鑫;一种轻量级键值存储系统的研究与实现[D];华中科技大学;2018年

5 高阳;基于Open-Channel SSD特性的LSM-tree键值存储研究[D];华中科技大学;2018年

6 赵鑫;键值数据库在云计算中的应用与实现[D];电子科技大学;2015年

7 吴玉;面向OLAP的分布式键值存储引擎[D];电子科技大学;2016年

8 陈陆;分布式键值存储引擎的研究与实现[D];江苏科技大学;2017年

9 罗青;面向多源键值数据库的矢量地理数据引擎关键技术研究[D];南京师范大学;2014年

10 周星璇;可自定精度的键值数据扫描算法的研究[D];华中科技大学;2015年

本文编号：2865556