主页期刊介绍编委会编辑部服务介绍道德声明在线审稿编委办公编辑办公English
2018-2019年专刊出版计划 微信服务介绍 最新一期:2018年第8期
     
在线出版
各期目录
纸质出版
分辑系列
论文检索
论文排行
综述文章
专刊文章
美文分享
各期封面
E-mail Alerts
RSS
旧版入口
中国科学院软件研究所
  
投稿指南 问题解答 下载区 收费标准 在线投稿
孙耀,刘杰,叶丹,钟华.分布式文件系统元数据服务的负载均衡框架.软件学报,2016,27(12):3192-3207
分布式文件系统元数据服务的负载均衡框架
Load Balancing Framework for Metadata Service of Distributed File Systems
投稿时间:2014-11-14  修订日期:2015-08-31
DOI:10.13328/j.cnki.jos.004930
中文关键词:  元数据服务器  分布式文件系统  负载均衡  预取  缓存
英文关键词:metadata server  distributed file system  load balancing  caching  prefetching
基金项目:国家自然科学基金(61170074,61202065,U1435220);国家高技术研究发展计划(863)(2013AA041301);国家科技支撑计划(2015BAH18F02)
作者单位E-mail
孙耀 中国科学院 软件研究所, 北京 100190
中国科学院大学, 北京 100190 
sunyao10@otcaix.iscas.ac.cn 
刘杰 中国科学院 软件研究所, 北京 100190  
叶丹 中国科学院 软件研究所, 北京 100190  
钟华 中国科学院 软件研究所, 北京 100190  
摘要点击次数: 1035
全文下载次数: 1842
中文摘要:
      请求负载均衡,是分布式文件系统元数据管理需要面对的核心问题.以最大化元数据服务器集群吞吐量为目标,在已有元数据管理层之上设计实现了一种分布式缓存框架,专门管理热点元数据,均衡不断变化的负载.与已有的元数据负载均衡架构相比,这种两层的负载均衡架构灵活度更高,对负载的感知能力更强,并且避免了热点元数据重新分布、迁移引起的元数据命名空间结构被破坏的情况.经观察分析,元数据尺寸小、数量大,预取错误元数据带来的代价远远小于预取错误数据带来的代价.针对元数据的以上鲜明特点,提出一种元数据预取策略和基于预取机制的元数据缓存替换算法,加强了上述分布式缓存层的性能,这种两层的元数据负载均衡框架同时考虑了缓存一致性的问题.最后,在一个真实的分布式文件系统中验证了框架及方法的有效性.
英文摘要:
      Request load balancing is the core issue in distributed file system metadata management. To maximize the throughput of the metadata service, an adaptive request load balancing framework is critical. This paper presents a distributed cache framework above the distributed metadata management schemes to manage hotspots rather than managing all metadata to achieve request load balancing. Compared with the existing distributed metadata load balancing framework, it has a higher degree of flexibility of the two-tier load balancing structure, and is stronger on the perception of the overall load. It also avoids hot spots redistribution and namespace structure destruction caused by metadata migration. Compared with data, metadata has its own distinct characteristics, such as small size and large quantity. The cost of non-use metadata prefetching is much less than data prefetching. Based on this study, a time period-based prefetching strategy and a perfecting-based adaptive replacement cache algorithm are devised to improve the performance of the distributed caching layer to adapt constantly changing workloads. Finally, the presented approach is evaluated with a Hadoop distributed file system cluster.
HTML  下载PDF全文  查看/发表评论  下载PDF阅读器
 

京公网安备 11040202500064号

主办单位:中国科学院软件研究所 中国计算机学会
编辑部电话:+86-10-62562563 E-mail: jos@iscas.ac.cn
Copyright 中国科学院软件研究所《软件学报》版权所有 All Rights Reserved
本刊全文数据库版权所有,未经许可,不得转载,本刊保留追究法律责任的权利