集群文件系统小粒度文件I/O请求性能优化技术研究

来源 :中国科学院研究生院 中国科学院大学 | 被引量 : 0次 | 上传用户:lurnay
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,伴随着各种应用日新月异的发展,人们对集群文件系统提出了更全面更多样化的需求。文件的小粒度I/O请求的性能对于集群文件系统的整体性能有着越来越重要的影响,应用迫切需要集群文件系统为小粒度的文件I/O请求提供低延迟,高吞吐的服务。本文分析了影响小粒度I/O性能的重要因素,并结合目前国内外相关研究工作,为pNFS标准协议下的蓝鲸集群文件系统设计实现了一套可移植、自适应的优化机制。最后通过性能评测证明该优化机制实现的有效性。本文的主要研究成果如下:   设计并实现了基于静态阈值策略的带内外混合机制本文在基于BWFS文件系统的,单层元数据服务架构的pNFS文件系统基础之上,设计与实现了一套用于优化小粒:度I/O性能的基于静态阈值策略的带内外混合机制。该机制通过事先设置的I/O阈值分离客户端大粒度I/O和小粒度I/O的访问路径,使得小粒度I/O能通过带内访问的方式得到处理,避免了其通过带外访问时额外的性能开销,从而大幅的优化了小粒度I/O的性能。   研究与实现了基于动态阈值策略的带内外混合机制本文在基于静态阈值策略的系统基础上,研究并设计实现了一套基于动态阈值策略的带内外混合机制。解决了静态阈值策略在实际应用中缺乏灵活性和准确性的问题,使得系统的I/O阈值能根据系统的I/O负载自适应的变化,从而能最大限度的提升小粒度I/O的性能。   提出了高效的缓存一致性的解决方案在引入带内外混合机制优化小粒度I/O的同时,也由此引入了缓存中数据的多份副本而产生了数据一致性的问题。本文在带内外混合机制的基础上,设计并实现了一套高效简洁的缓存一致性解决方案,从而能够在不影响系统性能的前提下,正确的解决数据的一致性问题。   最后,我们使用了标准测试工具Fio、Postmark和生物基因计算应用ICT-BLAST程序对比评测了这一套机制实现的有效性。在针对小文件的Postmark测试中,其相对于其他策略的系统,聚合吞吐率有12.1%到68.1%的性能提升;在针对大文件的Fio测试中,其相对于其他策略的系统,聚合吞吐率有14.8%到300%的性能提升;在实际应用中,其相对于其他策略的系统,执行时间有8.3%到93.9%的减少。从而证明了该系统实现能自适应于系统负载动态调整阈值,使得在不影响大粒度I/O性能的前提下,有效的优化小粒度I/O性能从而使I/O整体性能最大化,具有很好的可实用性。
其他文献
近年来,工作流管理系统已经得到广泛的应用。工作流管理系统的应用,需要有一个设计良好的工作流模型。通过模型可以分析流程的性质和效率,找到可能改进的途径。然而,工作流模型的
随着技术的发展和人们需求的不断提高,实时系统的复杂度在不断地增长,为实时系统的开发带来了巨大挑战。本文在异步扩展层次自动机(Asynchronous Extended Hierarchical Auto
相较于传统的基于口令或令牌的身份认证方式,以指纹为代表的生物特征以其唯一性、便捷性和可靠性,正在逐渐成为未来身份认证的主流手段。但是,近年来随着研究与应用的深入,人们发
随着移动通信技术的迅猛发展,在不同的网络接口在同一台设备上接入一个以上的通信网络成为现实,多条路径上同时传输数据(CMT)的服务能够充分利用网络资源,提高大带宽、时延抖动
稳态强磁场实验装置作为“十一五”国家重大科技基础设施项目,旨在为我国多学科前沿发展提供理想的稳态强磁场极端实验条件。中央控制系统是稳态强磁场实验装置的关键系统,是
硅后时延通路,即时速路径,是制约实际电路最高工作频率的关键路径。而针对时速路径特点及其故障分析、测试等方面的研究,对高性能集成电路的设计和制造均具有重要意义。目前工程
语义Web是当前Web的本质变革,旨在通过本体精确定义Web信息共享词汇的语义,建立数据层面的链接(a Web of data),更好地支持信息共享与Web应用。描述逻辑在其中扮演着重要角色:它
随着VoIP(Voice over IP)逐渐普及,VoIP的安全性已经成为一个重要问题,其中垃圾语音(SPIT,Spam over Internet Telephony)很可能成为进行商品推销、市场调研、骚扰甚至诈骗的工
数据访问延时是影响系统性能的关键因素之一。在MapReduce环境中,由于输入数据远大于处理代码,不在数据节点执行的Map任务将会引起大量的远程数据访问延时;由于Map任务分布在成
随着嵌入式系统的发展,嵌入式SOC芯片以其高集成度和快速定制等特点在工业控制、消费电子等领域获得了迅速的发展。而显示系统作为SOC芯片的重要组成部分,由于其图像显示需要不