【摘 要】
:
分布式文件系统为大文件存取提供了高效的解决方案,随着移动互联网和大数据的高速发展,分布式文件系统在用于海量小文件存取时出现了低吞吐、高时延等问题。为了提高小文件存取性能,设计新的方法应用于分布式文件系统具有重要意义。本文以小文件批量存取具有属性关联的特征出发,对小文件存取过程及负载均衡算法进行了研究,提出了面向小文件存取的MAB(Merge-Asynchronous-Batch)方法和基于剩余性能
论文部分内容阅读
分布式文件系统为大文件存取提供了高效的解决方案,随着移动互联网和大数据的高速发展,分布式文件系统在用于海量小文件存取时出现了低吞吐、高时延等问题。为了提高小文件存取性能,设计新的方法应用于分布式文件系统具有重要意义。本文以小文件批量存取具有属性关联的特征出发,对小文件存取过程及负载均衡算法进行了研究,提出了面向小文件存取的MAB(Merge-Asynchronous-Batch)方法和基于剩余性能的动态负载均衡算法应用于FastDFS,并进一步设计并实现了面向小文件的文件管理系统。具体工作如下:(1)针对小文件分散存储产生的随机IO及元数据存取产生的额外磁盘开销的问题,本文在FastDFS提供的小文件合并功能基础上提出MAB方法,包括Merge同属性小文件合并,Asynchronous-Writing异步写模块,Batch-Operation文件批处理三个步骤。应用MAB方法后的FastDFS有很好的性能表现,小文件读和写性能分别比原来平均提升了4.8和4.2倍,比SCP远程文件传输命令平均提升了3.7倍和3.4倍。(2)针对静态负载均衡算法在分配IO请求过程中出现的节点负载不均以及存储空间分配不均问题,本文提出基于剩余性能的动态负载均衡算法,并应用于FastDFS的Storage选取和Group选取两个阶段,该算法考虑了影响节点处理IO请求能力的多重因素,并将剩余存储空间纳入考量。在最优情况下,该算法在响应时间上比轮询算法降低了29%,比加权轮询算法降低了17%,且不同Group间存储空间的分配更为合理。最后,本文基于FastDFS及上述改进方案,设计了一个用于小文件存储的文件管理系统,该系统通过My Sql管理目录和文件元数据,通过FastDFS存储小文件。本文从软件工程的角度介绍了需求分析、总体设计及主要模块设计,对系统部署进行了阐述,对系统原型进行了展示。本文通过Open Data的车牌图像数据集对系统进行文件存取性能测试,在同等硬件条件下,本系统能够支持更高的并发度,拥有更低的响应时延。
其他文献
静脉输液作为一种重要的给药治疗途径,目前依然以人工监护为主,而该监护方式存在护理负担大、安全性低和管理效率低等问题,特别是新冠疫情爆发期间,该问题显得尤为突出。针对这一问题,本文设计了一种基于“互联网+”的医用智能辅助输液系统,旨在减轻监护者的护理负担、提高输液治疗的安全性和管理效率。首先,对“互联网+”智能输液及输液监测方法的研究现状进行了调研分析,总结出亟需解决的问题,确定了系统设计目标和总体
水声传感网是探索水下世界的有效工具,在资源勘探、灾害预警、水下导航等应用场景中发挥着重要作用。目前,数据采集是水声传感网的主要工作,网络中的传感器节点致力于将水下的数据汇聚于水面的浮标节点,在这过程中,水下节点由于只能由电池供电,工作寿命十分有限。在复杂多变的水下环境中如何实现高效节能的数据传输方法是当下的研究热点。媒体接入控制(Medium Access Control,MAC)协议是水声传感网
目的 分析保妇康栓联合心理干预治疗宫颈炎合并人乳头瘤病毒(human papilloma virus,HPV)感染的有效性及对患者负面情绪的影响。方法 入组研究对象是2019年4月~2021年4月本院120例宫颈炎合并HPV感染患者,分组依照随机法(每组60例),对比组接受保妇康治疗,病例组接受保妇康栓联合心理干预治疗;对比两组临床疗效,以及不同年龄段、不同病情阶段、不同居住地、不同文化程度患者汉
波浪在近海岸结构物上的爬高是近海监测中一个非常重要的参数,是海堤的修建以及海岸侵蚀预测等相关研究领域的重要参考依据。波浪爬高的传统研究形式以物理实验为主,其会耗费大量的时间、人力与物力。随着无人机系统以及计算机技术的发展,对现场测量与计算机数值模拟带来了极大的便利,这也成为了现在的研究热点。综上所述,本文基于机载LIDAR系统并联合计算机数值模拟来研究波浪爬高具有重大的意义。本文分别从图像的边缘检
作为火麻籽榨取火麻油之后的副产物,火麻籽粕具有成本低廉、蛋白质含量高和氨基酸组成丰富的特点,有作为人类蛋白质营养补充剂和功能食品原料的潜在价值。本文研究了火麻籽粕蛋白的提取工艺、功能特性和消化特性,优化了酶法制备具备α-葡萄糖苷酶抑制活性酶解产物的工艺,并阐明了酶解产物的理化性质、抗氧化活性、抑制机理及加工和消化稳定性。对酶解产物中的活性肽进行分离纯化、鉴定、虚拟筛选和合成验证。考察了酶解产物对C
5G毫米波的频段(24.5-29.5GHz)频率高、绝对宽带宽,具有大容量、高速率、低时延的优势,因此受到广泛的关注和研究。随着5G毫米波通信的发展,移动通信设备往高度集成方向发展,对天线的尺寸提出了更高的要求,封装天线顺应潮流成为目前毫米波无线系统的主流解决方案。由于5G终端(如手机)特殊的应用场景,对毫米波天线有高增益、低剖面、高效率、宽带(覆盖5G毫米波频段)等特殊要求,因此针对这些要求开展
在无线通信系统中,射频收发模块起着重要作用,锁相环作为射频收发模块的重要组成部分,为射频收发模块提供本振信号,它的相位噪声对通信质量至关重要。鉴频鉴相器(Phase-Frequency Detector,PFD)、电荷泵(Charge Pump,CP)和压控振荡器(Voltage-Controlled Oscillator,VCO)是锁相环的主要组成部分,对它的锁定时间,相位噪声,频率调谐范围等起
自然采光是教室物理性能的重要评价指标,对于保护学生视觉健康和提升学习效率有着重要的意义。相比于人工光源,良好的自然采光设计可以提高室内空间的视觉舒适度,从而有效提升使用者的学习和工作积极性。教室是大学生上课和自习的主要场所,其自然采光设计至关重要。然而在方案阶段建筑师往往仅能依据窗地比指标和自身经验来初步决定采光设计,容易导致实际值与预期值间存在较大误差。随着人们对教室采光品质的要求逐步提高,过往
随着后疫情时代的到来,在线会议应用成为人与人沟通必不可少的工具,然而开会人员所处环境的噪声会严重影响会议质量。因此,对会议应用中的输入语音进行实时去噪具有重要的研究意义和应用价值。目前已有的语音去噪算法主要存在以下问题:复杂的语音去噪模型不能对语音进行实时去噪,而基于卷积神经网络的实时去噪模型受限于感受野的大小,无法充分利用语音序列数据的全局信息;其次,一般的语音去噪模型局限于对环境噪声的消除,不
众所周知,冷榨花生油制油过程始终保持低温加工,能够很好地将花生中的脂溶性营养伴随物保留在花生油中,并且其中的多不饱和脂肪酸不容易发生高温氧化,但是冷榨制油全程低温不足以发生美拉德反应,以至于冷榨花生油的风味不够浓郁。因此,探索一种既能有效地保留花生本身的脂溶性营养伴随物、又不会促使其中多不饱和脂肪酸发生高温氧化,产生伴生化学危害物,还能确保花生油具有浓郁风味和高品质的加工方法势在必行。低共熔溶剂可