并行文件系统的研究与应用

来源 :中国计算机用户协会并行处理分会2013-2014年度石油行业计算机新技术交流会 | 被引量 : 0次 | 上传用户:eduaskbj
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
本文通过利用开源软件,使用廉价的直联存储实现了存储文件系统的并行化,既节约了设备成本,又提高了I/O的存储性能,为大规模资料处理中心的存储使用提供了一种新的使用方法.通过对Gluster并行文件系统的研究与优化以及实际应用,基本上达到了目前国内同行业存储应有的性能,希望能够给大家在存储方面的应用提供一些借鉴.集群存储一般分为直联存储( DAS)、网络存储(NAS)和存储区域网络(SAN)存储3类。GlusterFS是Scale-Out存储解决方案Gluster的核心,它是一个开源的分布式文件系统,具有强大的横向扩展能力,通过扩展能够支持数PB存储容量和处理数千客户端。GlusterFS借助TCP/IP或InfiniBand RDMA网络将物理分布的存储资源聚集在一起,使用单一全局命名空间来管理数据。GlusterFS基于可堆叠的用户空间设计,可为各种不同的数据负载提供优异的性能。GlusterFS文件系统也是一种C/S(客户端/服务器)结构。因此,其安装同样需要分服务器和客户端两方面。目前,GeoEast应用主要是Infortrend直联存储(使用NFS方式)和云存存储(NAS+并行),所以主要把GlusterFS(主要也是使用Infortrend直联盘作存储池)与上述两种存储性能进行比较。GlusterFS并行文件系统底层还是依赖于目前的直联存储系统。因此,提高直联存储的性能,也就可以相对提高GlusterFS的性能,基于该特点,GlusterFS并行文件系统调优策略可以从底层文件系统、操作系统内核、机头组合、配置文件的优化4点考虑。通过对GlusterFS并行文件系统的研究,利用廉价的直联存储实现了存储的并行化,并在实际生产中得以应用与实践。一方面提高了直联存储的性能,基本上达到国内同行业存储的性能,探索出了直联存储并行化的应用模式;另一方面也可以节省大量的购买品牌并行存储的设备成本。当然,对于GulsterFS并行文件系统的研究还有待于进一步深入探讨,比如,安全性的问题和使用过程可能出现的各种问题等,都需要我们在今后的应用过程不断完善和改进,使得GlusterFS并行文件系统能够广泛地应用于资料处理过程。
其他文献
  在当前数字油田建设中,数据是十分宝贵的资源。数据质量的好坏,直接影响数字油田建设的成果和决策水平。本文从数据质量的概念入手,全面分析了数据质量的现状与原因,明确提出
  本文简要介绍了智能油田建设评估的必要性,基于智能油田的特性和效果,从智能油田的内在品质和外部影响两个方面构建了智能油田三级评估指标体系框架,并给出一级评估指标的定
本研究以荞麦属46个二倍体苦荞品系为材料,对其进行了染色体加倍试验,并对诱导出来的四倍体及其对应的二倍体苦荞在形态学、细胞遗传学、种子蛋白质含量、种子黄酮含量等方面进行了比较研究。所得主要结果如下:1.成功诱导出了12个四倍体苦荞品系,并对其进行了形态学和细胞学鉴定。结果显示,所有12个四倍体苦荞新材料都是同源四倍体,根尖细胞染色体数为32。2.形态学比较表明,四倍体和二倍体苦荞相比,千粒重显著变
  随着信息时代的快速发展,青海油田采油一厂坚持青海油田公司信息化建设"统一、集成、兼容、实用、高效"的十字方针,遵循集团公司"统一规划,统一标准、统一设计、统一投资、
  在数据存储领域有许多值得跟踪的技术,也有许多与数据存储技术相关的宣传,其中"软件定义存储"便是值得关注的存储技术之一,它利用软件将物理的存储资源转化成虚拟的存储资源
学位
  本文结合青海油田"数字化油田"建设,通过3个层次,即感知层、网络层、应用层对物联网在油田开发上的应用做一全新诠释。随着网络技术、微电子技术、"云"计算机群,以及超级计
会议
随着港口工程建设规模的不断扩大,波浪物理模型试验的水域面积也逐渐加大。由于试验条件、精度的限制,采用单一波浪整体物理模型试验往往不能完全解决实际问题,因此很有必要进行
  本文讨论了开源代码的分布式并行存储在地震资料海量数据的应用,论述了300km2和1000km2两个"两宽一高"数据体所对应的存储模式。
  高密度宽方位外业采集方式导致石油勘探外业采集数据体迅速膨胀,石油勘探迎来大数据时代。原始弹炮上万道的接收方式和上千次的覆盖次数使得地震数据体内部的关联性比以