基于Bloom Filters流抽样算法的研究

来源 :曲阜师范大学 | 被引量 : 0次 | 上传用户:moneymoneyoh
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网规模的不断扩大及其应用的多元化发展,对网络性能监控和运行管理的要求越来越高。因此研究网络流量特征,对网络管理、规划和发展都有重要意义。其中,流量测量是网络测量中一个重要的研究方向,针对网络流量特征、统计信息、异常事件等现象进行的测量和研究,对网络问题的解决、协议的调试、性能评估等方面均有极大的帮助。本文首先从网络流量测量的背景及研究现状着手分析,阐述了流量测量的意义和面临的困难。接着详细介绍了流量测量方法及网络流量的构成,重点阐述了流量抽样方法,并对分组抽样和流抽样进行了详细论述。随后讨论了互联网IP流及大流的定义,剖析了Bloom Filter的结构并分析了其工作原理,对基于Bloom Filters大流抽样的几种方法进行了总结和比较。基于对当前流量测量面临困难的讨论和上述流量测量理论的分析,本文根据Parallel filter和Serial filter的多级判断、层层过滤的优点,设计两级过滤结构来捕获互联网中的大流;根据Parallel filter的四级并行置位难度大以及Serial filter逐级置位效率低,设计基于判别而非置位的过滤方法。从减少置位次数方面着手,降低了传统Bloom Filters大流抽样方式带来的高误正率,而且使用更少的SRAM资源实现了对大流的抽样。本文从结构框架和抽样算法的角度进行探讨,主要在以下三个方面做出了有益的尝试:第一,提出基于两级过滤的大流抽样框架:第一级使用一个Bloom Filter实现对互联网流的初始过滤,从大量的互联网流中抽取接近大流的流;第二级使用一组Bloom Filters实现对接近大流的流的过滤,从中抽取所需的大流。从高速互联网流中逐级过滤出需要抽取的流量信息。第二,设计对应的BF2算法,从减少置位次数方面着手,减少误正情况的发生。对于新到的分组先进行第二级过滤器的判别,再进行第一级过滤器的置位,从根本上减少了第二级过滤器的置位次数,降低了大流的误正率。另外,对算法产生的误正情况进行分析,BF2算法可以在较少的时间复杂度和空间复杂度下,实现互联网中大流的识别并抽样,提高了执行效率。第三,提出定时刷新的方式来减少因长时间置位引发的高误正率,对每级过滤器设置刷新时隙,通过设置阈值和时间间隔在刷新前进行预刷新,尽量减少因定时刷新带来的误正情况。文章最后用仿真实验对互联网流进行模拟,验证BF2算法的正确性和高效性,并将BF2算法与传统的几种方法进行比较,实验结果表明,BF2算法比Parallel filter和Serial filter具有较低的误正率。
其他文献
随着互联网的快速发展,网络上的信息呈爆炸式增长,其中主观性文本占有的比例大大增加。如何从这些主观性文本中分析挖掘出作者的观点是一个迫切需要解决的问题。情感分类就是
随着计算机软件应用领域的扩大,越来越多的系统成为了遗留系统。如何更好地利用遗留系统来开发新的系统,正在成为当前软件工程研究的一个重要方向。软件再工程正是在这种情况下
学位
文化遗址是研究古代历史、艺术和科学技术发展的极其重要的实物资料。一方面,这些年代久远的历史文化遗产随着时间的流逝正经受着相当程度的损害,亟需数字化保护。另一方面,要在
随着信息技术的迅速发展以及互联网的广泛深入,信息系统在人类社会中扮演着越来越重要的角色,而处于信息系统最底层的操作系统,是计算机资源的直接管理者,其安全问题是信息系
近年来,我国煤矿安全生产形势趋于好转,但安全事故时有发生,其中瓦斯事故是当前煤矿生产的主要灾害之一,已成为制约煤矿安全生产的重要因素,如何有效的监控煤矿井下瓦斯环境
独立分量分析(ICA)是一种非常有效的盲信号处理技术,其基本原理是通过分析多维观测数据间的高阶统计相关性,找出相互独立的隐含信息成分,完成分量间高阶冗余的去除及独立信源
随着Internet技术的迅速发展,网络不仅是人们获取信息的重要来源,也逐渐成为人们表达个人观点和分享自身体验的最佳平台,“阅读式的网络”逐步转变成“交互式的网络”。网络
目前我国的各个大学大都建立了校园网系统,但基本集中在web网站和BBS等应用上,而对于更深入的智能应用却比较少,像通过校园网实现在线无纸化办公、教学资源的共享、在线测评
随着信息技术的高速发展和互联网的迅速普及,使得数据挖掘的使用越来越广泛。频繁模式挖掘就是数据挖掘领域中的一个重要分支,它主要是从序列文本中发现出现频繁的模式,它在
随着社会的发展,公交车成为大众出行的首选交通工具,特别是我国2008年北京奥运会、2010年上海世博会和广州亚运会等大型国际活动,公交系统便成为重要的研究问题。嵌入式智能