基于蒙特卡罗方法的增量式并行PageRank算法的研究

来源 :南开大学 | 被引量 : 0次 | 上传用户:why_2213
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网和社交网络的发展,PageRank的地位日益凸显。网络规模的不断增大,同时网络变化带来的时效性要求,也使PageRank计算对计算资源的要求不断提高。为降低上述问题对计算资源的消耗水平,降低计算成本,本文提出了一种基于增量计算思想的并行PageRank算法:IncPR。IncPR基于蒙特卡罗方法,通过重用已有的结果,根据图的变化情况增量式地计算以得到正确的结果。相较于已有的PageRank算法,IncPR在保证结果精度的前提下,能有效地避免反复计算中的重复计算,从而显著降低计算量。IncPR的时间复杂度低且在计算过程中不引入额外的存储开销。  本文对IncPR的正确性进行了证明,在同等条件下IncPR计算得到的结果与基于蒙特卡罗方法的PageRank算法(BasicPR)计算得到的结果具有相同量级的精度水平。此外,理论分析得出当增加m个点和n条边时,IncPR的时间复杂度为O((cm+n)R/c2)(其中参数c和R分别代表蒙特卡罗方法的停止概率和启动次数)。通过分析比较发现,IncPR的时间复杂度优于已有的其它相关增量算法。  本文在基于BSP计算模型的Hama集群上的实验,验证了理论分析的结论。实验使用了来自于不同应用背景的真实数据集,以结果的相对误差的累积大小和算法发送消息的总量作为算法正确性和计算量的评价标准,针对不同的数据集的变化情况、变化规模、反复计算次数、初始结果精度等多种场景,对IncPR和BasicPR进行了实验。实验数据显示,当增加0.01%的边时,IncPR的计算量不足BasicPR的0.09%;当增加10%的边时,IncPR的计算量不足BasicPR的21%。通过相关实验可以得出结论,在得到与BasicPR同等(甚至更高)结果精度的情况下,IncPR显著地降低了计算量,且IncPR的计算量与增加的节点和边的规模大致呈线性关系。  综上,针对在大规模频繁变化的数据集上的计算PageRank的问题,本文提出的IncPR能够在不影响精度的情况下,有效地降低计算量,缩短计算时间。IncPR的计算方法还可以扩展到个性化PageRank、单元最短路径等其它基于随机游走的问题的增量算法的设计上。
其他文献
心电图在医学和模式识别领域有着很重要的作用,使用计算机对心电信号进行自动诊断对于医学等领域有着很重要的意义。论文提出了一种以心电信号形态特征为基础,基于信号分段,
随着Web服务不断的推广,网络中出现大量功能相同或者相似的Web服务。由于用户地域和网络环境的不同,相同Web服务QoS相对于不同的用户可能会差异很大,因此在众多功能相同的Web
随着人们生活水平的不断提高和信息领域的迅速发展,生物特征领域得到人们越来越多的关注和研究。一方面,生物特征比如人脸由于其普遍性,在娱乐方面的应用得到了广泛关注。儿童照
在计算机图形学中雨景的真实感绘制是一项重要的研究课题。雨的模拟可以大大增加场景的真实感,应用领域非常广泛,包括电影、动画、游戏和虚拟现实等领域。然而雨的真实感绘制是
在机器学习领域,特征选择已成为不可或缺的降维方法,尤其是基因数据,特征的维度从几十维到几万维。维度过高不仅会使模型的泛化能力降低,而且对分类时间复杂度有很大的影响。特征
在线事务处理应用面临着并发量和数据量持续增长的挑战,传统的应用服务器集群技术和分布式缓存技术并不能从根本上缓解高并发读写操作对于后台数据库的压力,管理分布式缓存的存
人格代表了一套源自于个体的、稳定的行为模式及内部加工过程,能对人进行有效的人际区分,在心理学研究中有着重要的意义。最常用的人格测量方法是人工填写量表,但由于这一形式耗
软件成本估算是软件项目计划中至关重要的一个环节。经由估算得出的信息,是指导人力资源的分配,进度节点的设定等计划活动所必需的。过高和过低的估算结果都会对项目计划的执行
In recent years,the new technological and data science achievements allowed the rapid growth of large-scale data.A typical example is the smart grid streaming da
报表系统在各行各业中都有很广泛的应用,使数据能够以特定的样式展现,并进行格式转化等处理。尤其是在信息管理,交通,银行,物流等行业的系统中,按照一定的需求生成不同数据,