基于贝叶斯网络的变分近似方法研究

来源 :浙江大学 | 被引量 : 0次 | 上传用户:bbsdog
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
贝叶斯网络是目前人工智能领域处理复杂不确定性问题的基本工具。其可视为带有概率注释的有向无环图,能够紧凑直观的表示复杂的联合概率分布,常被用来分析大量变量之间的相互关系。利用贝叶斯学习以及统计推断方法,贝叶斯网络能很好的实现预测、诊断、分类等任务,在计算机视觉、计算生物学、医疗诊断和自然语言处理等领域有着广泛的应用。而参数学习问题是贝叶斯网络模型实际应用中最基本的问题,故本文主要研究基于变分近似方法的贝叶斯网络参数学习问题。首先对几种常用的变分近似方法进行了介绍,然后对变分近似方法中使用最为广泛的变分贝叶斯算法提出了以下两点改进。
  首先,针对变分贝叶斯算法容易收敛到局部最优解问题。本文根据确定性退火原理,将最大化对数边缘概率函数下界问题转化为温度下降过程中极小化自由能函数问题。利用最优解随温度变化的连续性,提出了一种具有全局搜索性质的DAVB算法。随后结合最大熵原理,理论证明了算法具有全局搜索性质。并将该算法应用于贝叶斯网络中被广泛使用的高斯混合模型,通过仿真模拟实验,验证了DAVB算法能减小初始值的影响,更好的避开局部最优解。
  然后,针对变分贝叶斯算法应用困难,需要繁琐的人工推导问题。本文限定于贝叶斯网络中的共轭指数模型,利用指数族分布对数形式易处理、分布状态可以完全从自然参数项中获取等优良特性,结合有向图模型中信念传播的思想,将算法迭代看作每个节点局部接收消息的过程,提出了一个统一的无需繁琐期望计算的DAVB-MP算法框架。并且通过引入变分参数,将算法推广到混合分布模型中,提高算法适用性。
其他文献
中国在世纪之交时,随着乡村黑恶势力“东南西北中五霸天”被广泛报道,中国存在着乡村黑恶势力的现象由此进入公众视野,其具有的危害性、影响性、破坏性引起了党中央的高度重视。因此,在2006年,党中央高度重视、大力开展了关于“打黑除恶”的专项整治活动。以此为基础,2018年1月,中共中央、国务院联合印发了《关于开展扫黑除恶专项斗争的通知》,由此,将从前的“打黑除恶”行动升级为“扫黑除恶”行动。十九大报告提
从2013年习近平总书记在中纪委会议上提出要“老虎”“苍蝇”一起打,再到2017年十九大报告中再度提出加大整治人民群众身边腐败问题的力度,党始终把人民群众的利益放在首位,切实把治理群众身边的微腐败措施落到实处。党的根基在人民,血脉在人民,力量在人民,维护基层人民群众的利益是筑牢中国共产党执政根基的坚实基础。在全面从严治党的大背景下,中国反腐斗争逐步向基层延伸,越来越多的学者转向对基层微腐败的。与“
学位
2019年1月,国务院印发《国家职业教育改革实施方案》,明确提出要大力发展职业教育,同时鼓励社会力量参与职业院校的发展。在这种背景下,作为职业教育重要组成部分的民办职业院校,如何实现高质量的可持续发展,成了摆在各级政府面前的问题。广州市制定了一系列的政策来支持民办职业院校的发展,但在实际中仍然面临许多问题。  论文在详细研究国内外相关文献的基础上,通过对各级政府部门为推动民办职业院校发展而采取的相
邻避工程,伴随城市快速发展而产生,在邻避舆情影响下,公众依赖主观认知对工程产生风险抵触。当公众认为即将上马的邻避工程以后将会对周边环境存在较大污染,甚至危害他们的生命安全,就很容易引发邻避冲突。因此,社会舆情对邻避工程建设起到重要的作用,它甚至影响着工程能否真正落地。  番禺位于广州中南部,这里居住、工作、生活的人超过300万,每日产生生活垃圾约2500吨并按每年12%的速度在增加。面对“垃圾围城
学位
治本安全观的提出,无疑给目前监狱发展升级打了一针强心剂,本职要求在于提高服刑人员教育改造实效和监狱管理质量,从“压制矛盾”转向“消除矛盾”。治本安全观为监狱的转型升级指明了方向,为监狱人民警察提升职业认可度和自豪感注入精神动力,促使社会更好地理解并融入监狱管理工作,并对监狱今后工作提出了新目标任、新希望。  监狱作为法定专门的监管改造机关,新时代呼唤新的安全观。本文从治本安全观的内涵、意义、与底线
学位
该篇论文着重论证中国政府职能转变问题.通过对政府职能的现状与问题的分析,该文建议,为了加快中国政府职能转变,应首先明确界定政府职能.基于此,又进一步论述政府职能转变必须适应社会主义市场经济的发展和中国加入WTO的需要,根据"有所为,有所不为"的原则,该文论述了政府职能转变的基本方法和方向.通过对加速政府职能转变的研究,推动政府机构改革进程,进一步调整、完善行政管理体制,改进行政管理模式和提高行政管
学位
近年来,我国处于经济下行期,资产回报率低,市场股权分散,资本并购市场风起云涌,险资举牌的现象时有发生,其中以前海人寿与万科股权之争的案例最为典型。面对严峻的市场环境,保监会制定了一系列方针政策,严格的监管序幕也就此拉开。  本文以前海人寿与万科股权之争的案例为切入点,展开对我国保险资金运用与监管的研究,深入剖析了以前海人寿为代表的新兴保险公司利用险资盲目入市带来的问题。利用案例分析法和财务指标分析
学位
随着世界经济发展进程的逐步推进,社会运转秩序的不断完善,世界各国对宏观经济核算工作的要求也日益严格,不再仅仅满足于年度国民经济核算,能监控短期经济发展变化、预测经济拐点的季度GDP核算开始大放异彩。  季度GDP是某季度内一国或一个地区生产的所有最终货物与服务的市场价值,是遵循SNA核算框架基本逻辑和原则构建而成的季度时间序列系统,在基本概念、统计口径与指标结构方面与年度国民经济核算保持一致。作为
为了适应和引领经济新常态,更好地推进供给侧结构性改革,探索新型城镇化道路,我国开始大力发展特色小镇。特色小镇是新型城镇化发展的有效载体,而特色文化小镇是特色小镇发展的主要模式之一,也是建设特色小镇“产城人文”融合发展的代表,所以本研究以特色文化小镇为例。因本课题为重庆市研究课题,受重庆市资助,因此以重庆市的特色文化小镇为例进行研究。特色文化小镇产城人文融合是一个动态的、演化的复杂系统,涉及政府、企
在管理金融资产组合风险时需要先确定资产收益率之间的联合分布,由于金融资产的日益增多以及金融市场的变化多端,要正确刻画金融资产收益率的联合分布是非常困难的,特别是多元金融资产收益率之间的动态相依结构.本文将因子Copula模型和广义自回归得分模型相结合来建立多元动态Copula,但由于单一Copula的相依结构特征固定,无法适应复杂的金融场景,因此本文利用多个Copula的加权线性组合构成Mix-C
学位