【摘 要】
：
随着时代的发展,机器学习的训练集规模与模型复杂度不断增长,单机训练模型已无法适应大规模数据环境。近年来,分布式机器学习因其具有海量数据处理能力以及灵活的扩展性,获得了越来越多的关注。然而,分布式机器学习在蓬勃发展的同时也面临着一些安全和隐私保护方面的挑战,拜占庭攻击是分布式机器学习中潜在的安全威胁。目前已有的分布式机器学习框架可以分为中心化框架和非中心化框架两种,在本文考虑的中心化的分布式机器学习
论文部分内容阅读
随着时代的发展,机器学习的训练集规模与模型复杂度不断增长,单机训练模型已无法适应大规模数据环境。近年来,分布式机器学习因其具有海量数据处理能力以及灵活的扩展性,获得了越来越多的关注。然而,分布式机器学习在蓬勃发展的同时也面临着一些安全和隐私保护方面的挑战,拜占庭攻击是分布式机器学习中潜在的安全威胁。目前已有的分布式机器学习框架可以分为中心化框架和非中心化框架两种,在本文考虑的中心化的分布式机器学习框架中,训练节点和中心节点都有可能受到拜占庭攻击。如果训练节点受到拜占庭攻击,它会发送错误的局部模型给中心节点,会使训练模型性能变差;如果中心节点受到拜占庭攻击,它会得到错误的全局梯度,并得到错误的机器学习模型。目前众多学者已经对分布式机器学习中的拜占庭攻击问题进行了研究。然而,目前关于分布式机器学习中拜占庭攻击问题的研究仍然存在以下不足:现有工作假设中心节点是诚实可靠,研究算法来抵御训练节点受到拜占庭攻击,同时他们的算法鲁棒性较差;针对中心节点受到拜占庭攻击的情况,现有工作采用已有的共识算法,这些算法存在通信复杂度较高、无法辨识恶意节点等缺点。本文主要针对以上的不足点进行研究,重点研究分布式机器学习中的拜占庭攻击问题。本文主要的贡献如下:1.本文提出了一个基于联盟链技术的分布式机器学习框架,称为SLC（Secure Learning Chain）。SLC能用于基于梯度下降算法的分布式机器学习算法中,并且有效解决分布式机器学习中的拜占庭攻击问题和训练数据隐私保护问题。对于分布式机器学习中训练节点受到拜占庭攻击的问题,SLC可以采用现有的拜占庭容错分布式梯度下降算法来聚合局部梯度,减少拜占庭训练节点的错误梯度对模型的影响。针对分布式机器学习中中心节点受到拜占庭攻击的问题,SLC将分布式机器学习与区块链技术相结合,利用区块链的共识算法选取共识节点参与梯度聚合,减少拜占庭中心节点对模型的影响。针对分布式机器学习中数据隐私泄露的问题,SLC引入差分隐私机制,每个训练节点在发送出的局部梯度上加入噪声,并用时刻会计算法来跟踪训练过程中的隐私损失。2.针对分布式机器学习中训练节点会受到拜占庭攻击的情况,本文提出了一种鲁棒的拜占庭容错分布式梯度下降算法,称为MAKA（Mixed Acc-based multi-Krum Aggregation）。MAKA算法通过选取一定数量最优的局部梯度完成梯度聚合。MAKA算法在训练的开始阶段计算每个节点的局部梯度与最接近的若干个局部梯度的欧式距离之和,将和作为每个节点的得分,然后根据得分选出一定数量最优的局部梯度完成梯度聚合;模型预训练完成之后MAKA算法用每个局部梯度更新模型,然后计算每个节点的测试集准确率,根据测试集准确率选出一定数量最优的局部梯度完成梯度聚合。实验证明了该算法能够有效解决训练节点受到拜占庭攻击的问题,并且相对于其它算法,MAKA算法的鲁棒性更好。3.针对分布式机器学习中中心节点会受到拜占庭攻击的情况,本文提出了一种基于共识机制的拜占庭中心节点容错算法,称为IPBFT（Identifiable Practical Byzantine Fault Tolerance）。IPBFT算法能够用于联盟链中,并且能够容忍不超过K-13个恶意节点,其中K是总节点数。同时,IPBFT算法在正常情况下只选取了一部分节点参与共识,使得它的通信复杂度优于Po W、PBFT等常用共识算法,并且引入了超时机制,使得IPBFT算法能够辨别恶意中心节点。
其他文献
船舶中人员休息的主要场所是舱室,应提升舱室的环境舒适度,从而改善乘客和船员的工作、居住环境。船舶舱室环境的调节主要通过船舶空调系统的恒温调控,这种调节方式并不能充分满足船员和乘客对环境舒适度的要求。船舶的有线通信系统也存在着造价高、工期长、维修改造困难等缺点。针对这些问题,本文提出基于无线传感网络的船舶舱室环境舒适度评价系统,主要工作如下:首先,分析室内环境舒适度评价的国际标准和现行国家标准,在其
医患纠纷裁判文书（简称医患纠纷案例）是人民法院在民事诉讼中,为解决医疗机构与患方间民事权利义务争议的文书。而今医患纠纷裁判文书数量逐渐增多,法律工作者难以在短时间内找到合适的类案,且不同类型用户对有效类案的评判通常是不一致的,用户在不同阶段的评判标准也可能不同。为此,需要快速精准地分析历史案例,及时捕获用户偏好,据此实时推荐类案,为法官的审判提供科学指引,帮助当事人了解责任范围,提升调解的效率。但
水声脉冲信号的被动测距问题一直是水声信号处理领域的难点。本文基于被动测距基本理论与模型,结合非合作脉冲信号的特点,重点针对目标运动分析（TMA）法与直接定位（DPD）法进行了研究。具体的工作如下:通过对基于脉冲参数估计的TMA测距模型性能建模,分析了脉冲入射角度（DOA）、信号频率（FOA）与到达时间（TOA）参数估计精度对系统测距性能的影响。针对TMA被动测距问题,详细分析了基于DOA与FOA、
随着世界人口规模和交通需求的急剧增长,全球能源系统和生态环境面临巨大的压力,电动汽车由于其低污染、零排放、高效率等诸多优点成为了目前汽车领域的研究热点。轮毂电机驱动技术将动力、传动和制动装置集成于轮毂内部,简化了驱动系统结构,将成为电动汽车研究的重要发展方向。永磁同步电机具有高功率密度和高效率的优点,因而成为轮毂驱动电机的首选,但其机械减速机构带来的摩擦损耗和振动噪声等问题也亟待解决,由此基于磁齿
本文基于Lyapunov稳定性理论,齐次系统理论,增加幂积分法,自适应控制思想以及连续域离散化方法,研究一类非三角结构非线性系统的输出反馈控制问题。论文主要工作如下:1、针对一类具有未知输出函数且满足齐次增长条件的非三角结构非线性系统,考虑其全局输出反馈控制问题。通过增加幂积分法设计输出反馈控制器。由于非线性项具有未知增长率,利用自适应控制的思想,引入一个动态增益。基于齐次系统理论,为动态增益选取
近年来网络环境开放,互联网为民众意见的表达提供了平台。在这个平台里,越来越多的人或交流自己对政策、法律法规的看法,或表达自己的利益诉求,或就某些特定的社会突发事件进行激烈讨论,从而形成了一种特殊的舆论形式即网络舆论。各种互联网平台逐渐成为数字化时代我国最活跃的政治场域。必须承认,网络舆论已成为我国政治发展的进程中不可缺少的因素,发挥着越来越重要的作用。因此,关注网络舆论,探讨其政治价值,成为推动中
区域集中的鱼塘水泵等间歇性负荷导致的配变功率峰谷差可以达到近十倍,影响配电网安全运行。如果通过投资增容的方式平抑间歇性负荷的功率波动,不仅成本高昂,工程复杂,且在负荷功率波动较为平缓的低负荷时段,会造成配变容量的浪费。储能系统在电网削峰填谷、新能源接入、电能质量改善和应急电源等方面发挥着积极的作用,对于间歇性负荷功率波动起到及时平抑的作用。储能系统分为单一储能元件系统和混合储能系统,含功率型储能器
越来越多的服务机器人正逐步融入人们生活,在给人们带来便利,帮助缓解养老、助残等社会压力的同时,其自身也面临着新的挑战。其中之一就是在建图时如何处理环境中存在着的动态、准动态障碍物,如快速走动的人,开闭的门等。传统的地图构建方法,即同时定位与建图技术,是在假设环境是静态的基础上提出,而对包含有动态、准动态障碍物的环境,即动态环境下的地图构建方法研究较少。因此,本文面向服务机器人,研究其在动态环境下的