基于区块链的可信深度学习隐私保护方案研究

• 作 者: 冯晨
• 机 构: 福建师范大学
• 出 处: 福建师范大学
• 发表日期: 2021年01期
• 关键词: 深度学习 区块链 隐私保护 激励机制 共识算法

近年来,随着大数据的发展,深度学习不仅被计算机科学所采用,而且还被广泛应用于物联网工程,医疗健康和教育等领域。在这些领域中,企业对协作学习模型有较高的需求,其中许多用户或实体企业通过提供自己的本地数据来协作训练通用模型。因此,实际场景下的业务需求更倾向于深度学习模型能够从每个参与者拥有的独立分布的大规模数据中获取有价值的数据特征,然而现有研究中的分布式深度学习系统在大规模用户参与的场景中仍存在诸多的问题亟待解决,如用户数据隐私,节点可信化问题,以及模型评估问题等。本文以基于区块链的分布式深度学习的可信框架和安全协议为研究重点,对分布式深度学习的数据共享和模型训练进行研究,根据不同的安全问题设计了不同的安全方案。本文主要研究内容包括以下几个方面:针对区块链平台中深度学习参与用户在联合训练过程中的隐私安全问题,本文提出了一种移动场景下的去中心化,安全和高效的深度学习算法,便于参与者可以使用区块链及智能合约托管和持续更新深度学习模型。该算法利用基于训练误差的加密权重构建动态加权算法实现模型参数的共享与聚合,在不牺牲聚合模型准确性的情况下保护参与者的训练数据的隐私性。通过理论分析和计算机仿真证明,该框架保证了数据的安全性与算法的有效性,降低了模型参数的交易成本和规模,能够将深度学习的优势引入至由于数据机隐私问题而无法让数据所有者共享其数据的应用领域。针对区块链平台中参与用户在协作训练过程中节点的诚信度与模型评估的问题,本文提出了一种基于区块链的可验证深度学习框架（Validated Deep Learning Blockch ain,VDLChain）,并根据去中心化的验证结果设计了基于模型验证质量的激励机制以促进区块链网络中参与模型聚合的节点的积极性与可信性。通过理论分析与实验证明,VDLChain在保证用户的隐私安全和聚合模型精度的条件下,促进了节点参与的可信程度,降低了不规则节点对聚合模型的影响。针对区块链平台中分布式深度学习的可信模型聚合问题,本文提出了一种基于区块链高效共识机制的深度学习算法。该算法通过改进基于投票机制的拜占庭容错共识算法,提高了模型聚合的效率,有效的降低了系统的集中化程度,实现了可信的模型聚合。并在模型聚合计算过程中采用基于差分隐私的Krum算法,对于上传的加密参数通过聚类的方式计算聚合模型,保证隐私安全以及算法收敛性。通过安全性分析和实验表明,该算法在恶意节点梯度攻击的情况下仍能够有效的降低聚合模型被攻击的威胁,保证了算法的安全性,同时该算法降低了模型聚合的通信复杂度,提高了分布式深度学习的聚合效率。