论文部分内容阅读
随着计算机和信息技术的快速发展，越来越多的用户将海量数据存放到云平台，享受云计算与深度学习技术带来的便利。然而存放于云平台上的数据涉及用户隐私，一旦遭到非法窃取，会给用户带来极大的损失和风险。针对这一问题，学者和专家们提出了基于同态加密的神经网络模型来完成云上的推理任务。用户利用同态加密技术对隐私数据完成加密并上传到云平台。云平台在不解密的前提下，对密文进行处理然后将结果以密文的形式发送给用户。
然而，由于同态加密技术本身的复杂性较高，密文在云平台上的计算效率较低。同时用户数据在密文状态下的尺寸较大，这增加了对网络传输和云平台存储空间的压力。除此之外，现有的同态加密技术支持的密文计算有限，这就导致神经网络模型的池化层和激活函数对密文的计算不够高效。为解决这些问题，本文展开了深入的研究，主要研究工作如下：
1)针对神经网络在云平台对密文的计算效率较低的问题，本文使用环上的全同态加密(Fully Homomorphic Encryption over the Torus，TFHE)完成对隐私数据的加密并提出了基于TFHE的二值化卷积神经网络。在二值化卷积神经网络中，本文对模型输入和卷积层参数进行了二值化处理。当密文与明文进行卷积操作时，本文使用支持全同态的同或门运算实现二值化矩阵间的乘法计算，从而提升云平台对密文的计算效率。在池化层计算中，本文在逐位逻辑门计算的基础上使用明文-密文混合计算的方法来提高密文比较操作的效率。同时本文对密文最高位使用了同或门计算，进一步完善带符号位的密文比较计算。在激活函数中，本文通过使用与门和非门的逐位计算来实现ReLU操作，从而增加神经网络模型的非线性表达能力。相较于HybridConvolutionalNeuralNetwork(HCNN)，该模型在MNIST和WisconsinBreastCancer数据集上的计算效率提升1.4倍和3.6倍，并保持识别率基本不变。
2)针对全同态加密下密文尺寸较大且计算复杂度较高的问题，本文提出了基于密文转换的二值化卷积神经网络。在该模型中，本文设计TFHE半同态方案实现对用户数据的加密。较现有模型，该模型中的密文尺寸缩减到原先的1/6。同时在卷积层中，密文以半同态形式进行计算，以此来提高模型的计算效率。然后本文使用密文转换操作在加密前提下将半同态密文转化成支持逐位计算的全同态密文，以此保证使用逐位的逻辑门运算实现密文比较操作和ReLU激活函数。相较于HCNN，测试结果表明该模型在MNIST数据集上的计算速度得到显著提升，同时识别率提升到97.27%。
本文针对同态加密复杂性较高，以及现有同态加密支持的密文计算无法高效实现神经网络的比较操作和非线性计算的问题，提出了改进的方案。实验结果表明，本文提出的基于TFHE同态加密的二值化卷积神经网络在保证数据安全的同时显著提升了神经网络对密文的计算速度。通过二值化操作后，密文的尺寸也被进一步降低。该方案在识别率和计算效率上都超越了当前一些基于同态加密的神经网络模型，具有一定的实用价值。
然而，由于同态加密技术本身的复杂性较高，密文在云平台上的计算效率较低。同时用户数据在密文状态下的尺寸较大，这增加了对网络传输和云平台存储空间的压力。除此之外，现有的同态加密技术支持的密文计算有限，这就导致神经网络模型的池化层和激活函数对密文的计算不够高效。为解决这些问题，本文展开了深入的研究，主要研究工作如下：
1)针对神经网络在云平台对密文的计算效率较低的问题，本文使用环上的全同态加密(Fully Homomorphic Encryption over the Torus，TFHE)完成对隐私数据的加密并提出了基于TFHE的二值化卷积神经网络。在二值化卷积神经网络中，本文对模型输入和卷积层参数进行了二值化处理。当密文与明文进行卷积操作时，本文使用支持全同态的同或门运算实现二值化矩阵间的乘法计算，从而提升云平台对密文的计算效率。在池化层计算中，本文在逐位逻辑门计算的基础上使用明文-密文混合计算的方法来提高密文比较操作的效率。同时本文对密文最高位使用了同或门计算，进一步完善带符号位的密文比较计算。在激活函数中，本文通过使用与门和非门的逐位计算来实现ReLU操作，从而增加神经网络模型的非线性表达能力。相较于HybridConvolutionalNeuralNetwork(HCNN)，该模型在MNIST和WisconsinBreastCancer数据集上的计算效率提升1.4倍和3.6倍，并保持识别率基本不变。
2)针对全同态加密下密文尺寸较大且计算复杂度较高的问题，本文提出了基于密文转换的二值化卷积神经网络。在该模型中，本文设计TFHE半同态方案实现对用户数据的加密。较现有模型，该模型中的密文尺寸缩减到原先的1/6。同时在卷积层中，密文以半同态形式进行计算，以此来提高模型的计算效率。然后本文使用密文转换操作在加密前提下将半同态密文转化成支持逐位计算的全同态密文，以此保证使用逐位的逻辑门运算实现密文比较操作和ReLU激活函数。相较于HCNN，测试结果表明该模型在MNIST数据集上的计算速度得到显著提升，同时识别率提升到97.27%。
本文针对同态加密复杂性较高，以及现有同态加密支持的密文计算无法高效实现神经网络的比较操作和非线性计算的问题，提出了改进的方案。实验结果表明，本文提出的基于TFHE同态加密的二值化卷积神经网络在保证数据安全的同时显著提升了神经网络对密文的计算速度。通过二值化操作后，密文的尺寸也被进一步降低。该方案在识别率和计算效率上都超越了当前一些基于同态加密的神经网络模型，具有一定的实用价值。