论文部分内容阅读
近些年,深度神经网络(DNN)作为一项熠熠生辉的技术出现以来,不断推动科学技术的创新。然而,深度学习推动了技术的进步同时,深度学习模型所做出的决策缺乏解释,对其内部训练过程缺乏监督和控制。因此,需要理解其内部运作机制,通过使用可视化技术和可视分析方法理解和分析深度学习模型的训练过程。
首先,根据深度学习理论,在深度学习专家指导下,依据原始数据特点,提出一种基于TensorFlow框架的深度学习模型训练的可视化方法,为了帮助用户更深入地了解神经网络体系结构的整个训练过程,本文提出了一种可视化分析设计,用于准确理解,分析和改进深度神经网络。
其次,在对经典卷积神经网络(CNN)性能分析的基础上,提出一种解释深度学习模型CNNs的可视化分析方法。本文为了解释深度学习模型的训练过程,以CNN网络结构为基础,引入针对CNNs结构特点的多层融合分析的可视分析方法,主要对卷积层、激活层、池化层、全连接层和Softmax层进行可解释性研究。结合专家对CNNs多方位综合诊断的要求,并以AlexNet为基础,设计包含卷积特征图和激活特征图2个以卷积神经网络学习到结果为输出的实时可视分析实验。
再次,在对经典卷积神经网络可视分析的基础上,提出一种解释循环神经网络模型可视化方法。深度学习模型以RNN网络结构为基础,引入针对RNN的循环结构特点的网络结构联合分析的可视化的方法,主要包括全连接层、循环结构、卷积层和池化层的可视化方法。结合自然语言处理领域对RNN综合诊断分析的要求,以简单RNN为基础,设计包含循环神经网络各组成结构可视化分析实验。
最后,在Ubuntu16.04操作系统下,使用Python2.7等语言在TensorFlow1.0框架下,分别开展了在MNIST训练数据集训练CNNs、基于RNN在自然语言数据集上的可视分析实验,验证了本文实验的有效性和适用性。
首先,根据深度学习理论,在深度学习专家指导下,依据原始数据特点,提出一种基于TensorFlow框架的深度学习模型训练的可视化方法,为了帮助用户更深入地了解神经网络体系结构的整个训练过程,本文提出了一种可视化分析设计,用于准确理解,分析和改进深度神经网络。
其次,在对经典卷积神经网络(CNN)性能分析的基础上,提出一种解释深度学习模型CNNs的可视化分析方法。本文为了解释深度学习模型的训练过程,以CNN网络结构为基础,引入针对CNNs结构特点的多层融合分析的可视分析方法,主要对卷积层、激活层、池化层、全连接层和Softmax层进行可解释性研究。结合专家对CNNs多方位综合诊断的要求,并以AlexNet为基础,设计包含卷积特征图和激活特征图2个以卷积神经网络学习到结果为输出的实时可视分析实验。
再次,在对经典卷积神经网络可视分析的基础上,提出一种解释循环神经网络模型可视化方法。深度学习模型以RNN网络结构为基础,引入针对RNN的循环结构特点的网络结构联合分析的可视化的方法,主要包括全连接层、循环结构、卷积层和池化层的可视化方法。结合自然语言处理领域对RNN综合诊断分析的要求,以简单RNN为基础,设计包含循环神经网络各组成结构可视化分析实验。
最后,在Ubuntu16.04操作系统下,使用Python2.7等语言在TensorFlow1.0框架下,分别开展了在MNIST训练数据集训练CNNs、基于RNN在自然语言数据集上的可视分析实验,验证了本文实验的有效性和适用性。