论文部分内容阅读
深层神经网络(Deep Neural Networks,DNN)在语音识别、图像识别这种具有明显空间时间相关性的模式识别应用中。具有明显的优势。鉴于DNN模型待估计参数的数目和参数估计的特点,以及现有海量数据训练的需求,单机训练DNN模型,往往需要一至多个月的时间,不能满足实际的各种应用需求。因此本文主要介绍一些现有的并行训练方法,以及腾讯公司关于并行化的一些尝试和思考。