基于基完备化理论和嵌入多层感知机的深度网络结构设计

• 作 者: 张毅锋 蒋程 程旭 刘袁
• 机 构: 东南大学信息科学与工程学院,东南大学南京通信技术研究院,南京大学计算机软件新技术国家重点实验室,南京信息工程大学计算机与软件学院
• 出 处: 东南大学学报：自然科学版
• 发表日期: 2018年5期
• 关键词: 基完备化 期望网络 嵌入多层感知机 期望图 base completion expectation network embedded multi-layer p
• 基金项目: 国家自然科学基金资助项目(61673108)、江苏省自然科学基金资助项目(BK20151102)、北京大学机器感知与智能教育部重点实验室开放课题资助项目(K-2016-03)、东南大学水声信号处理教育部重点实验室开放课题资助项目(UASP1502).

为了进一步改善经典卷积神经网络的识别性能,首先证明了跨层传输实质上是基的完备化过程，然后基于多类型特征提取结构、嵌入多层感知机以及跨层传输结构提出一种新型深度卷积网络——期望网络.经分析发现，期望网络中的多类型特征提取结构可提取不同类型的特征，嵌入多层感知机可生成期望图并标定不同类型特征的权重，跨层传输结构可缓解网络性能退化的问题.仿真实验结果表明，在数据集CIFAR-10、数据集CIFAR-100和数据集SVHN上,相比于ResNet网络、深度监督网络和Highway网络等经典深度卷积网络，期望网络的误