RHS-CNN:一种基于正则化层次Softmax的CNN文本分类模型

来源 :重庆理工大学学报:自然科学 | 被引量 : 0次 | 上传用户:vbcasp
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
传统的卷积神经网络分类模型(CNN)的输出层采用扁平式架构的标准Softmax,在数据量较大、类别较多的文本分类任务中计算复杂度高,训练耗时长;而基于霍夫曼树(Huffman tree)构建的改进算法--层次Softmax(hierarchical softmax,H-Softmax)能极大地提高训练速度,但由于加入了大量的节点参数,使得优化难度增加,优化需要更长的迭代步,且容易过拟合,继而影响模型的拟合速度和分类效果。为此,提出了改进算法模型RHS-CNN(regularization hierarch
其他文献
大语文观是张孝纯先生提出来的,也是我们语文教学着力倡导的。在大语文观下的语文教学要重视课堂教学授课质量;处理 好主次,辅助和核心问题;要重视学生能力培养;要重视对学生
直立式沉箱结构断面常用于结构性能要求较低区域,以降低工程造价。为向广东某海港码头结构过渡段提供结构稳定性依据,采用1∶40的正态物理模型,选择极端高水位、设计高水位、
《徒然草》是一部日本古典散文的代表作,同时也是日本隐者文学的代表作。它与清少纳言的《枕草子》,鸭长明的《方丈记》 一起,被誉为日本三大随笔。本文以《徒然草》中蕴含的
安全认知是行为体在外部环境刺激下,对安全领域中的事件、政策、行为、趋势及其发展规律等方面形成的预期、评估、信念和推理过程。行为体安全认知的转变并非自发导致的,而是
在航空方面,对以甲烷为燃料的固体氧化物燃料电池(solid oxide fuel cell,SOFC)-燃气轮机(gas turbine,GT)混合动力系统展开了相应的研究。考虑到SOFC-GT混合动力系统复杂的
基于交换机迁移机制的控制层故障恢复方案在不需要额外部署备份控制器的情况下可以有效实现控制层的故障恢复。现有交换机迁移算法中多仅以交换机-控制器时延或控制器负载为
幼儿美术教学作为整个幼儿教育中的重要组成部分,主要以手工、绘画及美术欣赏等较为简单的美术教育活动为主,以显著 的色彩及可视形象为特征,能够记录世界中的美好事物。结合
本文以曹文轩的《草房子》和郑渊洁的《皮皮鲁总动员》为例来比较两位作家对儿童社会关系的看法,通过作品对儿童与长者、 同龄人和动物相处场景的刻画,可以窥探出二人写作立
家长现在都比较重视孩子的教育,因为现在的这样的一个社会,孩子在家庭中的占有很大的一个比重,但是,现在孩子和家 长之间的关系慢慢地出现了一些不好的事情,比如好多行为跟我
针对吉林大学农学、植物保护、农业资源与环境、生物技术、园艺5个涉农专业开设的机械课程中对内燃机的启动原理理解难的问题,研制了柴油机启动系统实验装置。该装置采用液晶