基于卷积神经网络和自注意力机制的文本分类模型

来源 :四川大学学报:自然科学版 | 被引量 : 0次 | 上传用户:colala2001
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
单词级别的浅层卷积神经网络(CNN)模型在文本分类任务上取得了良好的表现.然而,浅层CNN模型由于无法捕捉长距离依赖关系,影响了模型在文本分类任务上的效果.简单地加深模型层数并不能提升模型的效果.本文提出一种新的单词级别的文本分类模型Word-CNN-Att,该模型使用CNN捕捉局部特征和位置信息,利用自注意力机制捕捉长距离依赖.在AGNews、DBPedia、Yelp Review Polarity、Yelp Review Full、Yahoo! Answers等5个公开的数据集上,Word-CNN-A
其他文献
真实数据集中含有缺失值,许多数据分析技术不能直接应用到不完整数据上,且缺失值的存在会明显地降低算法的有效性,缺失数据处理是一个不可缺少的数据预处理过程,因此提出了一
采用FeSiCr合金粉与羰基铁粉,通过干压成型分别制作外径8 mm的磁芯环和尺寸为4 mm的一体成型电感,并分别对比分析了FeSiCr合金粉与羰基铁粉磁芯环及一体成型电感的性能。试验
目的:探讨双吻合器在超低位直肠癌保肛手术中的应用价值。方法:回顾性分析我院用双吻合器技术行超低位直肠癌保肛手术23例的资料。结果:本组病例利用肛管拖出和双吻合器技术行超
托架安装是立井井筒装备的一项重要工作,其安装质量影响井筒装备质量。目前普遍采用的托架安装方法还存在一些问题,故对安装方法作了改进,提出了单衬套和双衬套的安装方法、均取