基于深度学习的中文命名实体识别研究

来源 :重庆大学 | 被引量 : 0次 | 上传用户:leneyao
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着近年来网络技术的高速发展,互联网逐渐成为越来越多信息的载体,网络平台每天产生海量的数据,如何高效地处理利用这些文本数据是目前研究的热点。命名实体识别技术是指从文本中提取指定类型的实体并将其归类,通用实体类型有人名、地名、机构名等。命名实体识别问题可以建模为序列标注任务,是自然语言处理的基础工作,对后续关系抽取、机器翻译、问答系统等任务有着重要意义。
  中文命名实体识别由于语言的特殊性,目前还面临着很多未完全解决的问题。例如实体边界分割、未登录词识别等。针对这些问题,本文结合字符表示和分词特征,在传统的双向循环神经网络和条件随机场模型(Bi-RNN+CRF)基础上,提出了一种基于自注意力机制的字词特征融合模型。该模型以字符粒度为基础,解决未登录词问题,并结合分词的结构特征,修补实体边界。使用自注意力机制动态地将两种粒度的隐状态层向量进行相似度计算,训练任意字符与分词之间的依赖程度。
  此外,本文还提出了一种基于全局信息的多粒度特征融合的中文实体识别模型,在字词粒度的基础上融合了全局上下文信息,使用双向长短期记忆网络(Bi-LSTM)捕获序列中正向和反向的上下文信息,并利用自注意力机制在模型训练过程中将全局信息直接与每个位置的字词进行矩阵计算,增加特征维度。针对中文中“一字(词)多义”的向量表示问题,引入了BERT预训练模型,结合上下文双向地对当前位置进行训练,针对同一个字词可以根据不同的语境语义映射成不同的向量,提高了输入句子表示的准确性。在序列任务中顺序信息也及其重要,针对自注意力机制中位置不敏感的缺点,在BERT中增加了位置特征输入,通过三角函数可以计算出字词之间的相对位置,提高模型对实体识别的准确率。
  本文所提模型在两个公开数据集上设计了消融实验,并与经典模型进行实验对比,实验结果表明,本文所提模型在两个数据集上效果均有明显提升。
其他文献
【摘要】:在我国的消防部队灭火救援中,存在着装备落后、消防员实战能力差、安全防护意识不足等问题,导致了有时难以有效保证消防员、受灾者的人身安全,甚至导致严重人员伤亡。本文根据我国消防部队灭火救援安全现状,提出了有效了安全管理完善策略。  【关键词】消防部队;灭火救援;安全管理  我国诸多的火灾事故往往复杂多样,且破坏性极强,这就需要消防人员具有足够的实战经验和理论积累,可以根据火灾实际情况采取最佳
期刊
为更好地发挥档案服务中心、服务大局的独特作用,以强烈的文化意识推进伊通河综合治理的理念和决策,以实际行动服务伊通河改造工作,6月7日,长春市档案局馆联合市委办公厅举办了“伊通河往事”图片展。吉林省委常委、长春市委书记王君正,市委常委、秘书长赵明分别观看展览,展览吸引了众多党员干部驻足参观。  王君正饶有兴致地观看伊通河的每幅老照片,认真倾听讲解员讲述照片背后的故事。王君正连声赞“好”,称赞市档案局
期刊
近日,江苏省档案局馆召开纪念“6·9”国际档案日新闻发布会。省档案局馆长谢波等有关负责人在发布会上分别宣布:江苏省口述历史研究会成立;江苏省口述历史数据库建设正式启动;即日起,省档案馆向社会各界广泛征集散存在社会上,反映江苏地区各个历史时期发展情况的,对国家和社会有保存价值的档案资料。  发布会上,南京雨花台革命烈士纪念馆馆长向媛华、南京民间抗战博物馆馆长吴先斌向省档案馆移交了部分馆藏口述历史数据
期刊
【摘要】象征符号是一些用来提醒我们内在和外在之间、精神活动和物质表现之间的联系标志,以快速传递符号背后的信息。在藏地,随处可见藏传佛教的象征符号,这些符号成组成對出现,符号表达了藏传佛教对于世俗生活人们愿望与欲望的一种展现和对和谐生活的向往。  【关键字】藏传佛教象征符号;八瑞相;八瑞物 轮转王七政宝;七近宝;七珍宝;五妙欲 和谐四瑞  藏传佛教,或称藏语系佛教,又称为喇嘛教,是指传入西藏的佛教分
期刊
【摘要】我国的高等教育正处在转型时期,再加上国家正在大力推行职业教育,使得本科院校面临的压力和挑战逐步增加,这就要求本科院校需要全面分析新形势下学生管理工作的现实需要,全面创新管理工作思路,优化管理手段,提高管理质量和水平,培养综合素质高和符合社会以及企业需求的人才。本科院校要充分认识到进一步强化和创新学生管理工作的重要性和必要性,并在具体管理工作当中加强实践和分析总结,形成一套完善的学生管理工作
期刊
6月9日,北京市档案馆开展了“国际档案日”暨北京市第九届“档案馆日”活动。当天,市档案馆召开了档案法制动漫《档案连着你我他》发布会。国家档案局有关领导及市档案局领导和工作人员,以及广大参观者参加了发布仪式。  北京市档案馆在该天的活动中还面向社会推出“通衢之州 大美新城——魅力副中心”展览、推出馆藏档案专题片——《北京记忆·馆藏映像》、开展非物质文化遗产展示、向社会公众开放特藏库、档案知识竞赛、推
期刊
为做好2017年全国档案专家选拔工作,推进档案专业人才队伍建设,6月7日,国家档案局在北京组织召开了全国档案专家选拔工作部署会议。国家档案局办公室主任李勤在会上传达了国家档案局局长李明华关于启动全国档案专家选拔工作的讲话。会议着重介绍了全国档案专家选拔和培养工作安排,并就相关问题进行了说明。  李明华在讲话中指出,开展全国档案专家选拔与培养工作,目的是深入贯彻落实中办、国办《关于加强和改进新形势下
期刊
【摘要】本文对机械设计进行了详细的介绍,分析了机械设计程序,阐述了机械设计优化的重要性,并对ACO算法的机械设计优化方法进行研究,以供参考。  【关键词】ACO算法;机械设计;优化  1 机械设计概述  1.1 机械设计的基本思路  机械设计中采用的参数与零部件应尽量保证标准化、系列化以及通用化,也就是“三化”,如此可以使设计工作量得到有效减小,使生产周期得以缩短,增强互换性,实现对制造成本的有效
期刊
【摘要】大众分类法是基于用户参与的Web2.0而产生的一种新型的网络信息分类组织工具。本文通过分析大众分类法在图书情报学科的理论和实践价值,并以豆瓣读书的信息组织模式为例,探析大众分类法在数字环境实践中的应用分析,指出大众分类法具有自由灵活性、多维度揭示信息资源的特点,但同时也存在标签缺乏规范性、语法错误等缺点,由此对大众分类法在网络环境下的发展做进一步的思考。  【关键词】大众分类法;信息组织;
期刊
【摘要】在毛主席与党中央的倡议下,“赤脚医生向阳花”的歌谣在上个世纪六七十年代唱响大江南北。很大程度上,赤脚医生群体的存在从事实上缓解了中国广大农村缺医少药的现实。然而,伴随着国家经济体制的变迁与改革开放的进程,市场的力量日益深入百姓社会生活各个方面,赤脚医生群体犹如一种制度上的出局者,被动地卷入市场浪潮。市场意识形态扩张,传统社会里权威观念变迁,同类组织竞争加剧以及乡村凋敝等现状,给原本在乡土世
期刊