基于深度学习的实体关系抽取模型研究

来源 :中南财经政法大学 | 被引量 : 0次 | 上传用户:chichizhang
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着现代信息技术的发展,“大数据”时代已经到来,人类社会产生的数据量日益增长,如何快速高效地从这些非结构化的文本数据中抽取有效信息,是人们当前面临的重要问题。实体关系抽取是文本挖掘和信息抽取的核心任务,它主要通过对文本信息建模,自动抽取出句子中实体对之间的语义关系,提取出有效的语义知识,被广泛应用于机器翻译、自动问答、文本摘要、语义网标注以及知识图谱构建等任务中。过去大多数关系抽取模型主要关注在单语言数据中(以标注资源丰富的英文文本为主)进行实体关系抽取,建立了多种类型的神经网络关系抽取模型,并主要在英文中取得了不错的表现。而对于标注语料相对稀缺的语言(如日语、法语等),由于手工标注数据集获取昂贵且费时、远程监督数据集标注噪音难以排除,因此更难以建立有效的关系抽取模型。针对上述单语言实体关系抽取模型结构类型多样、语料稀缺的语言上实体关系抽取模型难以建立的问题,本文提出两个主要的研究问题:在单语言情境下,研究不同网络结构的编码器和不同方式的选择器在关系抽取实证研究中的效果,并分析模型的内在机理;在跨语言情境下,源语言拥有丰富的标注语料,目标语言的标注语料相对稀缺,利用跨语言的知识在源语言和目标语言之间建立桥梁,获取目标语言的标注语料,建立跨语言的实体关系抽取模型。具体而言,本文的主要工作包括如下两点:(1)单语言情境下的实体关系抽取模型研究,分别探究在英文和中文两种语言上的远程监督关系抽取的表现。单语言实体关系抽取主要由编码器和选择器两部分组成,编码器部分的网络结构包括卷积神经网络(CNN)、分段卷积神经网络(PCNN)、长短期记忆网络(LSTM)和门控循环单元(GRU)四种,选择器部分的选择方式包括注意力机制、最大选择和平均选择三种。在英语远程监督关系抽取数据集NYT、中文远程监督人物关系抽取数据集CCKS2019-IPRE上,探究关系抽取模型中不同编码器和选择器对模型表现的影响。(2)提出一种跨语言对抗关系抽取(Cross-Lingual Adversarial Relation Extraction,CLARE)框架,将跨语言关系抽取分解为平行语料获取和对抗适应关系抽取两个子模块。通过词典扩展或自学习方法将源语言关系抽取数据集转换为目标语言数据集,在此基础上利用对抗特征适应将源语言的特征表示迁移给目标语言,再利用训练得到的目标语言关系抽取网络对目标语言进行关系分类。将本文方法应用到以ACE2005多语言数据集为基础的英语-中文、中文-英文两种跨语言关系抽取任务上,最优模型的F1值分别为0.8801和0.8422。实验结果表明本文提出的跨语言对抗关系抽取CLARE框架能显著提升低资源语言实体关系抽取的效果。研究结果对于改进跨语言情境下的关系抽取模型,促进关系抽取研究在情报学领域的应用具有重要意义。
其他文献
研究目的:北京冬奥会中,冬季两项(以下简称"冬两")共设金牌11枚,是四大基础雪上项目之一。理论研究薄弱是我国开展冬季项目,特别是雪上项目的主要掣肘因素,也制约了我国对2022冬奥会的备战。本文系统梳理了国内外冬两项目的运动学、生理学和训练学理论与研究成果,以归纳并提炼冬两项目的项目特征,从而为其训练和备战提供理论支持和参考。研究方法:采用文献综述法,在国外数据库(PubMed、EBSCO、Goo
鱼雷弹道可视化仿真系统对于产品开发和作战使用有十分重要的意义。但由于其结构复杂,涉及专业多,导致仿真难度较大。文中采用高效灵活的VC++6.0编程平台,与专业的可视化仿真工具Vega有机结合,建立了鱼雷弹道可视化仿真系统。在VC中实现了系统框架和弹道模型计算,在Vega中实现了视景显示。试验结果表明,本仿真反映了鱼雷的运动状态参数的变化,画面流畅自然,控制方便,可为鱼雷总体、控制系统和制导系统的设
新一轮国土空间规划是当前我国自然资源管理和利用的重要决策,对我国中长期的国土空间利用和优化具有重要意义。该轮规划中涉及较多的自然资源要素和社会经济要素的空间布局,如何科学统筹资源分配和人地矛盾,是新一轮规划面临的重要挑战。本文结合区县一级国土空间规划实践,从全空间地理信息思维的角度,探讨在用地矛盾突出、产业密集型的工业区科学开发利用地下空间的必要性和潜在方案,从而提升存量土地利用效率,缓解规划中建
以宜宾中央公园为例,阐述了城市综合性公园地下空间开发利用的现状与前景及必要性和可行性,以期对城市建设者及建筑景观设计人员提供思路与借鉴。
我厂是以生产涤/棉运动服为主的生产厂。以往,藏蓝涤/棉交织布在用硫化还原蓝RNX染棉时,使用保险粉作还原剂。1987年以来,保险粉供应紧张,甚至处于停工待料的困境。在此情况下,我们开始寻找新的还原剂。经过试验,用二氧化硫脲替代保险粉获得了成功,开发出硫化还原蓝RNX染色的新工艺。二氧化硫脲在碱性条件下分解成尿素和
期刊
探讨留守初中生努力控制、反应性攻击与特质愤怒的发展特点及其关系,并考察特质愤怒在努力控制和反应性攻击之间的中介作用。本研究以留守初中生为研究对象,采用《青少年早期气质问卷》《反应性—主动性攻击问卷》《状态特质愤怒表达量表》分别测量留守初中生努力控制、反应性攻击和特质愤怒水平,并对其结果进行相关分析和中介效应检验。结果表明:初三学生的特质愤怒水平高于初一、初二学生;与女生相比,男生会表现出更多的反应
阿那亚项目的第一次策划会议是在建言设计举行的,当时大家得出的结论就是:这个社区要献给那些有梦想、在生活上有追求的人。在城里,人们对生活的追求在物理层面上本身就有限,是相对固化的。而阿那亚是打破了在北京的这种固有生活模式,塑造了让人们有心灵故乡归属感的"文",展开更有想象力的"旅"。阿那亚的成功,其实主要在于它把一群有相似价值观的人凑在了一块。项目初期,阿那亚就成立了很多不同主题的社群,包括饮
期刊
住房消费是一种服务经济活动,既可以视为GDP使用的重要去向,也反映社会资金的流动方向,因此采用合适的核算方法才能够确定GDP的数据质量。住房消费不仅包括市场上实际发生的租赁活动,还包括居民自有住房服务,而自有住房服务的核算一直是住房租赁核算的难点。SNA2008推荐的居民自有住房服务核算方法为市场租金法和使用者成本法,但是由于我国的国情比较特殊,所使用的是简化版的使用者成本法——虚拟折旧成本法~1