【摘 要】
：
知识抽取是自然语言处理领域非常关键的一项技术,具有很强的课题研究价值和众多的应用场景。近年来,深度学习的迅速发展使得知识抽取技术研究又上了一个新台阶。目前知识抽取的方法主要使用循环神经网络和卷积神经网络,但是这些方法并不是完美的,比如:循环神经网络在对长距离文本建模过程中遗失部分特征数据,不支持并行计算导致训练时间大大增加,卷积神经网络在池化层会遗失特征信息等。本文主要针对知识抽取中的关键技术问题
论文部分内容阅读
知识抽取是自然语言处理领域非常关键的一项技术,具有很强的课题研究价值和众多的应用场景。近年来,深度学习的迅速发展使得知识抽取技术研究又上了一个新台阶。目前知识抽取的方法主要使用循环神经网络和卷积神经网络,但是这些方法并不是完美的,比如:循环神经网络在对长距离文本建模过程中遗失部分特征数据,不支持并行计算导致训练时间大大增加,卷积神经网络在池化层会遗失特征信息等。本文主要针对知识抽取中的关键技术问题展开研究,论文的主要工作和主要成果具如下:（1）针对东盟十国知识图谱构建过程中,传统的机器学习算法对中文自然语言处理任务准确率低、效率不高以及高度依赖特征设计等问题,提出一种基于BERT-Bi GRU-CRF网络结构来实现命名实体识别（Named Entity Recognition,NER）的方法。首先通过BERT模型进行预训练得到计算机可理解的低维向量,其次将词向量输入双向GRU-CRF神经网络模型提取语义特征信息。在数据方面,提出利用Hash Cos相似度算法以更加有效地划分数据集,从而减少数据分布不均匀带来的影响。实验表明,BERT-Bi GRU-CRF模型针对东盟新闻文本数据集中命名实体识别任务取得较好的效果,其中PER、ORG、LOC等实体的F1值均有不少提升。（2）关系抽取在知识抽取中具有不可或缺的地位。针对循环神经网络训练速度慢、特征信息准确度不高等问题,本文结合注意力机制和Bi SRU模型构建一种新型关系抽取的神经网络模型。首先采用BERT模型进行词嵌入训练,将词向量通过Bi SRU层提取语义表征,其中加入Attention机制提高模型关系抽取的准确性。在人物关系数据集上用该模型与其它模型进行对比分析,实验表明该模型在F1值和训练速度上都优于其它实验,特别在好友、合作和亲戚关系的识别中准确性较高,分别为86.84%、84.67%、80.67%。
其他文献
随着科技不断进步,一些特定环境与专用场景的通信都被提上研究日程。特别是在巷道中作战,隧道救援等此类多径干扰异常严重的环境中,能够保证通信质量且降低实现复杂度的通信方案显得尤为重要。本文以应用OFDM技术的一个典型协议—IEEE802.11a为基础,结合LDPC,采用具有抗多径效应,接收端不需要信道估计等优点的DAPSK调制技术;提出基于时域差分的OFDM+16DAPSK+LDPC关键技术的通信方案
“十四五”规划纲要指出:发展海洋装备等战略新兴产业,发展海洋经济,建设海洋强国。水声通信是研制海洋装备的关键技术之一。正交频分复用（Orthogonal Frequency Division Multiplexing,OFDM）在水声通信（Underwater Acoustic Communication,UWA）中具有广阔的应用前景。快速傅里叶变换由于其低复杂度和易于实现而被用作OFDM技术的主
随着信息技术的发展,信号的数字化处理发挥着越来越重要的作用。信号的提取和恢复,受到了研究者的广泛关注,从而研究信号的采样与重构问题成为当下研究的热点。针对信号的研究主要是在经典Lebesgue空间中进行的研究,即研究的是时间域或者空间域上的信号,但现实生活中的信号多以时间域和空间域的形式共同存在,即为时空信号,也称为时变信号。而混合Lebesgue空间恰好可以用来模拟和度量时变信号。因此,研究混合
随着下一代多处理器系统芯片的设计趋势,片上网络需要数千种处理器件的集成,这就需要高性能器件来为高吞吐量和低延迟通信提供保障。传统的片上网络采用电信号来传输信息,电信号之间接口性能对片上网络的信息传输速率有着很强的限制,并可能影响网络级联后的功耗等。光片上网络（Optical Network on Chip,ONoC）具有大信道容量、高数据传输率、低能耗,与传统的电互连相比是一种很有前途的解决方案。
最近几年里,电子电路的应用相当广泛,其主要应用在通信、工业控制、医疗设备、家用电子产品、航空航天设备以及军事工业等领域。随着电子电路的集成性和复杂性日益增强,这就要求电子设备的可靠性越来越高,目前使用广泛的电路系统都是以数模混合电路作为基础的。数字电路诊断方法在数模混合电路中取得了广泛应用,诊断方法已发展成熟。由于模拟电路故障诊断模型相对较复杂,可测量的节点数量也十分有限,所以模拟电路故障诊断方法
三维空间姿态信息是反映物体实时所处状态的重要参数信息,姿态测量技术也被广泛应用于国防军事、工业控制以及民用消费电子中。基于MEMS传感器的姿态测量技术因其成本低、功耗低、重量轻的特点,非常适合应用于民用消费类电子的姿态测量。但是由于消费级MEMS传感器精度较低,传统的姿态解算算法所解算的姿态角度容易发生偏移,造成姿态角度解算误差不断增大。本文在欧拉角度法、方向余弦法以及四元数法等姿态解算算法进行对
根据复杂场景下对位姿估计的高鲁棒性与高精度要求,文中采用了多传感器信息融合和基于深度学习的方法解决移动机器人的位姿估计问题。针对提出的方法,研究并设计了移动机器人的位姿估计的框架,其中包括了集串口的驱动、数学运算库、多视图几何和运动模型等的硬件结构;集操作系统、深度学习框架、云服务器等的软件环境;集运动感知、并行计算、功能算法等的SLAM系统。文中首先对传统的视觉SLAM展开研究。在视觉里程计部分
传统有机相变材料存在的熔融易泄露和导热性能差两大固有缺陷,是限制其发展应用的重大障碍。碳气凝胶能够有效实现有机相变材料的封装,同时也能为其提供三维的导热网络,因而受到了广泛的关注和研究,但现有碳气凝胶也存在合成制备工艺复杂、结构缺陷多、机械性能差等缺点。因此,本文通过分子结构设计,借助高分子材料的结构优势,组装获得了新型高分子杂化碳气凝胶,并以碳气凝胶为封装基体和导热增强网络,对有机相变材料封装定
Brown运动和Brown单作为概率论领域的核心内容,至今已有许多学者对其进行过深入研究.对于布朗运动和布朗单的研究方兴未艾.全文主要探讨Brown运动和Brown单的泛函重对数律,以Brown运动和Brown单的大偏差为工具,对已有结果进行了深入探讨、推广和改进.本文主要研究内容如下:首先,以Brown运动的双重对数律为基础进行推广,利用Brown运动的大偏差与Borel-Cantelli引理为
全球导航卫星系统（GNSS,Global Navigation Satellite System）不仅能够提供导航定位服务,而且还可以提供高精度的时间同步以及卫星授时等服务,通过GNSS系统进行单站授时具有覆盖范围广、精度高的优点,为广大用户实现本地接收机的定位定时提供了方便。本文围绕GNSS单站授时技术展开了相关的研究,并对影响授时精度的因素进行了分析。文章介绍了授时技术的相关理论基础,并对引起