基于配对排序损失的文本多标签学习算法

来源 :小型微型计算机系统 | 被引量 : 0次 | 上传用户:cyhacmacyh007
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
文本多标签学习是一项重要的自然语言处理任务,是对信息进行有效管理的一项关键技术.该任务需同时考虑到对文本和多标签进行建模.基于此,论文首先利用预训练语言模型BERT对文本序列进行特征提取,然后采用配对排序损失作为模型训练的目标函数,以对多标签之间的排序关系进行建模.最后为得到更精准的预测结果,加入了辅助的标签阈值学习.考虑到基于铰链函数的排序损失存在训练困难的现象,为此论文采用了一种光滑的替代损失,并从理论上验证了其有效性.在真实文本数据集上的实验表明,本文提出的算法能提供更好的性能从多标签分类和排序两方面.
其他文献
目的:   探讨联合应用生长抑素和前列腺素E1对大鼠极限肝切除术后急性肝损伤的保护作用及其机制的研究。   材料和方法   采用大鼠90%肝切除动物模型,将64只大鼠随机分
为了提高视频中人体姿态估计检测效果,在保留结构化信息的同时弥补下采样导致的空间分辨率的损失,增加视频中检测效率,本文结合时序信息提出了一种轻量级双路神经网络帧间信息推理的视频人体姿态估计方法.首先,基于最新的人体关键点检测网络训练一个基于该方法两路融合全卷积网络,一路选用金字塔全卷积网络,并选用采用轻量级Inverted residuals作为网络模块,另外一路保持分辨率大小不变以减少空间分辨率的
呆在书房的时间长了,就喜欢与书多些交流,在对视的目光里便有温润成分的存在.同样当你静下心来,一个人呆坐在书房内,特别是在静谧的夜里,便似乎能从书架的一隅听到了书的呢喃
现实有噪环境下,传统的语音转换系统性能会激剧下降,为此该文提出了一种具有噪声鲁棒性的语音转换算法.在训练阶段,除了生成纯语音字典,还要用背景噪声获得噪声字典,然后将两
目的探讨恶性黑素瘤组织中iNOS表达与增生及临床资料相关性。方法收集30例恶性黑素瘤患者皮损组织和20例色素痣患者的皮损组织,采用免疫组化检测恶性黑素瘤和色素痣组织中iNO
为了解决传统的基于协同过滤推荐算法中存在的数据稀疏的问题,本文提出了一种基于用户兴趣概念格的推荐评分预测(RRP-UICL)方法.该方法首先通过用户兴趣概念格将“最近邻”分
期刊
中国人工智能学会智能机器人专业委员会成立大会暨首届学术研讨会于1993年7月20日至26日在四川成都-松潘召开。会议主要议程为:1)交流智能机器人研究成果,探讨智能机器人研
蓖麻的种子含油量很高,平均为45%左右,榨出的油在零下8—10℃的低温和500—600℃的高温下不会凝固和变质,是一种很好的机械润滑油;蓖麻子油还可作 Castor seed oil content
移动群智感知是一种新兴的感知范例,它采用参与者携带的移动设备感知实时信息.目前有关任务分配的大多数研究都缺乏计算实际参与者密度并对其进行详细分析的方法.在本文中,首