基于预训练的正负面新闻识别算法研究

来源 :北京邮电大学 | 被引量 : 0次 | 上传用户:sky007
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着经济的高速发展,我国与国际社会的接轨越来越紧密,国内的文化产业得到了充分的发展,产生了大量高活跃度的线上新闻媒体,线上的新闻文本数据量也逐年增长,而且逐渐呈现出主观化多元化的趋势,这使新闻文本的情感倾向分析,尤其是正负面新闻的识别变得越来越火热。为了帮助人们对新闻文本进行更好的了解与分析,本文运用了自然语言处理的最新技术,提出用了一种分析新闻文本正负面情感倾向的新模型,主要研究的内容如下:(1)深入了解文本信息处理的过程和方法,研究了传统的文本信息特征构造技术,分析了文本情感分类经典模型——长短期记忆神经网络模型(Long Short-Term Memory)的特点和缺陷,深入分析了预训练模型作为特征提取技术的必要性和先进性。(2)本文在利用预训练模型提取文本特征信息的基础上,结合数据集文本的数据特点,提出了一种新的特征构造方法:将BERT(Bidirectional Encoder Representations from Transformers)模型输出输入到双向GRU(Gated Recurrent Unit)中,对上下文语义进行进一步提取,并将双向GRU的输出作为特征向量的第一部分,使用了预训练模型最后四层编码器的CLS位作为整个文本语义表征,将四位CLS位(Classification)进行拼接组成了特征向量的第二部分。两部分的特征向量进行拼接,作为最后的特征向量。(3)设置了三组实验,使用三种模型进行训练,分别是:传统特征构造+LSTM经典模型、标准使用的预训练模型、使用新型特征构造方法搭建的模型。进行合理对照试验后,发现三个模型的准确率、Macro-F1值等方面都具有较为明显的提升,证明了加强特征构造新模型的有效性。本次研究的特点在于加强了预训练模型的特征提取,能够有效的提高新闻文本情感分类模型的分类效果,同时也发现了该方法对于长文本处理不足等缺陷,为后续的研究提供了有力参考。
其他文献
大闸蟹奶茶、鲍鱼柠檬茶、鸭血粉丝奶茶……这些听名字就让人一激灵、刷新消费者认知的奶茶,为何频繁出现?又究竟能给新茶饮带来什么?rn奇奇怪怪的茶饮创新rn前段时间,一则“生腌大闸蟹奶茶”的视频在社交平台爆火.视频中,博主展示了奶茶全貌,还演示了喝法:先喝奶茶,再把大闸蟹对折大口地嚼.虽说大闸蟹真的很香,但加到奶茶里,属实是惊吓大于惊喜了.打开这名博主的视频合集,发现他还尝试过油泼辣子奶茶、辣炒芹菜柠檬茶、卤蛋螺蛳粉奶茶、臭豆腐奶茶等.
期刊
近日,安徽、内蒙古等地农业全产业链标准化试点陆续启动,这是对2021年4月农业农村部开展现代农业全产业链标准化试点工作的进一步推进和落实,标志着农业产业转型升级步伐加快.rn2021年以来,众多重磅政策和文件都强调,要加快健全现代农业全产业链标准体系,提升产业价值,让农民更多分享产业增值收益.专家对此表示,要聚焦短板弱项,通过多方面政策发力,提高农业产业链的经济效率,不断提升国家经济发展质量.
2021年11月,肉鸡鸡苗价格快速上涨,肉鸡养殖企业扭亏为盈.但是多位业内人士均表示,养殖端盈利或难持续,明年鸡苗、肉鸡价格下滑仍将继续,行业应加快去产能速度.值得关注的是,肉鸡行业的头部企业仍在逆势扩大产能,按照这样的扩产节奏,肉鸡市场恐难逃下行风险.
受疫情影响,去年对于食品行业来说是灰暗的一年.不过,由于疫情防控到位,今年各行各业都步入了正常发展的轨道.今年是“十四五”开局之年,也是我国全面建成小康社会,踏上向第二个百年奋斗目标进军新征程的一年,所以,全国上下、各行各业都开始恢复常态、回归初心,为了新目标而努力奋斗.
搭载麦德龙超市,Tim Hortons中国(以下简称“Tims咖啡”)正寻求场景突破.近日,Tims咖啡与麦德龙中国合作后的首批门店已经开业,以店型较小的Tims Go捷枫店模式入驻在麦德龙超市内.据记者了解,至2022年1月,双方计划在成都、大连、青岛、南京、廊坊和上海6个城市的麦德龙超市开设至少9家门店.从选址来看,Tims咖啡这类门店的目标客群是在麦德龙门店日常购物的消费群体.虽然Tims咖啡搭载超市拓展销售渠道,有助于企业节约空间和成本,提高坪效,不过,如何与细分客群以及场景相融合且碰出火花还有待
2020年11月,仲景食品以39.74元/股价格首发上市,首日股价飙至120.8元/股,随后同年11月30日,股价达到目前峰值126.75元/股.时隔一年,仲景食品2021年11月30日的收盘价为49.88元/股,股价与去年同期相比下滑60.6%,市值也由上市之初的120亿元降至50亿元左右.
期刊
老乡鸡似乎又在为上市讲“新故事”.记者近期走访时发现,老乡鸡在新荟城望京店开设了北京首家农场旗舰店,新增烧鸟、精酿、咖啡、奶茶等品类.此前,老乡鸡不同模式场景的门店已在上海、深圳试水.分析认为,老乡鸡在一线城市做出场景布局是希望匹配该市场需求,同时也可能是在为上市做准备.作为一家正在准备上市的企业,老乡鸡仅依靠单一的快餐品类难以兼得利润与流水,而这两者对于企业上市来说都至关重要.
期刊
2018年开出第一家店的蔡澜港式点心,仅用3年多的时间就相继开拓了华南、华北市场,目前已经进入这两个区域的7大城市,成为多个城市早茶品类的人气品牌.2021年,广州老字号品牌陶陶居在北京开出第一家店,从试营业开始便大排长队.随着陶陶居和蔡澜港式点心等在各地走红,是否意味着早茶品类有了全国化发展的趋势?早茶品类的风口要来了吗?
被越秀集团接手重组一年后,昔日乳业老品牌辉山“重新起跑”.12月6日,越秀集团举行了辽宁越秀辉山控股股份有限公司(以下简称“越秀辉山”)的成立仪式,这也是越秀集团重组辉山乳业一周年的关键节点.在成立仪式上,越秀辉山方面宣布,将以2025年实现销售收入超百亿为目标,其中奶粉业务规模力争超过20亿元.
期刊
在上海高调开设门店后,COSTCO一度成为业界关注的焦点,也让大家看到了会员店的潜力.近期发生的家乐福会员店“二选一”风波背后,其实也是一场会员店供应商争夺大战,会员店正成为零售商们的“必争之地”.rn2021年11月25日,COSTCO宣布12月8日在苏州新开门店;麦德龙表示将全面改造升级会员店,调整C端客户战略并大减SKU;麾下拥有山姆会员店的沃尔玛更是不甘示弱,宣布付费会员数量达到400万,未来将持续扩张;开业首日受到打击的家乐福会员店则快速调整商品品类,发力自有品牌业务.一时间,会员店市场硝烟弥漫
期刊