一种融合视觉和听觉信息的双模态情感识别算法

来源 :南京大学学报:自然科学版 | 被引量 : 0次 | 上传用户:fxmen2
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
语音信号和面部表情是人们表达情感的主要途径,也被认为是情感表达的两个主要模态,即听觉模态和视觉模态.目前情感识别的研究方法大多依赖单模态信息,但是单模态情感识别存在信息不全面、容易受噪声干扰等缺点.针对这些问题,提出一种融合听觉模态和视觉模态信息的两模态情感识别方法.首先利用卷积神经网络和预先训练好的面部表情模型,分别从语音信号和视觉信号中提取相应的声音特征和视觉特征;然后将提取的两类特征进行信息融合和压缩,充分挖掘模态间的相关信息;最后,利用长短期记忆循环神经网络对融合后的听觉视觉双模态特征进行情感识别
其他文献
目的探讨头孢类抗菌药物联合阿米卡星在治疗白血病患者化疗后粒细胞缺乏合并感染中的疗效,以提高临床诊治水平。方法选取2013年3月-2014年3月于医院接受治疗的白血病化疗后粒
实施工学结合人才培养模式需要学校和企业两种教育资源。建设一支高质量的"双师型"教师队伍,是有效实施工学结合人才培养模式根本保证。"双师型"教师队伍建设包括专任教师的双师
目前计算机病毒可以渗透到信息社会的各个领域,给计算机系统带来巨大的破坏和潜在的威胁。为了确保信息的安全与畅通,研究计算机病毒的防范措施已迫在眉睫。从计算机的特点入
目的:了解肝硬化失代偿期患者并发医院感染的易感部位、病原菌分布及耐药性,为临床预防控制医院感染提供实验室参考指南。方法逐项查阅医院2011年1月-2013年12月肝硬化失代偿期
小学班主任对于德育工作开展的情况并不是非常的乐观。一部分原因是班主任对学生德育素质的认识不是非常的全面,他们没有意识到德育本身的重要性。也受到了家长对于成绩的不
以高中语文选修课程《史记(选读)》为例,结合教材自身特点,介绍了一些常用的教学方法。列举了实施《史记(选读)》教学方法多样化时的注意点:防止面面俱到,力求重点突破;防止
简要介绍地铁车站的排水种类和方式,重点探讨排水地漏的布置,以及地铁车站废水泵站和污水泵站的设计及控制方式等问题,供设计人员参考。
高职院校学前教育的专业化以及教师水平的专业化直接引导我国幼儿教育是否能高质量化培养人才,也在一定意义上受到经济发展水平的影响,同时也受到政治教育方向的引导。而学前
根据高应变Case法基本原理,结合工程实例说明在深层软弱地质条件下应用高应变Case法进行试打桩检测的有效性及其实际意义。
根据某中学工程项目设计阶段投资控制工作实践,从招标文件编制、设计招投标实施和合同签订、设计方案和施工图设计审定、设计概预算对比、结构设计优化等方面探讨工程项目投资