基于张量的高阶长短期记忆网络分析方法研究

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:xx123321058
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息技术的发展,人们生活的空间逐渐成为包含了信息空间、物理空间和社会空间的混合空间,称为信息-物理-社会系统”(Cyber-Physical-Social System,CPSS)。作为一个跨学科研究领域,CPSS所产生的数据反映了用户的历史轨迹,蕴含着巨大价值,CPSS大数据的处理和应用成为了CPSS的重要研究方向之一。研究发现CPSS大数据主要存在三点特性:一、由于数据采集涉及到3个空间,CPSS数据具有数据量大和多阶多维的特性;二、数据采集和传输过程中存在大量的冗余和噪声;三、基于CPSS大数据包含了大量的时序数据流和实时数据。由于张量数据结构多阶多维的特性,张量被广泛用于CPSS大数据的表示。同时,随着人工智能的兴起为CPSS大数据的研究提供了新的思路。其中,长短期记忆网络(LSTM)在广泛的应用中展现出对时序数据流处理的优越性。现阶段基于张量的LSTM开始被用于CPSS大数据的处理。首先,本文提出了高阶量化张量链LSTM(QTT-LSTM)。QTT-LSTM首先将LSTM模型张量化以保留了CPSS大数据的多属性特征,保留了数据之间的关联性;其次,它通过量化张量链(QTT)的形式表示权重的方式减少了LSTM网络所需参数,降低了训练难度。其次,考虑到CPSS大数据采集和传输过程中存在冗余的特性以及边缘计算能力的提升,本文提出了基于云-边缘计算模型的量化张量链分布式LSTM(QTT-DLSTM)。QTT-DLSTM分为边缘层和云计算层。QTT-DLSTM在边缘层对数据进行预处理,使用QTT分解有效降低了数据在网络中的传输困难。在云计算层,QTT-DLSTM对来自多个边缘层的QTT链使用对应的神经网络进行分布式学习,在降低训练难度的同时保证了一定精度。最后本文在制造业数据集、锂电池数据集以及UCF50音视频数据集上分别进行了实验,并与vanilla LSTM和其他张量LSTM就精度、误差和压缩比等性能进行了对比和分析。在制造业数据集和锂电池数据集获得了最好的精度以及较高的压缩比,在UCF50音视频数据集上在保证3%精度误差之内所需训练时间降低了一个量级。
其他文献
随着5G时代的到来,能够使用的通信频带资源已经非常有限,工作频率不断增大,要能在狭小的通频带间进行信号的传输,对滤波器的功率容积和过滤性能提出了更加苛刻的要求,而且由于安装空间有限,对滤波器的尺寸也有了更高的要求。所以基于谐振腔的紧凑型微波滤波器的设计是极具应用价值的。本课题主要在电磁扰动理论,调谐理论以及微波腔体滤波器理论的基础上,开展了基于谐振腔的紧凑型微波滤波器设计,通过采用介质和电容加载的
现场可编程门阵列(Field Programmable Gate Array,FPGA)由于其特有的可编程特性,十年前在航空航天、工业、汽车等领域具有广泛的市场。如今FPGA的市场规模仍在不断扩大,开始在人工智能、机器学习、视频处理、大数据处理等领域发挥作用。FPGA是由比特流进行编程配置来实现不同的功能,储存配置比特流可以用几种不同的技术来实现,分别是SRAM、反熔丝与Flash。本文讨论的是F
随着无线技术的飞速发展,基于5G应用的毫米波技术研究变得越来越广泛且流行。为了满足5G甚至6G通信系统的高数据传输速率要求,毫米波通信系统应具有实现波束形成和扫描的能力,所以毫米波相控阵系统被认为是下一代通信系统。而开展基于CMOS工艺的毫米波幅相控制模块的设计与研究,对于提高毫米波电路性能、降低系统成本、推动民用毫米波相控阵系统的开发与应用都具有巨大的学术价值与潜在的市场价值。首先本文介绍了相控
石油、天然气、煤炭等地下矿产资源对于我国的工业发展起着至关重要的作用。目前我国的矿产资源开采区域正在逐渐扩大并且逐步提高开采效率及质量。瞬态脉冲井中雷达作为一种十分有效的探测地下资源分布的工具得到越来越广的应用。作为瞬态脉冲雷达的一类分支,井中雷达能够深入地下矿井中,主要解决井周物质的分布问题,且具备实现超前探测的优势。传统的井中雷达采用的系统接收机、数据采集板、数据传输采用分离式的架构,接收机接
煤、原油、天然气、油页岩此类非可再生资源对人类的生产生活具有相当重要的意义。开采这些不可再生资源时,探测技术尤为重要,使用先进的探测技术有利于降低勘探成本,更有效率地发现油气资源。在地下资源探测中,随钻电磁波传输技术是当前研究中的重点之一。由于在地层中电磁波的传输特性,电磁波衰减相较于在空气中有着非常明显的差别。高频电磁波基本上难以运用在介质为地层的传输系统中,由于衰减特性和实际钻井平台的噪声大等
相对论返波振荡器因高效率、高功率等特点常常作为多频高功率微波源。传统的相对论返波振荡器主要工作模式为TM01模,而TM01模式电磁波的辐射方向图是一个空心圆锥,微波能量分散,能量往往不能被有效的利用。实际工程中,为了提高微波的传输效率,通常需要使用模式转换器将TM01模式转换为其他模式以方便微波辐射。但是,使用模式转换器往往也会带来系统整体尺寸过大或者输入输出不同轴等问题。本文设计了一种能够直接输
视频目标分割是计算机视觉的视频任务中极具挑战性的任务之一,在诸如监控、自动驾驶、视频编辑、自动化标注、视频理解等场景都有应用。所谓视频目标分割,即给定一个包含多帧的视频数据以及第一帧的目标掩码,要求分割出这个目标在后续帧的像素级别位置,可以看做是像素级别的目标跟踪。不同于基于目标框的跟踪形式,视频目标分割能更具体的表达出感兴趣目标的形态以及更加准确的位置。给人以更直观的信息,并且作为密集型预测任务
高功率微波技术的进一步发展,使得对高功率微波信号源的要求越来越高。如何获得一个功率容量足够大,功率幅值足够高的微波信号已经成为微波技术发展的一个相对瓶颈。其中,微波脉冲压缩成为了一个越来越重要的的研究方向。而以螺旋波纹波导为基础结构的被动式高功率微波脉冲压缩系统在X波段内产生的高功率微波能够达到GW级,并且因为结构简单、紧凑,功率容量大以及易实现重复运行的优点,使得其受到了更多国内外高校和研究机构
随着通信技术的不断发展,功率放大器显得越来越重要。对于传统的功率放大器电路分析,主要分析功率放大器电路的频域输出,对于功率放大电路的时域波形不是很受关注,但是对于一些功率放大器来说,需要关注其信号输出的时域波形,使得其信号在晶体管的电路波形达到预期要求,使得在晶体管上的电压与电流满足一定的要求,从而减少晶体管功率消耗,增大功率放大器的效率,减少能量消耗。对于功率放大器而言,通常都要对信号的谐波进行
扩展互作用速调管(EIK)是由传统速调管改良发展来的线性注电真空器件,其结构上兼具了速调管与慢波线的特点。随着人们通信频段不断向更高频段迈进,对W波段以上的太赫兹波段的研究及开发正不断展开,对太赫兹频段的电真空器件的研发也迫在眉睫。现阶段成品EIK在W波段及更低的毫米波波段想比于传统速调管放大器和行波管放大器有输出功率高和增益高的优点,但其工作频率在W波段甚至更高频段时,该优点相比其他电真空放大器