基于VAE的多维时间序列异常检测方法研究

• 作 者: 吴鑫
• 机 构: 中国矿业大学
• 出 处: 中国矿业大学
• 发表日期: 2022年01期
• 关键词: 多维时间序列 异常检测 变分自编码器 集成学习 对称正定矩阵

时间序列异常是指时间序列上下文中与正常模式存在差异的子序列,从大量时序数据中识别该子序列的过程被称为时间序列异常检测。随着时间序列异常检测技术的广泛应用,其存在的挑战性问题也逐渐被领域专家所关注。例如,噪声干扰、序列维度间相互作用、数据庞大且难以完全标注。针对上述三个方面存在的问题,本文基于变分自编码器（Variational Auto-Encoder,VAE）技术对多维时间序列异常检测问题进行研究,具体包括三个方面的内容:（1）基于自编码器的USAD（Un Supervised Anomaly Detection on Multivariate Time Series）算法,采用对抗网络结构实现无监督或半监督的微小异常模式识别,成为目前时间序列异常检测领域的基线算法。但是它存在多维数据特征表达能力弱、对噪声数据较敏感的问题。本文针对USAD算法进行改进,提出一种基于变分自编码器的多维时间序列异常检测算法（SPD-VAE算法）。首先,引入对称正定矩阵（Symmetric Positive Definite matrix,SPD）的概念,通过计算协方差矩阵（Covariance Matrix,CM）对高维非线性空间进行特征抽取,提升模型对复杂数据分布的表达能力。其次,在USAD算法的基础上,使用变分自编码器代替自编码器结构,并将单位高斯噪声添加到隐藏层中,在对抗网络结构的基础上通过定义损失函数提高模型的抗干扰能力。最后,在矿井NEW数据集、SWAT数据集和WADI数据集三个真实数据集上以Precision、Recall、F1值三个评价指标进行对比实验。得到的实验结论为:SPD-VAE算法在两个数据集的决定性评价指标F1值上取得了最高的异常检测精度,与USAD算法相比分别提升2.0%和5.2%,在三个数据集上总体上性能最优,结果验证了本文算法的有效性。（2）单体异常检测算法大都专注于特定领域内的异常模式进行识别,泛化能力弱,同时存在收敛于局部最优解、抗噪性差等问题。本文结合Stacking集成学习方法的思想,提出一种多维时间序列异常检测集成算法（SPD-VAE Ensemble,SVAE-Ensemble算法）。一方面,采用Stacking集成学习方法结合不同类型的学习器来提升模型性能,解决异常检测结果收敛于局部最优解的问题。另一方面,采用投票法解决单体异常检测算法泛化能力弱的问题,提升模型对不同类型异常模式的检测精度。特别的,选择本文提出的SPD-VAE算法作为基学习器,提高算法抗噪声能力。实验部分,选取矿井NEW数据集、SWAT数据集和WADI数据集,对所提方法的效果进行验证,对比实验表明,提出的集成学习方法相比其他算法在三个真实数据集上都取得了最高的异常检测精度,与没有集成优化的SPD-VAE算法相比,F1值分别提升1.9%,2.8%,2.2%。（3）在本文研究成果的基础上,设计并实现了一个矿井安全监测数据异常检测原型系统。首先,系统可以采集传感器监测数据,并对监测数据进行处理。接着,对基于VAE时间序列异常检测集成模型进行训练。最后,对异常进行检测与结果展示,方便相关人员进行日志管理维护。