论文部分内容阅读
随着社会的进步,移动互联网已经涉及到各行各业,移动电商和基于位置的社交网络(LBSN,Location-Based Social Networks)也得到了迅猛的发展,如淘宝,京东,Facebook,Twitter,Foursquare,Gowalla,Yelp等。与此同时,诸如信息爆炸问题也日益受到人们的关注,如何从逐日爆炸性增长的互联网海量数据中提取出对用户有实际意义的信息,同时尽可能地过滤不相关信息,成为了工业界和研究界的重要研究问题。而这也是推荐系统所要解决的问题。
现阶段,推荐系统主要面临着如下的问题,第一数据稀疏性问题,因为我们可以收集到的用户和项目之间的交互数据很少,导致构建的用户项目交互矩阵过于稀疏,在这种情况下,想要利用稀疏的用户历史记录来通过推荐系统做出较为准确的推荐是极为困难的。第二冷启动问题,对于刚刚注册的新用户,由于其没有历史交互记录,推荐系统想要利用其历史交互记录来做出推荐的方案并不可行。现如今,人们开始使用用户与项目的附属信息(例如用户的社交关系,兴趣变化,职业方向,项目的地理位置,分类,评分,价格等)来缓解数据稀疏与冷启动问题。传统的推荐算法例如矩阵分解算法,往往只是利用用户向量与项目向量的点乘来预测概率的大小。但是这种只是通过线性关系来进行建模并不能反映出真实世界中复杂的非线性关系。随着深度学习技术在语音识别,自然语言处理等热点领域取得令人惊叹的成绩,本文也将使用深度学习技术来解决我们所提出的问题。
针对上述提出的问题以及为了向用户提供更为准确的推荐,本文主要从以下三个方面进行研究:
(1)研究基于自注意力机制的兴趣点推荐算法。本文提出了一种基于自注意力机制的模型(SSANet)来融合用户相似度和项目相似度。SSANet使用multi-hot对用户历史中的序列数据进行建模,得到用户嵌入表示;然后对POI附属信息进行建模,得到附属信息嵌入表示;接着将用户嵌入和附属信息嵌入的融合输出使用自注意力机制,从不同方面来学习用户历史的表示。实验表明,我们提出的模型相对于其他模型取得了显著的性能提升。
(2)研究基于图注意力机制的兴趣点推荐算法。本文提出了一种基于图注意力机制的模型(SGANet),它能够无监督的学习用户偏好,同时基于会话窗口的方式来对用户的区域历史签到数据进行进一步的特征提取,并且引入了图注意力机制来捕获模型内部用户对POI对及区域POI的偏好程度,进一步通过融合POI附属信息以及利用循环神经网络GRU来学习用户的长期和短期偏好。通过一系列实验表明,我们提出的模型相对于其他模型取得了显著的性能提升。
(3)研究基于生成式对抗网络的线路推荐算法。本文提出了一种基于生成式对抗网络机制的模型(RGANet)。由于用户的路线特征是序列数据,为了提取用户的线路特征,本文使用GRU来提取用户的线路特征。本文提出了三个模块,数据整合模块,线路生成模块,线路推荐模块。在生成器部分,根据限定条件生成路线,同时使用GRU来提取路线特征。在判别器部分,对用户的结构化POI序列同样使用GRU来提取路线特征,接着进行路线特征的相似度计算,使得生成器部分根据判别器部分的反馈生成用户满意度更高的路线。实验表明,我们提出的模型性能优于其他模型。
现阶段,推荐系统主要面临着如下的问题,第一数据稀疏性问题,因为我们可以收集到的用户和项目之间的交互数据很少,导致构建的用户项目交互矩阵过于稀疏,在这种情况下,想要利用稀疏的用户历史记录来通过推荐系统做出较为准确的推荐是极为困难的。第二冷启动问题,对于刚刚注册的新用户,由于其没有历史交互记录,推荐系统想要利用其历史交互记录来做出推荐的方案并不可行。现如今,人们开始使用用户与项目的附属信息(例如用户的社交关系,兴趣变化,职业方向,项目的地理位置,分类,评分,价格等)来缓解数据稀疏与冷启动问题。传统的推荐算法例如矩阵分解算法,往往只是利用用户向量与项目向量的点乘来预测概率的大小。但是这种只是通过线性关系来进行建模并不能反映出真实世界中复杂的非线性关系。随着深度学习技术在语音识别,自然语言处理等热点领域取得令人惊叹的成绩,本文也将使用深度学习技术来解决我们所提出的问题。
针对上述提出的问题以及为了向用户提供更为准确的推荐,本文主要从以下三个方面进行研究:
(1)研究基于自注意力机制的兴趣点推荐算法。本文提出了一种基于自注意力机制的模型(SSANet)来融合用户相似度和项目相似度。SSANet使用multi-hot对用户历史中的序列数据进行建模,得到用户嵌入表示;然后对POI附属信息进行建模,得到附属信息嵌入表示;接着将用户嵌入和附属信息嵌入的融合输出使用自注意力机制,从不同方面来学习用户历史的表示。实验表明,我们提出的模型相对于其他模型取得了显著的性能提升。
(2)研究基于图注意力机制的兴趣点推荐算法。本文提出了一种基于图注意力机制的模型(SGANet),它能够无监督的学习用户偏好,同时基于会话窗口的方式来对用户的区域历史签到数据进行进一步的特征提取,并且引入了图注意力机制来捕获模型内部用户对POI对及区域POI的偏好程度,进一步通过融合POI附属信息以及利用循环神经网络GRU来学习用户的长期和短期偏好。通过一系列实验表明,我们提出的模型相对于其他模型取得了显著的性能提升。
(3)研究基于生成式对抗网络的线路推荐算法。本文提出了一种基于生成式对抗网络机制的模型(RGANet)。由于用户的路线特征是序列数据,为了提取用户的线路特征,本文使用GRU来提取用户的线路特征。本文提出了三个模块,数据整合模块,线路生成模块,线路推荐模块。在生成器部分,根据限定条件生成路线,同时使用GRU来提取路线特征。在判别器部分,对用户的结构化POI序列同样使用GRU来提取路线特征,接着进行路线特征的相似度计算,使得生成器部分根据判别器部分的反馈生成用户满意度更高的路线。实验表明,我们提出的模型性能优于其他模型。