[发明专利]一种基于自适应注意力的序列推荐方法及装置

说明书

本发明公开了一种基于自适应注意力的序列推荐方法，该方法包括：在预先训练获得的自适应注意力感知GRU网络的输入层确定输入自适应注意力；将输入自适应注意力作用于历史交互项目序列中，获得输入序列；基于历史交互项目序列和输入序列的结合，获得输入层输出结果；在隐藏状态层确定隐藏自适应注意力，将隐藏自适应注意力作用于输入层输出结果中，获得隐藏状态序列；进而获得隐藏状态层输出结果；在自适应注意力感知GRU网络的输出层根据隐藏状态层输出结果，确定推荐给用户的项目。应用本发明实施例所提供的技术方案，提高了推荐性能。本发明还公开了一种基于自适应注意力的序列推荐装置，具有相应技术效果。

技术领域

本发明涉及推荐技术领域，特别是涉及一种基于自适应注意力的序列推荐方法及装置。

背景技术

随着网络信息的爆炸式增长，推荐系统在很多在线服务中扮演着越来越重要的角色。推荐系统常用的推荐方法有一般推荐和序列推荐。一般推荐是指通过用户的历史交互项目建模用户的总体爱好来推荐项目。关键思想是协同过滤(CF)，进一步可以分为基于记忆的CF和基于模型的CF。一般推荐可以捕获用户的总体喜好，但如果不进行序列行为建模，则很难直接根据用户最近的交互项目进行推荐。序列推荐将用户的交互项目视为一个序列，目的是预测用户接下来将与哪个项目交互。一个典型解决方案是计算一个项目到项目的关系矩阵，向用户推荐与最后一个交互的项目最相似的项目。

为了给序列模式建模，FPMC模型利用马尔科夫链(MC)分解用户特定的转换矩阵。基于马尔科夫链的解决方案的一个显著缺点是它仍然采用静态表示用户兴趣。随着神经网络在许多应用领域的成功，递归神经网络被广泛应用于序列推荐中。除了基本的动态和演变特性之外，用户的兴趣也是多样化的。在同一时期内，用户的兴趣通常涉及多个领域。例如，根据用户的历史行为，我们发现喜欢阅读深度学习书籍的用户也喜欢购买家用电器。虽然RNN的扩展LSTM和GRU可以更好地捕获用户偏好的长期依赖，但依赖随着时间步的变化发生单调变化。换句话说，当前项比上一项更能预测下一项。基于注意力机制的RNN可以解决上述问题，其中注意力机制可以自动赋予之前项目对预测的不同影响，并达到最优性能。

尽管基于注意力的解决方案可以为每个时间步项目分配不同的权重，使其对预测下一个项目做出不同的贡献，但是这个过程是动态的。前一个项目可能会因为其特性而在选择下一个不同类型的项目时发挥不同的作用和表现出不同的影响。然而，现有的基于注意力的RNN解决方案采用了一种固定的策略来综合前面时间步项目的影响。因此，现有方法不足以捕获用户多样性序列决策的动态过程，导致性能不佳。

发明内容

本发明的目的是提供一种基于自适应注意力的序列推荐方法及装置，以提高推荐系统性能。

为解决上述技术问题，本发明提供如下技术方案：

一种基于自适应注意力的序列推荐方法，包括：

获得用户历史交互项目序列和待推荐项目序列；

在预先训练获得的自适应注意力感知GRU网络的输入层，根据所述历史交互项目序列和所述待推荐项目序列，确定输入自适应注意力；

将所述输入自适应注意力作用于所述历史交互项目序列中，获得输入序列；

基于所述历史交互项目序列和所述输入序列的结合，获得输入层输出结果；

在所述自适应注意力感知GRU网络的隐藏状态层，根据所述输入层输出结果和所述待推荐项目序列，确定隐藏自适应注意力；

将所述隐藏自适应注意力作用于所述输入层输出结果中，获得隐藏状态序列；

基于所述输入层输出结果和所述隐藏状态序列的结合，获得隐藏状态层输出结果；

在所述自适应注意力感知GRU网络的输出层，根据所述隐藏状态层输出结果，确定推荐给所述用户的项目。