[发明专利]一种基于元路径邻域目标泛化的序列推荐方法

说明书

本发明公开了一种基于元路径邻域目标泛化的序列推荐方法。该方法包括：根据用户的历史行为序列，将项目及其共现建模为项目‑项目图，根据各项目与标签之间的对应关系构建项目‑标签图，并构建元路径用于捕获项目或标签之间的不同复合关系；利用异构图编码用户历史交互信息，并构建项目和项目、项目和标签之间的关系，并采用消息传播机制和消息聚合机制来融合不同类型的节点及其关系；针对异构图进行嵌入学习训练以获得经训练的序列推荐模型，在训练中，对于每个目标预测，泛化潜在项目目标用于辅助训练，并将项目节点的向量表示输入到转换层。本发明能够提升推荐项目的准确率，并且探索用户在历史交互行为之外的潜在兴趣项目。

技术领域

本发明涉及序列推荐技术领域，更具体地，涉及一种基于元路径邻域目标泛化的序列推荐方法。

背景技术

给定用户对商品的历史点击行为，为用户推荐下一个可能感兴趣的商品项目，称为序列推荐。在推荐系统中，点击率(也称点击通过率，click-through rate，CTR)的性能对用户体验产生很大影响，从而影响产品的最终收入。构建CTR预测模型的主要挑战是从用户的历史行为中精心建模用户的偏好。针对用户历史行为的序列推荐，已经提出了多种CTR预测模型。

序列推荐模型主要涉及序列推荐和图神经网络(GNN)两个研究领域。推荐系统的早期工作通常采用协同过滤来模拟用户的行为序列，但是这些方法通常会忽略序列的次序信息，不适合序列推荐。最近，循环神经网络(RNN)及其变体GRU和LSTM在建模用户行为方面变得越来越流行。例如，将注意力机制合并到RNN中，以捕获用户在会话中的偏好变化。又如，将门控循环神经网络(GRU)与针对序列推荐量身定制的损失函数相结合。这些方法的主要思想是将用户的历史行为编码成反映其偏好的嵌入向量来做出预测。然而，这些循环网络限制了在会话中对项目之间的相互影响进行建模的能力。因此，受Transformer架构的启发，SASRec和BERT4Rec使用Transformer架构来学习序列中项目的相互影响系数。

对于图神经网络，许多研究工作已经证明了图神经网络对图结构数据建模的能力。例如，包括GCN、GAT和GraphSAGE在内的GNN的变体在节点嵌入表示学习方面表现出突破性的性能。最近，GNN被广泛应用于推荐。例如，PinSage结合了GraphSAGE并实现了深度图节点嵌入的大规模应用。MEIRec利用元路径引导的GNN对复杂对象(商品、用户)在异构图中的丰富交互行为进行建模，以进行搜索意图推荐。然而，所有这些方法都不是为序列推荐而设计的，因为它们忽略了序列中的次序信息。随后，SR-GNN提出将会话序列建模为图结构数据，并通过考虑项目之间的复杂转换关系来获得更准确的项目嵌入。Fi-GNN将广告系统的多字段特征用图结构呈现，并结合门控GNN来学习序列中的特征交互。HyperRec采用超图结构来表示项目的短期相关性，并采用卷积层来学习嵌入。MA-GNN应用GNN方法对短期项目相关性进行建模，并使用记忆网络对长期项目依赖性进行建模。然而，所有这些方法都是从左到右的单向模型，无法学习历史序列中项目的相互影响。此外，这些方法未能在CTR预测中考虑行为目标泛化。

最近，针对用户历史行为的序列推荐提出了多种CTR预测模型。GRU-BPR及其变体采用GRU对用户行为序列进行建模。Bert4Rec认为单向架构限制了隐藏层嵌入的表达能力，因此使用通过完形填空任务训练的双向自注意力机制网络对用户行为序列进行建模。尽管这些模型在向用户推荐高度相关的项目方面很普遍且有效，但它们的序列学习方法不足以学习用户行为的最佳嵌入表示向量，并且不可避免地会损害长期的用户体验。主要限制包括：(a)高度单一的推荐。属性相似度高的商品，曝光率更高，可能会让用户对推荐内容感到单调。(b)兴趣探索不足，无法帮助用户找到潜在兴趣的项目。