[发明专利]一种缓解数据稀疏性和商品冷启动的商品推荐模型

权利要求书

1.一种缓解数据稀疏性和商品冷启动的商品推荐模型，其特征在于，包括：

Embedding预训练层：用于引入商品的各类属性，利用随机游走算法对商品的各类属性进行建模并获取到对应的Embedding向量，利用神经网络对各类Embedding向量的权重进行训练并融合，得到最终商品的Embedding；

多头自注意力网络层：将用户历史交互商品序列对应的特征向量和位置特征编码进行组合，作为多头自注意力网络层的输入，经过多头自注意力网络层线性变换后，输出经过编码的用户行为序列，并对用户行为序列内部隐含的商品间的依赖关系进行提取；

注意力权重AUGRU：根据提取出的依赖关系，引入注意力权重AUGRU结构，结合注意力得分对兴趣演化路径进行筛选；

多层神经网络MLP：将得到的兴趣演化结果和商品的Embedding进行拼接，输入到多层神经网络MLP中自动学习特征之间的非线性组合关系，最后输出用户购买目标商品的概率，根据概率判别是否向用户推荐该商品。

2.如权利要求1所述的一种缓解数据稀疏性和商品冷启动的商品推荐模型，其特征在于，商品的各类属性包括商品主分类、商品子分类以及商品品牌，通过加权平均的方法获取商品聚合后的Embedding向量公式，如下所示：

其中，表示商品v的第j类属性对应的Embedding，为相应的权重，用于保证每类辅助信息的权重都大于0。

3.如权利要求2所述的一种缓解数据稀疏性和商品冷启动的商品推荐模型，其特征在于，使用Skip-Gram神经网络模型对各类Embedding的权重进行训练，EGES的损失函数表示为：

其中，H_v,Z_u分别表示商品v和商品u的Embedding，σ为sigmoid激活函数。

4.如权利要求1所述的一种缓解数据稀疏性和商品冷启动的商品推荐模型，其特征在于，位置特征编码的维度和用户历史交互商品序列对应的特征向量保持一致，均为d_model，位置编码的特征向量E称为用户历史交互商品向量，且表示如下：

将用户历史交互商品向量E输入到多头自注意力网络中，通过线性转换得到对应的Q，K和V，并且多个Linear层有不同的权重系数，再经过H次Scaled Dot-Product Attention操作得到Z＝{Z₁,Z₂,…,Z}，具体公式如下所示：

其中，d_k为Q和K的维度；

将输出的H个Z_i拼接得到经过一次线性转化即可得到最终输出H＝{H₁,H₂,…,H}，为保证输出的H结构和输入E保持一致，设置权重矩阵d_model为输入向量E的维度。

5.如权利要求4所述的一种缓解数据稀疏性和商品冷启动的商品推荐模型，其特征在于，将商品序列的表达向量H输入到前馈神经网络FFN中，所述前馈神经网络FFN由两个线性变换和一个ReLU激活函数构成，具体公式如下：

FNN(h_t)＝max(0,h_tW₁+b₁)W₂+b₂ (5)

经过前馈神经网络后，完成对用户历史交互商品向量中商品依赖关系的提取。