[发明专利]基于注意力机制的项目级和特征级深度协同过滤推荐算法

权利要求书

1.基于注意力机制的项目级和特征级深度协同过滤推荐算法，其特征在于，包括如下步骤：

S1统计用户的历史项目评分；

S2根据用户的历史项目评分计算用户对目标项目的特征级内容表示；

S3根据用户的历史项目评分以及S2的技术结果计算用户对目标项目的项目级预测评分。

2.根据权利要求1所述的注意力机制的项目级和特征级深度协同过滤推荐算法，其特征在于：

所述S2包括

利用历史项目集q第j个项目的t个重要特征形成n维向量(q_j1,q_j2,…,q_jt),其中q_jt代表历史项目集q的第j个项目的第t个特征的特征值，其中p_it代表目标项目集p的第i个项目的第t个特征的特征值；

使用两层的MLP模型来学习特征级的注意力权重：

θ_jt＝ω₂′ReLU(ω₁′(p_it⊙q_jt)+b₁′)+b₂′ (11)

其中权重ω₁’，偏置向量b₁’是输入层到隐藏层的参数，ω₂’，b₂’隐藏层到输出层的参数，而ReLU为激活函数；

特征级注意力权重的一般形式为：

使用β作为平滑指数：

项目的内容特征加权为：

指定至少一个目标函数来进行优化。

3.根据权利要求2所述的注意力机制的项目级和特征级深度协同过滤推荐算法，其特征在于：

所述S3包括

根据公式(6)计算，其中为用户u对项目i的预测评分，r_uj表示用户u对历史项目j的评分，s_ij表示目标项目i和历史项目j的相似性，

其中将系数近似取1；

预测用户u对目标项目i的偏好时，其中a_ij为用户u的表示中历史项目j的注意力权重；

将a_ij参数化为p_i和q_j作为输入的函数：

a_ij＝f(p_i，q_j) (7)

使用多层感知器来模拟注意力机制并参数化注意力函数f：

f(p_i，q_j)＝ω₂ReLU(ω₁(p_i⊙q_j)+b₁)+b₂ (8)

其中ω₁，b₁是输入层到隐藏层的参数，ω₂，b₂为隐藏层到输出层的参数；

将注意力权重转换为概率分布的形式。

4.根据权利要求3所述的注意力机制的项目级和特征级深度协同过滤推荐算法，其特征在于：

所述S3中注意力权重转换为概率分布的形式包括，

使用γ来减轻对活跃用户注意权重的惩罚；其中γ为取值范围是[0，1]的平滑指数；

当γ＝1时，使用Softmax函数通过公式(9)计算

当γ<1时，采用公式(10)替换公式(9)；

5.根据权利要求4所述的注意力机制的项目级和特征级深度协同过滤推荐算法，其特征在于：

所述S2中指定至少一个目标函数来进行优化包括

当处理的问题都是二进制值1或0的隐性反馈时，将学习推荐模型作为二分类任务，将R_(u)⁺和R_(u)^-分别表示样本正实例集和负实例集，使用正则化对数损失定义最小化的目标函数：

其中N表示训练集的大小，是sigmoid函数，表示用户u对项目i评分的可能性，λ是正则化参数。