[发明专利]一种面向群组的基于联合概率矩阵分解的项目推荐方法

摘要

本发明公开了一种面向群组的基于联合概率矩阵分解的项目推荐方法，其特征包括如下步骤：步骤一，用三元组表示用户对项目的评分信息和用户属于群组的信息；步骤二，计算基于用户属于群组信息三元组的用户相关性；步骤三，实施基于用户相关性的联合概率矩阵分解方法，获得用户特征矩阵和项目特征矩阵；步骤四，利用平均策略计算得到群组特征矩阵；步骤五，获取每个群组对项目的预测评分最高的前N个项目构成推荐列表。本发明将基于群组信息的用户相关性融入到概率矩阵分解之中，实施基于用户相关性的联合概率矩阵分解，并且利用平均策略计算得到群组特征矩阵，从而得到面向群组的推荐结果，在一定程度上能过为群组提供更加准确的个性化服务。

主权项

一种面向群组的基于联合概率矩阵分解的项目推荐方法，其特征是按如下步骤进行：步骤1、构造三元组T和三元组P：步骤1.1、用三元组T＝<U,I,R>表示用户对项目的评分信息；U表示用户集，并有U＝{U₁,U₂,...,U_i,...,U_|U|}；U_i表示第i个用户；I表示项目集，并有I＝{I₁,I₂,...,I_j,...,I_|I|}；I_j表示第j个项目；R表示评分信息矩阵，并有R＝{R_i,j}_|U|×|I|；R_i,j表示第i个用户U_i对第j个项目I_j的评分；1≤i≤|U|；1≤j≤|I|；步骤1.2、用三元组P＝<G,U,A>表示用户属于群组的信息；G表示群组集，并有G＝{G₁,G₂,...,G_g,...,G_|G|}；G_g表示第g个群组；A表示群组用户矩阵，并有A＝{A_g,i}_|G|×|U|；A_g,i＝1表示第i个用户U_i属于第g个群组；A_g,i＝0表示第i个用户U_i不属于第g个群组；1≤g≤|G|；步骤2、计算基于三元组P的用户相关性；步骤2.1、利用式(1)获得第i个用户U_i和第m个用户U_m共同属于同一群组的个数C_i,m，从而获得所有用户之间的共同属于同一群组的信息矩阵C＝{C_i,m}_|U|×|U|：C_i,_m＝|A_·i∩A_·m|         (1)式(1)中，A_·i表示第i个用户U_i是否属于群组集G的信息；A_·m表示第m个用户U_m是否属于群组集G的信息；1≤m≤|U|；步骤2.2、利用式(2)获得归一化处理后的个数C′_i,m，从而获得所有用户之间的共同属于同一群组的归一化信息矩阵C′＝{C′_i,m}_|U|×|U|：$C_{i,m}^{\&prime;}=\frac{C_{i,m}}{max\{C_{i,1},C_{i,2},...,C_{i,\left|U\right|}\}}---\left(2\right)$步骤3、利用联合概率矩阵分解方法获得用户特征矩阵W和项目特征矩阵V：步骤3.1、利用式(3)构建评分信息矩阵R的先验分布$p\left(R\right|W,V,{\mathrm{\&sigma;}}_R^2)=\underset{i=1}{\overset{\left|U\right|}{\&Pi;}}\underset{j=1}{\overset{\left|I\right|}{\&Pi;}}{\left(N\right(R_{i,j}|g\left(W_i^T{V}_j\right),{\mathrm{\&sigma;}}_R^2\left)\right)}^{I_{i,j}^R}---\left(3\right)$式(3)中，W_i表示第i个用户U_i的特征向量；V_j表示第j个项目I_j的特征向量；W表示所有用户的特征向量所构成的用户特征矩阵；V表示所有项目的特征向量所构成的项目特征矩阵；表示第i个用户U_i对第j个项目I_j的评分R_i,j服从均值为方差为的正态分布；并有表示将W_i^TV_j的值映射到[0,1]内；当第i个用户U_i对第j个项目I_j进行过评分，则令否则，令步骤3.2、利用式(4)构建用户特征矩阵W的先验分布$\begin{array}{c}p\left(W\right|C^{\&prime;},{\mathrm{\&sigma;}}_W^2,{\mathrm{\&sigma;}}_{C^{\&prime;}}^2)\&Proportional;p\left(W\right|{\mathrm{\&sigma;}}_W^2)p\left(W\right|C^{\&prime;},{\mathrm{\&sigma;}}_{C^{\&prime;}}^2)=\\ \underset{i=1}{\overset{\left|\right|U|}{\mathrm{\&Pi;}}}N\left(W_i|0,{\mathrm{\&sigma;}}_W^{2}J\right)\&times;\underset{i=1}{\overset{\left|U\right|}{\mathrm{\&Pi;}}}N\left(W_i|\underset{m=1}{\overset{\left|U\right|}{\mathrm{\&Pi;}}}{C}_{i,m}^{\&prime;}{W}_m,{\mathrm{\&sigma;}}_{C^{\&prime;}}^{2}J\right)\end{array}---\left(4\right)$式(4)中，J表示单位向量；表示第i个用户U_i的特征向量W_i的方差，表示第i个用户U_i的特征向量W_i服从均值为0，方差为的正态分布；同理，表示第i个用户U_i的特征向量W_i服从均值为方差为的正态分布；W_m表示第m个用户U_m的特征向量；步骤3.3、利用式(5)构建项目特征矩阵V的先验分布$p\left(V\right|{\mathrm{\&sigma;}}_V^2)=\underset{j=1}{\overset{\left|I\right|}{\&Pi;}}N\left(V_j\right|0,{\mathrm{\&sigma;}}_V^{2}J)---\left(5\right)$式(5)中，表示第j个项目I_j的特征向量V_j服从均值为0，方差为的正态分布；步骤3.4、由式(3)、式(4)和式(5)进行贝叶斯推断，获得如式(6)所示的用户特征矩阵W和项目特征矩阵V的极大后验概率$\begin{array}{c}p\left(W,V|R,C^{\&prime;},{\mathrm{\&sigma;}}_R^2,{\mathrm{\&sigma;}}_C^2,{\mathrm{\&sigma;}}_W^2,{\mathrm{\&sigma;}}_V^2\right)\&Proportional;p\left(R|W,V,{\mathrm{\&sigma;}}_R^2\right)p\left(W|C^{\&prime;},{\mathrm{\&sigma;}}_W^2,{\mathrm{\&sigma;}}_C^2\right)p\left(V|{\mathrm{\&sigma;}}_V^2\right)\\ =\underset{i=1}{\overset{\left|U\right|}{\mathrm{\&Pi;}}}\underset{j=1}{\overset{\left|I\right|}{\mathrm{\&Pi;}}}{\left(N\left(R_{i,j}|g\left(W_i^T{V}_j\right),{\mathrm{\&sigma;}}_R^2\right)\right)}^{I_{i,j}^R}\&times;\underset{i=1}{\overset{\left|U\right|}{\mathrm{\&Pi;}}}N\left(W_i|0,{\mathrm{\&sigma;}}_W^{2}J\right)\&times;\\ \underset{i=1}{\overset{\left|U\right|}{\mathrm{\&Pi;}}}N\left(W_i|\underset{m=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}{C}_{i,m}^{\&prime;}{W}_m,{\mathrm{\&sigma;}}_{C^{\&prime;}}^{2}J\right)\&times;\underset{j=1}{\overset{\left|I\right|}{\mathrm{\&Pi;}}}N\left(V_j|0,{\mathrm{\&sigma;}}_V^{2}J\right)\end{array}---\left(6\right)$步骤3.5、对式(6)经过对数处理获得式(7)：$\begin{array}{c}\ln p\left(W,V|R,C^{\&prime;},{\mathrm{\&sigma;}}_R^2,{\mathrm{\&sigma;}}_C^2,{\mathrm{\&sigma;}}_W^2,{\mathrm{\&sigma;}}_V^2\right)=-\frac{1}{2{\mathrm{\&sigma;}}_R^2}\underset{i=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}\underset{j=1}{\overset{\left|V\right|}{\mathrm{\&Sigma;}}}{I}_{i,j}^R{\left(R_{i,j}-g\left(W_i^T{V}_j\right)\right)}^2-\frac{1}{2{\mathrm{\&sigma;}}_W^2}\underset{i=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}{W}_i^T{W}_i-\\ \frac{1}{2{\mathrm{\&sigma;}}_{C^{\&prime;}}^2}\underset{i=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}{\left(W_i-\underset{m=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}{C}_{i,m}^{\&prime;}{W}_m\right)}^T\left(W_i-\underset{m=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}{C}_{i,m}^{\&prime;}{W}_m\right)-\frac{1}{2{\mathrm{\&sigma;}}_V^2}\underset{j=1}{\overset{\left|I\right|}{\mathrm{\&Sigma;}}}{V}_j^T{V}_j-\\ \frac{1}{2}\left(\underset{i=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}\underset{j=1}{\overset{\left|V\right|}{\mathrm{\&Sigma;}}}{I}_{i,j}^R\right){\mathrm{ln\&sigma;}}_R^2-\frac{1}{2}\left(\left|U\right|\&times;H\right){\mathrm{ln\&sigma;}}_W^2-\frac{1}{2}\left(\left|U\right|\&times;H\right){\mathrm{ln\&sigma;}}_{C^{\&prime;}}^2-\\ \frac{1}{2}\left(\left|I\right|\&times;H\right){\mathrm{ln\&sigma;}}_V^2+D\end{array}---\left(7\right)$式(7)中，H表示第i个用户的特征向量W_i和第j个项目的特征向量V_j的维度；D为常量；步骤3.6、对式(7)进行推导，获得如式(8)所示的最小化目标函数L(R,C′,W,V)：$\begin{array}{c}L(R,C^{\&prime;},W,V)=\frac{1}{2}\underset{i=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}\underset{j=1}{\overset{\left|I\right|}{\&Sigma;}}{I}_{i,j}^R{(R_{i,j}-g(W_i^T{V}_j\left)\right)}^2+\frac{{\mathrm{\&lambda;}}_W}{2}\underset{i=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}{W}_i^T{W}_i+\\ \frac{{\mathrm{\&lambda;}}_V}{2}\underset{j=1}{\overset{\left|I\right|}{\mathrm{\&Sigma;}}}{V}_j^T{V}_j+\frac{{\mathrm{\&lambda;}}_C}{2}\underset{i=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}{\left(W_i-\underset{m=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}{C}_{i,m}^{\&prime;}{W}_m)\right)}^T\left(W_i-\underset{m=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}{C}_{i,m}^{\&prime;}{W}_m\right)\end{array}---\left(8\right)$式(8)中，步骤3.7、随机初始化用户特征矩阵W和项目的特征矩阵V；步骤3.8、设定迭代阈值为τ，并初始化迭代次数Z＝1；步骤3.9、利用式(9)和式(10)分别获得第Z次迭代的第i个用户U_i的特征向量W_i的梯度以及第Z次迭代的第j个项目I_j的特征向量V_j的梯度$\begin{array}{c}{\left(\frac{\&part;L}{\&part;W_i}\right)}^{\left(Z\right)}=\underset{j=1}{\overset{\left|I\right|}{\mathrm{\&Sigma;}}}{I}_{i,j}^R{g}^{\&prime;}\left({\left(W_i^{\left(Z\right)}\right)}^T{V}_j^{\left(Z\right)}\right)\left(g\left({\left(W_i^{\left(Z\right)}\right)}^T{V}_j^{\left(Z\right)}\right)-R_{i,j}\right)V_j^{\left(Z\right)}+{\mathrm{\&lambda;}}_W{W}_i^{\left(Z\right)}+\\ {\mathrm{\&lambda;}}_C\left(W_i^{\left(Z\right)}-\underset{m=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}{C}_{i,m}^{\&prime;}{W}_m^{\left(Z\right)}\right)-{\mathrm{\&lambda;}}_C\underset{m=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}{C}_{m,i}^{\&prime;}\left(W_m^{\left(Z\right)}-\underset{t=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}{C}_{t,m}^{\&prime;}{W}_t^{\left(Z\right)}\right)\end{array}---\left(9\right)$${\left(\frac{\&part;L}{\&part;V_j}\right)}^{\left(Z\right)}=\underset{i=1}{\overset{\left|U\right|}{\mathrm{\&Sigma;}}}{I}_{i,j}^R{g}^{\&prime;}\left({\left(W_i^{\left(Z\right)}\right)}^T{V}_j^{\left(Z\right)}\right)\left(g\left({\left(W_i^{\left(Z\right)}\right)}^T{V}_j^{\left(Z\right)}\right)-R_{i,j}\right)W_i^{\left(Z\right)}+{\mathrm{\&lambda;}}_V{V}_j^{\left(Z\right)}---\left(10\right)$步骤3.10、利用式(11)和式(12)分别更新第Z次迭代的第i个用户U_i的特征向量W_i^(Z)以及第Z次迭代的第j个项目I_j的特征向量获得第Z+1次迭代的第i个用户U_i的特征向量W_i^(Z+1)以及第Z+1次迭代的第j个项目I_j的特征向量$W_i^{(Z+1)}=W_i^{\left(Z\right)}-\mathrm{\&beta;}{\left(\frac{\&part;L}{\&part;W_i}\right)}^{\left(Z\right)}---\left(11\right)$$V_j^{(Z+1)}=V_j^{\left(Z\right)}-\mathrm{\&beta;}{\left(\frac{\&part;L}{\&part;V_j}\right)}^{\left(Z\right)}---\left(12\right)$式(11)和式(12)中，β为学习率；步骤3.11、将Z+1赋值给Z，判断Z≤τ是否成立，若成立，则重复步骤3.9和步骤3.10执行；否则，表示获得更新的第i个用户U_i的特征向量W_i′以及更新的第j个项目I_j的特征向量V_j′，从而获得所有用户更新的用户特征矩阵W′和更新的项目特征矩阵V′；步骤4、利用平均策略计算得到群组特征矩阵M：步骤4.1、利用式(13)得到第g个群组G_g的群组特征向量M_g：$M_g=\frac{1}{\left|G_g\right|}\underset{x=1}{\overset{\left|G_g\right|}{\&Sigma;}}{W}_g^{\&prime;\left(x\right)}---\left(13\right)$式(13)中，表示属于第g个群组G_g的第x个用户U_X的特征向量；|G_g|表示第g个群组G_g内所含用户的个数；步骤4.2、对所有群组，重复步骤4.1，从而获得群组特征矩阵M＝{M₁,M₂,…,M_g,…M_|G|}；步骤5、获取对每个群组的预测评分最高的前N个项目构成推荐列表：步骤5.1、利用式(14)得到第g个群组G_g对第j个项目I_j的预测评分$\widehat{R_{g,j}}=\underset{l=1}{\overset{H}{\&Sigma;}}{M}_g^{\left(l\right)}{V}_j^{\left(l\right)}---\left(14\right)$式(14)中，表示第g个群组G_g的特征向量M_g中第l个元素；表示第j个项目I_j的特征向量V_j中第l个元素；步骤5.2、重复步骤5.1，从而获得第g个群组G_g对所有项目的预测评分，并从所有项目的预测评分中选取评分最高的且第g个群组G_g中所有用户均未评分的前N个项目组成第g个群组G_g的推荐列表，从而获得所有群组的推荐列表。