[发明专利]一种基于条件受限波尔兹曼机的协同过滤优化方法

摘要

本发明公开了一种基于条件受限波尔兹曼机的协同过滤优化方法，该方法通过在改进的条件受限波尔兹曼机中融合项目类别信息作为条件层，在个性化推荐系统中提高推荐准确性。其特点是利用用户-项目评分信息、项目类别信息进行建模，考虑用户-项目评分信息、项目类别信息对用户兴趣偏好及预测评分的不同影响，并应用到改进的条件受限波尔兹曼机的计算。由于同时考虑了用户-项目评分信息、项目类别信息对用户兴趣偏好、预测评分的影响，该方法削弱了单一数据源对推荐系统的制约，提高了推荐准确性，实验结果表明该方法的推荐准确性明显高于仅采用用户-项目评分信息的受限波尔兹曼机方法。

主权项

一种基于条件受限波尔兹曼机的协同过滤优化方法，其特征在于：所述方法分为两个阶段：第一个阶段是设计阶段，根据条件受限波尔兹曼机模型的特点和数据集的特征进行模型设计，模型包括可见层V，即评分数据输入层、隐藏层H，即特征提取层和条件层F，即条件数据输入层；实现步骤如下：步骤A1、利用条件多项式概率分布对可见层v每一列的评分向量进行建模，可见层的单元被激活的概率为：$p(v_i^k=1|H,F)=\frac{\exp (b_i^k+{\mathrm{\&Sigma;}}_{j=1}^H{W}_{ij}^k{h}_j+{\mathrm{\&Sigma;}}_{q=1}^F{f}_q{\mathrm{VF}}_{qi})}{{\mathrm{\&Sigma;}}_{k=1}^K\exp (b_i^k+{\mathrm{\&Sigma;}}_{j=1}^H{W}_{ij}^k{h}_j+{\mathrm{\&Sigma;}}_{q=1}^F{f}_q{\mathrm{VF}}_{qi})}$其中表示可见层第i个评分为k的二进制数值；h_j表示隐藏层第j个单元的二进制数值；f_q表示条件层第q个单元的特征值；表示可见层第i个评分为k的单元偏置；b_j表示隐藏层第j个单元的偏置；表示可见层与隐藏层之间的连接权重；VF_qi表示可见层与条件层的连接权重；步骤A2、利用伯努利概率分布对隐藏层H的特征向量进行建模，隐藏层的单元h_j被激活的概率：$p(h_j=1|V,F)=\mathrm{\&sigma;}(b_j+\underset{i=1}{\overset{V}{\&Sigma;}}\underset{k=1}{\overset{K}{\&Sigma;}}{v}_i^k{W}_{ij}^k+\underset{q=1}{\overset{F}{\&Sigma;}}{f}_q{\mathrm{HF}}_{qj})$其中表示可见层第i个评分为k的二进制数值；f_q表示条件层第q个单元的特征值；表示可见层第i个评分为k的单元偏置；b_j表示隐藏层第j个单元的偏置；表示可见层与隐藏层之间的连接权重；HF_qi表示隐藏层与条件层的连接权重；是激活函数，其中$x=b_j+\underset{i=1}{\overset{V}{\&Sigma;}}\underset{k}{\overset{K}{\&Sigma;}}{v}_i^k{W}_{ij}^k+\underset{q=1}{\overset{F}{\&Sigma;}}{f}_q{\mathrm{HF}}_{qj};$第二个阶段是学习阶段，构造模型参数并求出最佳的参数值，用于预测评分,包括如下步骤：步骤B1、参数初始化参数为可见层与隐藏层的连接权重可见层与条件层的连接权重VF_qi、隐藏层与条件层的连接权重HF_qi都使用均值为0，标准差为0.01的正态分布进行初始化；可见层单元偏置隐藏层单元偏置b_j初始化为全零；步骤B2、采用随机梯度上升法进行参数更新，通过不断迭代更新得到模型参数的最佳值，参数的梯度公式如下：${\mathrm{\&Delta;W}}_{ij}^k=\frac{\&part;logp\left(V\right)}{\&part;W_{ij}^k}=\&lt;v_i^k{h}_j{\&gt;}_{data}-\&lt;v_i^k{h}_j{\&gt;}_{\mathrm{mod}el}$${\mathrm{\&Delta;b}}_i^k=\frac{\&part;\log p\left(V\right)}{\&part;b_i^k}=\&lt;v_i^k{\&gt;}_{data}-\&lt;v_i^k{\&gt;}_{\mathrm{mod}el}$${\mathrm{\&Delta;b}}_j=\frac{\&part;\log p\left(V\right)}{\&part;b_j}=\&lt;h_j{\&gt;}_{data}-\&lt;h_j{\&gt;}_{\mathrm{mod}el}$${\mathrm{\&Delta;VF}}_{qi}=\frac{\&part;\log p\left(V\right)}{\&part;{\mathrm{VF}}_{qi}}=\&lt;v_i^k{f}_q{\&gt;}_{data}-\&lt;v_i^k{f}_q{\&gt;}_{\mathrm{mod}el}$${\mathrm{\&Delta;HF}}_{qj}=\frac{\&part;\log p\left(V\right)}{\&part;{\mathrm{HF}}_{qj}}=\&lt;h_j{f}_q{\&gt;}_{data}-\&lt;h_j{f}_q{\&gt;}_{\mathrm{mod}el}$其中<·>_data表示由训练集定义的期望；<·>_model表示由模型IC‑CRBMF定义的期望；步骤B3、预测评分，根据最佳的参数值进行评分预测；$R=\underset{k=1}{\overset{K}{\&Sigma;}}k\&CenterDot;p(v_i^k=1|H,F)$IC‑CRBMF：代表融合项目类别信息的基于条件受限波尔兹曼机的协同过滤推荐方法；根据基于用户和基于项目，将IC‑CRBMF分为基于用户的IC‑CRBMF_UserBased和基于项目的IC‑CRBMF_ItemBased两种，然后通过Hybrid IC‑CRBMF混合加权组合得到最终的预测结果，计算如下：R_Hybrid＝β·R_{IC‑CRBMF_ItemBased}+(1‑β)·R_{IC‑CRBMF_UserBased}其中β表示组合权重。