[发明专利]一种基于用户行为区别建模的序列推荐方法

权利要求书

1.一种基于用户行为区别建模的序列推荐方法，其特征在于，包括：

获取用户的历史行为信息；

根据用户的历史行为信息计算商品特征向量；

结合商品特征向量使用行为区别建模方法进行序列建模，通过两种不同的神经网络架构获得用户的当前需求和历史偏好；

根据用户的当前购买需求和历史偏好，通过联合学习对用户下一个感兴趣的商品进行预测，并在商品向量空间中进行匹配，找到与预测结果在商品向量空间中最相近的多个商品，生成商品推荐序列；

其中，结合商品特征向量使用行为区别建模方法进行序列建模，通过两种不同的神经网络架构获得用户的当前需求和历史偏好包括：

进行会话行为建模，商品特征向量P_u＝{v₁,v₂,...,v_N}对应的交互商品序列为定义如下指示函数来确定商品x_i是否满足当前会话行为的范围：

D_SBL(x_i,x_N)＝Φ((N-i)≤Ts)；

其中，x表示商品，下标为商品的序号，b表示用户操作行为，N为交互商品序列的长度，Φ(a)是一个布尔类型函数，当a为真时，函数值为1，反之则为0；Ts表示会话行为的控制时间步，用来控制会话行为的长度；x_N是当前交互商品序列中最后一个商品；

在定义初始化LSTM矩阵之后，在第t个迭代步中，每一个的隐藏层状态h_t的更新，和上一个时间步的隐藏层状态h_t-1以及当前输入的商品特征向量v_t与行为向量b_t相关；其中更新步骤如下：

h_t＝o_ttanh(c_t)

其中，i_t、f_t、o_t分别为第t个迭代步中的输入门、遗忘门、输出门；c_t是网络单元的记忆模块；b_t为第t个迭代步中输入的对应第t个商品的用户操作行为；W_vi、W_hi、W_ci、W_bi对应为输入门i_t中v_t、h_t-1、c_t-1、b_t的权重；W_vf、W_hf、W_cf、W_bf、对应为遗忘门f_t中v_t、h_t-1、c_t-1、b_t的权重；W_vc、W_hc、W_bc对应为记忆模块中v_t、h_t-1、b_t的权重；W_vo、W_ho、W_co、W_bo对应为输出门o_t中v_t、h_t-1、c_t-1、b_t的权重；分别对应为输入门i_t、遗忘门f_t、输出门o_t、记忆模块c_t的偏差；h_t为当前状态的输出；tanh为双曲正切函数；

则用户的当前购买需求表示为：

Ψ_SBL＝h_N；

上述操作过程中，迭代次数与交互商品序列中商品数量相同，即t＝1,2,...,N，h_N序列最后一个商品x_N输入后的输出；

进行用户的历史偏好建模，对于每一个用户操作商品-行为对其指示函数表示为：

D_PBL(v_i,b_i)＝Φ(b_i∈P)；

其中，P为偏好行为的集合；

采用双向的LSTM网络来学习用户的偏好表达，在历史偏好建模的每一个时间步都有两个隐藏层输出，对于第s个时间步，其中前向输出是由其前一个时间步输出和当前的商品-行为对(v_s,b_s)所决定的；后向输出是由其后一个时间步输出和当前的商品-行为对(v_s,b_s)所决定的；相应的公式如下：

h_s＝o_stanh(c_s)

其中，i_s、f_s、o_s分别为第s个时间步的输入门、遗忘门、输出门；c_s是网络单元的记忆模块；b_s为第s个迭代步中输入的对应第s个商品的用户操作行为；W_vi'、W_hi'、W_ci'、W_bi'对应为输入门i_s中v_s、h_s-1、c_s-1、b_s的权重；W_vf'、W_hf'、W_cf'、W_bf'、对应为遗忘门f_s中v_s、h_s-1、c_s-1、b_s的权重；W_vc'、W_hc'、W_bc'对应为记忆模块中v_s、h_s-1、b_s的权重；W_vo'、W_ho'、W_co'、W_bo'对应为输出门o_s中v_s、h_s-1、c_s-1、b_s的权重；分别对应为输入门i_s、遗忘门f_s、输出门o_s、记忆模块c_s的偏差；h_s为当前状态的输出；如果为前向过程，则当前状态的输出h_s即为如果为后向过程，则当前状态的输出h_s即为

通过双向的LSTM网络，对每一个时间步都能够得到当前用户的偏好表征向量：

其中，为的向量拼接，用户的历史偏好表示为如下的平均池化过程：