[发明专利]训练用户行为预测模型、用户行为预测的方法和装置

权利要求书

1.一种训练用户行为预测模型的方法，所述方法包括：

获取样本集，其中任意的第一样本包括，基于样本用户和样本对象的属性特征形成的第一属性特征，基于所述样本用户做出的评论文本形成的第一文本特征，和基于针对所述样本对象的评论文本形成的第二文本特征，且所述第一样本具有第一标签和第二标签，所述第一标签示出，所述样本用户是否针对所述样本对象执行预定用户行为，所述第二标签示出，所述样本用户对所述样本对象的评分；

将所述第一属性特征、所述第一文本特征和所述第二文本特征输入待训练的用户行为预测模型，通过所述用户行为预测模型输出第一预测结果和第二预测结果；所述第一预测结果用于预测所述样本用户是否针对所述样本对象执行所述预定用户行为，所述第二预测结果用于预测所述样本用户对所述样本对象的评分；

根据所述第一预测结果和所述第一标签，确定第一损失；根据所述第二预测结果和所述第二标签，确定第二损失；

根据所述第一损失和所述第二损失，确定总损失；

根据所述样本集中各条样本对应的总损失，更新所述用户行为预测模型；

所述用户行为预测模型包括嵌入网络和特征提取器；

所述将所述第一属性特征、所述第一文本特征和所述第二文本特征输入待训练的用户行为预测模型，通过所述用户行为预测模型输出第一预测结果和第二预测结果，包括：

将所述第一属性特征输入所述嵌入网络，通过所述嵌入网络输出所述第一属性特征对应的第一特征向量；

将所述第一文本特征和所述第二文本特征输入所述特征提取器，得到所述第一文本特征对应的第一深度语义向量，以及所述第二文本特征对应的第二深度语义向量；

根据所述第一特征向量、所述第一深度语义向量和所述第二深度语义向量，确定所述第一预测结果；

根据所述第一深度语义向量和所述第二深度语义向量，确定所述第二预测结果。

2.如权利要求1所述的方法，其中，所述第一属性特征包括多项子特征；所述嵌入网络为因子分解机FM嵌入网络；

所述将所述第一属性特征输入所述嵌入网络，通过所述嵌入网络输出所述第一属性特征对应的第一特征向量，包括：

将所述多项子特征输入所述FM嵌入网络，所述FM嵌入网络将所述多项子特征表示为二阶多项式形式，得到所述二阶多项式形式对应的第一特征向量。

3.如权利要求1所述的方法，其中，所述第一文本特征对应第一初始语义向量；所述第二文本特征对应第二初始语义向量；所述特征提取器为卷积神经网络CNN；

所述将所述第一文本特征和所述第二文本特征输入所述特征提取器，得到所述第一文本特征对应的第一深度语义向量，以及所述第二文本特征对应的第二深度语义向量，包括：

将所述第一初始语义向量和所述第二初始语义向量输入所述CNN，得到所述第一文本特征对应的第一深度语义向量，以及所述第二文本特征对应的第二深度语义向量。

4.如权利要求1所述的方法，其中，所述根据所述第一特征向量、所述第一深度语义向量和所述第二深度语义向量，确定所述第一预测结果，包括：

将所述第一深度语义向量和所述第二深度语义向量进行拼接，得到第一综合语义向量；

将所述第一深度语义向量、所述第一综合语义向量和所述第二深度语义向量进行依次拼接，得到第二综合语义向量；

将所述第一特征向量和所述第二综合语义向量进行拼接，得到第二特征向量；

根据所述第二特征向量，确定所述第一预测结果。

5.如权利要求1所述的方法，其中，所述根据所述第一深度语义向量和所述第二深度语义向量，确定所述第二预测结果，包括：

将所述第一深度语义向量和所述第二深度语义向量进行拼接，得到第一综合语义向量；

将所述第一深度语义向量、所述第一综合语义向量和所述第二深度语义向量进行依次拼接，得到第二综合语义向量；

根据所述第二综合语义向量，确定所述第二预测结果。