[发明专利]一种基于用户正负偏好学习的兴趣点推荐方法

权利要求书

1.一种基于用户正负偏好学习的兴趣点推荐方法，其特征在于，包括：

采集用户对已访问的兴趣点的历史评价数值和已访问的兴趣点的相关属性数据，对采集到的数据进行预处理，对预处理后的数据中的用户、兴趣点和兴趣点属性进行统一编号；其中，所述兴趣点的相关属性数据包括：兴趣点等级、兴趣点评分、景区类型、地理位置、门票价格、游玩时长和适宜游玩季节；

根据用户对每个已访问的兴趣点的历史评价数值，将该用户已访问的兴趣点分别划分为正反馈兴趣点列表和负反馈兴趣点列表；

利用兴趣点、属性类型和具体属性值信息，构建兴趣点相关的三元组集合，并以三元组为基础单元建立完整兴趣点知识图谱；并将知识图谱中每个兴趣点、属性类型和兴趣点属性值学习表示为唯一对应的特征向量，分别构建兴趣点特征向量矩阵、属性类型特征向量矩阵和兴趣点属性值特征向量矩阵；

使用用户的正、负反馈兴趣点列表和利用所述正、负反馈兴趣点列表中对应兴趣点的兴趣点特征向量矩阵、属性类型特征向量矩阵和兴趣点属性值特征向量矩阵，构建基于注意力机制的用户偏好记忆模块，所述用户偏好记忆模块为用户构建其对应的偏好特征向量矩阵，所述偏好特征向量矩阵包括正偏好特征向量矩阵和负偏好特征向量矩阵；

使用用户的正反馈兴趣点集合，基于监督式学习方式训练该用户的正偏好神经网络模型；使用用户的负反馈兴趣点集合，基于监督式学习方式训练该用户的负偏好神经网络模型；

使用训练好的该用户的正偏好神经网络模型预测该用户未访问过兴趣点的访问概率并将其排序，获得用户正反馈的前K个兴趣点；然后使用训练好的该用户负偏好神经网络模型去预测这K个兴趣点的概率，将排名前K/2的兴趣点从这K个兴趣点中删除，将剩下的K/2的兴趣点作为最终给该用户推荐的兴趣点；使用图表示学习模型TransE将三元组中的兴趣点、属性类型和属性值映射到同一个特征向量空间中，即用三元组中的兴趣点实体，属性和属性值通过模型的评分函数进行训练，使兴趣点实体、属性类型和属性值转化成对应的特征向量；特征学习流程具有包括：

构建K行*d列的景点特征矩阵P，L行*d列的属性类型特征矩阵R和M行*d列的景点属性值特征矩阵A，其中P矩阵的每一行对应一个景点ID的向量，共K个景点向量；R矩阵的每一行对应一个属性类型ID的向量，共L个属性类型向量；A矩阵的每一行对应一个属性值ID的向量，共M个景点属性值向量；

所述用户偏好记忆模块为用户构建正偏好特征向量矩阵的方法包括：

生成初始用户偏好特征矩阵；

学习用户即时正偏好特征向量；

更新用户历史正偏好特征向量；

构建用户完整偏好特征向量；

其中，所述生成初始用户偏好特征矩阵的具体方式为：

在外部存储中按照用户ID为存储索引，为系统全部的N个用户开辟即时正偏好特征矩阵UI₊和历史偏好特征矩阵UH₊；两个矩阵为N行*d列存储空间，矩阵每行对应一个用户的d维偏好特征向量；每个用户的偏好特征向量初始化为0；

其中，所述学习用户即时正偏好特征向量的具体方式为：

用户偏好记忆模块采用注意力机制来动态学习景点向量与对应的景点属性值向量权重值，进而构建用户当前t时刻的即时偏好特征向量，注意力机制由以下公式定义：

其中为用户u在当前t时刻访问的景点，为景点具有的所有l个景点属性值特征向量集合；为景点的特征向量与景点拥有的属性值特征向量的相似度权重值，所述权重值的计算方法由以下公式计算：

其中softmax()为归一化多分类函数，为向量相似度评分函数，所述评分函数实际返回两个输入向量的点积运算结果，由公式定义；其中景点属性值与属性类型向量输入前要作相减操作，即向量相减运算，使得在景点知识图谱特征学习时，TransE模型的训练目标为使每个三元组中景点H、属性类型R和属性值T的三个向量在特征空间中满足空间距离关系H+R≈T，也即H≈T-R，在计算景点特征向量与景点属性值特征向量的相似度时，要先计算景点属性值特征向量与对应属性关系向量的向量差值：

用户u在当前t时刻的即时正偏好特征向量由以下公式定义：

用户的即时正偏好特征向量由当前访问的景点特征向量累加上该景点的带权重景点属性值特征向量构成；

其中，所述更新用户历史正偏好特征向量的具体方式为：

在计算好当前用户的即时正偏好特征向量后，用户偏好记忆模块需要将更新到该用户对应的历史正偏好特征向量中，所述历史正偏好特征向量的具体计算由以下公式定义：

上式中向量存储了用户u在前一个时刻t-1所对应的历史正偏好特征，上式中保证了用户当前t时刻的历史正偏好特征向量由用户各个时刻的即时正偏好特征依次更新得到，运算符+号为向量元素加运算操作；

其中，所述构建用户完整偏好特征向量的具体方式为：

用户偏好记忆模块将用户的历史和即时正偏好特征向量拼接后构建得到用户u的完整正偏好特征向量；所述完整正偏好特征向量由下式定义：

上式中符号⊕为向量拼接操作，即将两个d维向量收尾拼接为一个2d维的向量；向量将作为用户特征数据再与对应的景点特征向量一并输入到用户偏好神经网络模型，用于所述偏好神经网络模型的训练；

所述正偏好神经网络模型的训练流程具体包括：

读取某用户对应的正反馈兴趣点列表，构建模型的输入数据，具体的，用户u的正反馈景点列表包括：；则一个正例训练数据由该用户和一个正反馈景点数据对构成，即表示为；负例则从用户u未访问过的景点集合中通过随机采样方式构成，表示为；且每个输入正例数据只搭配四个负例；

根据输入数据查找用户和兴趣点特征向量，构建模型输入向量数据，具体的，输入正例训练数据时，根据当前输入的用户景点数据对，模型从记忆模块中查找对应的用户正偏好特征向量和景点特征向量；同时，根据如下公式将两个向量进行拼接，得到模型的初始输入向量

；

将特征向量输入多层前馈神经网络，学习用户对兴趣点的深层正偏好特征，具体的，所述多层前馈神经网络由线性隐层和非线性激活函数构成；每层神经网络的输出向量作为下一层网络的输入向量，计算公式如下：

…

其中，表示的是第L层的隐藏层输出的向量，和分别表示隐藏层中的权重矩阵和偏置向量，是一个非线性的激活函数；

利用神经网络分类器预测用户对兴趣点的访问概率，具体的，最后一层前馈神经网络输出后，模型通过一个全连接层，预测出用户对景点的访问概率，计算公式如下：

其中，是sigmoid函数，它的定义为：

是表示的是用户对景点的预测值，这个分值被sigmoid函数归一化在0到1之内，值越高，代表用户越偏好该景点；

利用反向传播算法，优化模型中权重参数以及用户记忆模块中的对应用户、兴趣点特征向量，具体的，采用对数交叉熵损失函数来优化模型，目标函数定义如下：

是用户景点对的景点标签值，0代表该景点为负例，1代表该景点为正例；

所述正偏好神经网络模型和所述负偏好神经网络模型的结构和训练方法相同。