[发明专利]基于用户多兴趣特征的智能新闻推荐方法和系统

权利要求书

1.一种基于用户多兴趣特征的智能新闻推荐方法，其特征在于，该方法通过构建并训练由多视角级别的新闻编码器、用户多兴趣特征网络、点击率预测器所构成的新闻推荐模型，将所有候选新闻依据点击率大小由高到低进行排序，将Top-K条新闻推荐给用户；具体如下：

构建多视角级别的新闻编码器，以新闻的标题、摘要、类别和子类别信息作为输入，分别从上述四类信息的视角学习新闻向量；

构建用户多兴趣特征网络，以多视角级别的新闻编码器生成的新闻向量为输入，使用多头自注意力机制、加性注意力机制和多通道的门控循环单元网络得到用户多兴趣特征向量；

构建点击率预测器，根据候选新闻向量和用户多兴趣特征向量，计算用户对每一条候选新闻的点击率；将所有候选新闻依据点击率大小由高到低进行排序，将Top-K条新闻推荐给用户。

2.根据权利要求1所述的基于用户多兴趣特征的智能新闻推荐方法，其特征在于，所述多视角级别的新闻编码器的构建过程具体如下：

从新闻标题的视角学习新闻特征表示：以新闻标题作为输入；嵌入层负责针对数据集中新闻标题的每一个单词构建单词映射表，并将表中每一个单词映射成唯一的数字标识，映射规则为：以数字1为起始，随后按照每个单词被录入单词映射表的顺序依次递增排序，从而形成单词映射转换表；使用Glove预训练语言模型，得到每个单词的词向量表示；将每一个新闻标题T＝[w₁,w₂,...,w_m]转换成词向量表示，其中w_m表示标题中的第m个单词，记为E＝[e₁,e₂,...,e_m]，其中，m表示一个新闻标题的长度，e_m表示第m个单词的向量表示；

针对获得的新闻标题的词向量表示E＝[e₁,e₂,...,e_m]，使用多头自注意力机制进行特征提取，得到上下文特征向量[h₁,h₂,h₃,...,h_m]，公式如下：

[h₁,h₂,h₃,...,h_m]＝MultiHeadAttention(E)；

其中，h_m表示上下文特征向量中第m个单词的向量表示，MultiHeadAttention表示多头自注意力机制函数；

以上下文特征向量[h₁,h₂,h₃,...,h_m]为输入，使用加性注意力机制进一步提取关键特征，得到最终的新闻标题向量表示n^t，公式如下：

其中，是由上下文特征向量得到的注意力查询向量，V和v是从训练过程中学到的参数，运算符×为矩阵乘法，tanh为一种激活函数，a_l是第l个单词的注意力分值，α_l是第l个单词的注意力权重，m是上下文特征向量h₁,h₂,h₃,...,h_m]的长度；

从新闻摘要的视角学习新闻特征表示：以新闻摘要作为输入，具体实施方式同从新闻标题的视角学习新闻特征表示，之后得到摘要向量表示n^a；

从新闻分类的视角学习新闻特征表示：以新闻类别和子类别作为输入；通过词向量方法将新闻类别和子类别信息分别映射到低维空间向量得到每个类别的词向量表示e^c和e^sc，然后使用激活函数ReLU生成类别的最终向量表示n^c和n^sc，公式如下：

n^c＝ReLU(V_c×e^c+v_c)；

n^sc＝ReLU(V_sc×e^sc+v_sc)；

其中，ReLU是一种激活函数，V_c和v_c是从训练过程中学到的参数，运算符×为矩阵乘法；

从全部新闻内容的视角学习新闻特征表示：针对标题、摘要、类别和子类别的向量表示n^t、n^a、n^c和n^sc，经过联接操作得到多视角级别的新闻表示rⁿ，然后通过加性注意力机制得到最终的新闻向量n，公式如下：

rⁿ＝[n^t；n^a；n^c；n^sc]；

其中，符号；表示联接操作，是注意力查询向量，V_n、v_n为计算多视角级别新闻表示的注意力分数a_q的参数，tanh为激活函数，运算符×为矩阵乘法，为每个视角的向量表示，即前述的n^t、n^a、n^c和n^sc；exp为对数函数运算，M为视角的个数，即4个，α_q是多视角级别新闻表示的注意力权重。