[发明专利]基于RNN、注意力机制的新闻推荐方法及主题表征方法

摘要

本发明涉及一种基于RNN、注意力机制的新闻推荐方法及主题表征方法，将传统的主题模型与神经网络词向量结合，可有效提升新闻内容文本语义提取与表示的准确性；利用RNN网络刻画用户新闻浏览的序列性特征，可极大提升个性化新闻推荐内容的时效性；利用注意力机制区分不同新闻对推荐预测的影响力权重，可捕捉到用户兴趣迁移，提升个性化新闻推荐内容准确性与新颖性；最后，结合DBSCAN密度聚类算法的注意力机制，通过密度聚类对新旧话题进行启发式发现，利用主题聚类结果动态计算新闻的影响力权重，提升推荐话题的新颖性。

主权项

1.一种新闻主题表征方法，其特征在于，包括：利用关键词算法对新闻标题进行关键词提取，利用主题模型对新闻正文文本进行主题建模，然后对主题模型得到的主题分布和词分布分别进行采样，最后利用词向量对采样的关键词和主题词进行词向量化，具体步骤如下：步骤1.1，利用TF‑IDF算法计算出每篇新闻标题中各个词的权重；步骤1.2，利用LDA主题模型对新闻正文文本进行主题建模，训练获得每篇新闻正文的主题分布θ和词分布步骤1.3，对于每篇新闻正文，采样其主题分布θ，选取概率值由大到小的前K个主题作为新闻正文的主题表示T＝{t1，t2，...，ti，...，tk}；步骤1.4，对于每篇新闻标题，选取标题中各词权重最高的2个词作为其关键词；步骤1.5，对于每篇新闻的每个主题t_i，根据其词分布采样出词概率最高的前M个单词加上该篇新闻标题的2个关键词，将这K*M+2个单词转换为词向量表征集W＝{w₁,w₂,...,w_i,...,w_K*M+2}；步骤1.6，对于第i篇新闻的词向量表征集Wi，分别以词分布和主题分布的概率值作为其权重，依次对每个主题的各个单词、每篇新闻的各个主题进行加权平均，最终将这K*M+2个词向量映射到一个词向量Embeddingi中，将该词向量作为该篇新闻的主题表征；步骤1.7，遍历整个新闻语料集，循环执行步骤1.3到步骤1.6，可得到语料集中每篇新闻的主题表征集合D＝{d1,d2,...,di,...,dN}；其中，N为用户浏览新闻语料库中新闻的数量。