[发明专利]一种基于层次注意力网络的动态新闻推荐的方法

说明书

本发明提出一种基于层次注意力网络的动态新闻推荐的方法，采用的模块包括层次注意力网络，卷积层和全连接层；在所述层次注意力网络中包括句子水平的注意力网络和新闻水平的注意力网络。用户的新闻序列和候选新闻，经过所述句子水平的注意力网络，得到所述新闻序列中句子的注意力权重，然后计算句子内容向量的加权和得到新闻的内容向量，所述新闻序列的嵌入表示与所述内容向量连接得到所述新闻的整体表示，所述整体表示经过所述新闻水平的注意力网络，获得所述新闻序列中新闻的注意力权重，得到新闻的最终表示；在卷积层中，按序堆叠历史新闻的最终表示得到矩阵，输入卷积层学习用户序列阅读模式，得到序列偏好向量；在全连接层中，将所述序列偏好向量、候选新闻整体表示和用户嵌入表示进行连接，得到用户点击候选新闻的概率。

技术领域

本发明涉及一种动态新闻推荐的方法，尤其涉及一种基于层次注意力网络的动态新闻推荐的方法。

背景技术

近年来，随着云计算、大数据等技术的迅猛发展，互联网中各类应用的层出不穷引发了数据规模的爆炸式增长。大数据中蕴含着丰富的价值与巨大的潜力，给人类社会带来变革性的发展，但同时也带来了“信息过载”问题。如何快速有效地从纷繁复杂的数据中获取有价值的信息成为了当前大数据发展的关键难题。推荐系统作为解决“信息过载”问题的有效方法，已经成为学术界和工业界的关注热点，并得到了广泛应用。随着万维网的发展，人们的新闻阅读习惯逐渐从报纸、电视等传统媒体转向在线新闻网站，例如谷歌新闻、雅虎新闻、今日头条等。在线新闻网站从多个来源收集海量新闻，为用户提供新闻的聚合视图，存在严重的“信息过载”问题。为解决这一问题，新闻推荐方法旨在根据用户的个人兴趣，向用户推送他们感兴趣的新闻，提升用户阅读体验，同时为新闻网站增加用户粘性，带来良好的收益。

现有技术中存在4种新闻推荐方法，一是基于内容的方法，基于内容的方法主要根据用户已经阅读的新闻，推荐其他内容上相似的新闻。首先获取用户的历史阅读新闻，然后从这些新闻中学习用户画像，最后根据用户画像与候选新闻之间的相似度进行推荐。二是协同过滤方法，协同过滤方法利用相似用户之间具有相似兴趣的特点，来发现用户对新闻的偏好。首先计算用户之间的相似度，然后向用户推荐相似度大的其他用户读过的新闻。三是混合方法，为了获得更好的推荐效果，混合方法组合以上两种方法进行推荐，分别使用基于内容和协同过滤的方法得到推荐分数，然后组合得到最后的推荐分数；或是SCENE模型首先将候选新闻聚类为主题，然后构建用户画像，包括主题分布、实体分布和访问模式相似的用户，最后先选择主题，再在主题中选择新闻，进行推荐。四是基于深度学习的方法。近两年来，基于深度学习的方法在新闻推荐领域展示了优越的性能，具有对复杂用户行为的建模能力，可以构建更加贴合用户偏好的模型。采用循环神经网络(RNN)进行新闻序列推荐；或采用三维卷积神经网络(3D CNN)进行建模，利用了内容信息和序列信息；或采用CNN和注意力网络来进行新闻推荐，使用知识图谱加强效果。

现有技术一基于内容的方法为用户推荐和历史阅读新闻相似的新闻，但是该方法缺乏多样性，无法推荐给用户不熟悉但具有潜在兴趣的新闻。现有技术二中协同过滤方法的冷启动问题十分严峻，对于没有历史记录的新用户，无法找到与其兴趣相似的用户，更重要的是，每时每刻都有新闻产生，过时的新闻被新的新闻快速替代，对于没有被阅读过的新的新闻，无法进行推荐，因此协同过滤方法并不适用于新闻领域。现有技术三混合方法组合以上两种方法，可以缓解各自的不足，但是数据往往具有多模态、异构等复杂特征，该方法的研究仍然面临着严峻的挑战。现有技术四基于深度学习的方法都从新闻水平提取特征，很少有工作考虑细粒度的句子水平的区分，并且很少有工作考虑新闻阅读的时间衰减特性以及新闻阅读的序列特性。

发明内容