[发明专利]基于多头自注意神经机制的多模态新闻推荐方法及装置

说明书

本发明提出一种基于多头自注意神经机制的多模态新闻推荐方法及装置，其中方法包括步骤，采集数据信息，包括新闻数据、特征数据、痕迹数据；基于view‑level注意力机制的多成分特征交叉模型、流式数据的热点新闻实时预测技术、智能抽帧的多模态信息融合技术，将所述数据信息融合成统一的新闻特征；将所述统一的新闻特征作为模型输入，通过用户兴趣表征模型并结合最高未来影响策略，完成个性化精准推荐的功能。本提案有效缓解了用户冷启动问题，并通过多模态信息融合对新闻中的多模态信息进行特征采集和融合，多头自注意机制进行高阶交叉特征挖掘和用户兴趣表征学习，以及最高未来影响策略和实时新闻热点挖掘为新闻赋予时序权重，参与最终的用户推荐。

技术领域

本发明属于人工智能领域。

背景技术

在信息爆炸和快节奏化的今天，越来越多的用户通过线上阅读的方式获取知识和信息。为帮助用户在有限时间内发现正确且相关的内容，新闻推荐技术应运而生。新闻推荐旨在通过计算机强大的计算能力和高效率的特征匹配对用户进行个性化推荐,从而解决信息过载问题。目前新闻推荐的方法主要有两种形式：(1)基于协同的过滤；(2)基于内容的过滤。

(1)基于协同的过滤。利用兴趣相投、拥有共同经验群体的喜好来推荐用户感兴趣的信息，个人通过合作机制给予信息相当程度的回应(如评分)并记录下来以达到过滤目的，进而帮助别人筛选信息。该方法主要是通过行为历史的用户-物品交互信息来挖掘用户和物品间的关系，从而给用户推荐和他们喜欢物品相似的物品，即所谓的“物以类聚”。基于协同的过滤考虑个性化、自动化程度高、能够有效利用其他相似用户的回馈信息、加快个性化学习的速度。

(2)基于内容的过滤。该方法利用新闻信息(标题、正文、种类)来构建新闻特征，通过分析历史行为信息构建用户画像；在生成预测时，其更多强调对项目属性的分析。当被推荐对象是新闻等文本类型时，效果较好。基于内容的过滤推荐时依赖用户画像，而用户画像从用户评估过的项目中获取，与用户的积极评价最相关的项目会被推荐给用户。为了生成有意义的推荐结果，基于内容的过滤会使用不同模型来查找文本间的相似性，在语料库中模拟不同文本的关系；之后通过统计分析或机器学习来学习基础模型，生成推荐结果。基于内容的过滤用户画像间相互独立，且用户画像随用户兴趣迁移的变化比较及时，但需要对新闻特征足够了解。

其中，方案(1)主要采用用户的行为信息，通过分析用户和物品间的相似度关系，给用户进行推荐。该方法在新闻推荐上忽略了新闻文本信息的重要程度，导致用户和新闻信息无法有效整合，具有一定的局限性。方案(2)采用了当下新闻推荐领域主流的基于内容过滤的方法，能更好捕捉新闻的特征信息，并且用户画像之间是独立的，可以快速响应由于用户行为变化而造成的用户兴趣迁移。但该方案对项目信息的了解要求较高，存在新闻建模和用户建模不准确的问题。

本申请要解决的技术问题主要有三个：对于高阶特征如何进行提取并建模问题，从而进行更精准的新闻和用户建模；用户冷启动问题，对于新用户也可以进行个性化的推荐；多模态数据的特征提取问题，建立多模态信息融合技术来处理新闻数据中的各模态数据。

发明内容

本发明旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本发明的第一个目的在于提出一种基于多头自注意神经机制的多模态新闻推荐方法，用于解决对于高阶特征如何进行提取并建模、用户冷启动、多模态数据的特征提取问题。

本发明的第二个目的在于提出一种基于多头自注意神经机制的多模态新闻推荐装置。

为达上述目的，本发明第一方面实施例提出了一种基于多头自注意神经机制的多模态新闻推荐方法，包括：采集数据信息，包括新闻数据、特征数据、痕迹数据；基于view-level注意力机制的多成分特征交叉模型、流式数据的热点新闻实时预测技术、智能抽帧的多模态信息融合技术，将所述数据信息融合成统一的新闻特征；将所述统一的新闻特征作为模型输入，通过用户兴趣表征模型并结合最高未来影响策略，完成个性化精准推荐的功能。