[发明专利]一种基于监督主题模型的文本标签推荐方法

说明书

本发明公开了一种基于监督主题模型的文本标签推荐方法，通过考虑了标签及其相关词频繁出现于对应文本的特点，给出了一个新的监督文本主题模型Sim2Word，从而较好地解决了文本关键词抽取方法预测效率低和文本主题分析方法预测准确率低的问题。本方法分为两个主要步骤，首先基于词向量技术获取已有标签的相关词数据，之后利用标签和相关词训练标签预测模型，最后基于模型预测新文本的标签。在收集于StackOverflow等真实数据集上的实验表明，该方法较传统的文本标签推荐技术具有更高识别准确率。

技术领域

本发明涉及标签推荐，特别是文本标签推荐。许多拥有大量文本的在线网站中，标签和它的相关词经常出现或者多次出现在标签对应的文本内容中，而且这些词往往在文本内容中占有重要的地位。利用该观察信息，在词向量技术的基础上，获取标签的相关词，基于标签和相关词训练监督主题模型，有效增强了对新文本的标签推荐能力，提高了文本标签推荐系统的推荐精度。

背景技术

近年来，随着计算机互联网技术的迅速发展，标签系统已经在互联网上得到了广泛的使用。从一方面来看，标签通常代表着关键字，用来描述和总结在线的内容，使得对在线内容的信息组织和提取更为方便。而另一方面，目前有超过50％的在线内容缺乏足够的标签信息甚至没有包含标签。面对庞大的在线内容，对用户甚至是内容的创建者而言，人工地对内容进行标签标注都是极其困难的。手工方式标签标注不仅费时费力，还面临诸多挑战：一方面，用户往往缺乏专门的知识，难以标注合适的标签；另一方面，面对内容庞杂的在线文本，用户标注的标签往往不够全面和准确。因此，如何为在线内容自动化地推荐合适的标签，已经日益成为一个必要的工作。

以问答网站为例，用户可以在网站上发表提问帖子，寻求问题的解决方案。在发帖时用户需要为帖子标注上合适的标签。对问答网站来说，一个问题是否被标注上合适的标签对该问题是否能够得到及时回复影响很大。标注合适标签的问题，往往能够很快得到领域专业人士的回复，而标注不够全面和准确的标签的问题，可能在很长一段时间都得不到回复，或者得不到有效的解决方案。

在研究在线文本内容时，我们发现，许多拥有大量文本的在线网站中，标签和它的相关词经常出现或者多次出现在标签对应的文本内容中，而且这些词往往在文本内容中占有重要的地位。我们在多个真实数据集上对这类现象进行了实证研究，验证了这类现象的普遍存在，但仍然需要考虑如何将此观察现象进行建模，使得标签推荐方法能够利用更多的信息去提高标签推荐的准确率。

目前主流的文本标签推荐方法大致可分为两类：文本关键词抽取方法和文本主题分析方法。文本关键词抽取方法的基本思想是提取文本中的关键词，根据关键词，推荐出新文本的标签。此类方法将标签看作文本中的关键词，预测准确率较高，但在预测过程中需要大量计算开销，难以适用在线的文本标签推荐任务。文本主题分析方法的基本思想是发现文本中的主题，对主题进行建模，然后推荐出新文本的标签。此类方法的预测效率较高，但仅将标签看作文本主题，忽略了标签往往是一类重要的词，预测准确率较低。对于在线文本标签推荐来说，首先需要满足的是预测效率。在此基础上，考虑如何提高预测准确率。

为此，我们结合这两类方法的优点，在监督文本主题模型的基础上，考虑了标签及其相关词频繁出现于对应文本的特点，给出了一个新的监督文本主题模型Sim2Word。通过词向量技术获取已有标签的相关词数据，再利用标签和相关词训练标签预测模型，最后基于模型预测新文本的标签，从而地解决自动文本标签推荐的问题。

发明内容

发明目的：由于基于文本关键词抽取方法在预测过程中需要大量计算开销，难以适用在线的文本标签推荐任务，基于文本主题分析方法忽略了标签往往是一类很重要的词，预测准确率较低，而且标签和它的相关词经常出现或者多次出现在标签对应的文本内容中。为此，本发明在利用该观察信息和监督主题模型的基础上提出了一种新的文本标签推荐方法，有效地解决了文本标签推荐的准确率低下和效率低下问题。