[发明专利]一种基于半监督学习的招标文本分类方法与系统

说明书

本申请涉及招标文本分类技术领域，更为具体来说，本申请涉及一种基于半监督学习的招标文本分类方法与系统。所述方法包括以下步骤：种子词库构建步骤，借助大规模语料库生成词嵌入向量和类别TFS‑IDF值，基于所述词嵌入向量和类别TFS‑IDF值获得领域种子词库；无监督学习步骤，基于所述种子词库构建无监督分类模型，过滤掉负样本，并将疑似正样本输入到有监督模型中；有监督学习步骤，对所述疑似正样本进行少量标注，训练文本卷积神经网络模型进行预测，得到最终文本分类标签。本申请提出的招标文本分类方法与系统能有效地解决招标文本分类任务中数据不平衡性问题，并能在少量的标注数据下取得可观的识别效果，进而提高企业商情挖掘的质量与效率。

技术领域

本申请涉及招标文本分类技术领域，更为具体来说，本申请涉及一种基于半监督学习的招标文本分类方法与系统。

背景技术

目前越来越多企业通过招标方式进行商情挖掘，而每日全网有近10万条的招标信息发布，其中大部分信息跟企业的业务不相关。如何准确地过滤掉不相关的招标信息并对相关的招标信息进行有效分类是提高企业商情挖掘效率的一个关键要素。这在技术上可转化为招标文本的分类问题。主流的分类方法主要分为监督学习模型(如决策树、TextCNN等)和无监督学习模型(如KMeans、基于规则等)。监督模型存在分类更准确的优点，但存在需要大量的标签数据、模型更为复杂、分类效率较低等缺点。无监督模型存在分类效率高、不需要标签数据等优点，但分类的准确率往往没有监督模型好。

因此，结合招标数据存在的样本不平衡性问题，以及两类分类方法的优点，本申请提出一种基于半监督学习的招标文本分类方法，以至少部分地解决上述技术问题。

发明内容

本发明的核心是先构建领域词库，生成一个基于规则的无监督模型进行样本筛选，过滤掉大量明显与企业业务不相关的负样本，同时也筛出疑似正样本；接着标注少量样本，训练一个监督模型(TextCNN)对疑似正样本进行分类，最后得到具有不同类别的正样本。通过该模型，能有效的处理样本不平衡性问题，并得到可观的准确度和分类效率，同时也大大减少标注数据带来的人力成本，提高企业商情挖掘的质量与效率。

为实现上述技术目的，本申请提供了一种基于半监督学习的招标文本分类方法，包括以下步骤：

种子词库构建步骤，借助大规模语料库生成词嵌入向量和类别TFS-IDF值，基于所述词嵌入向量和类别TFS-IDF值获得领域种子词库；

无监督学习步骤，基于所述种子词库构建无监督分类模型，过滤掉负样本，并将疑似正样本输入到有监督模型中；

有监督学习步骤，对所述疑似正样本进行少量标注，训练文本卷积神经网络模型进行预测，得到最终文本分类标签。

具体地，所述种子词库构建步骤具体包括：

指定几个与业务强相关的行业关键词作为初始类别种子词库，将所述初始类别种子词库输入到领域种子词库；

对大规模语料库中所有语料进行分词，对分词后的语料库进行预训练，得到具有上下文表征的词嵌入向量；

使用所述词嵌入向量对初始类别种子词库计算出前10个最相似的关键词放入备选词库；

利用初始类别种子词库对大规模语料库计算类别TFS-IDF值，利用所述类别TFS-IDF值扩充所述备选词库；

对扩充后的备选词库进行筛选，将筛选结果输入到领域种子词库。

优选地，所述几个为3个、4个或5个。

优选地，对分词后的语料库进行预训练使用Word2vec模型。

具体地，所述利用初始类别种子词库对大规模语料库计算类别TFS-IDF值，包括：