[发明专利]一种融入偏旁语义的中文文本分类方法

说明书

本发明提供了一种融入偏旁语义的中文文本分类方法，首先使用BERT模型对中文文本和偏旁进行向量化表示，然后分别使用不同的深度学习模型对中文文本和偏旁进行特征提取，最后对中文文本和偏旁的特征向量进行融合，利用softmax分类器实现中文文本分类，该方案充分考虑了中文作为一种独特的象形文字，文字的偏旁中蕴含着丰富的语义信息，在中文文本语义理解的过程中发挥重要作用，能够进一步提升分类器性能，并基于偏旁本身的信息量，大幅降低了训练复杂度，达到降低学习的时间、提高分类的效率、将不同中文文本分类方法的优点进行有机结合、实现高效准确的中文文本分类的目的。

技术领域

本发明涉及一种融入偏旁语义的中文文本分类方法，属于计算机技术领域。

背景技术

中文文本分类是指按照一定的分类体系或规则对中文文本实现自动划归类别的过程，在信息索引、数字图书管理、情报过滤等领域都有广泛应用。

中文文本分类的方法一般分为三类：基于知识工程（Knowledge Engineering，KE）的分类方法、基于机器学习（Machine Learning，ML）的分类方法和基于深度学习（DeepLearning，DL）的分类方法。

基于知识工程的分类方法是指按照领域专家编写的分类任务规则人工进行文本分类，该方存在明显的低效性与局限性，虽然取得了一些成果，但很快就被淘汰。

基于机器学习的分类方法是指通过计算机自主学习、提取文本分类规则实现文本自动分类，这种分类方法的效率较高并且可移植性较强，在中文文本分类领域得到了广泛应用，但依然存不足之处，例如：朴素贝叶斯算法的分类效果依赖于先验概率，输入数据的表达形式对中文文本分类结果会产生很大影响；支持向量机算法对缺失数据很敏感并且对非线性问题没有通用解决方案；决策树算法在进行文本分类时易忽略数据集属性的相关性出现过拟合问题；神经网络算法在训练数据过程中有大量的参数需要确定，并且不能观察网络之间的学习过程，学习时间长，输出结果难以解释。

基于深度学习的分类方法是指在构建深度学习模型过程中对中文文本进行特征提取，从而获得更高层更抽象的语义表征，对中文文本进行分类。段等提出了一种基于BERT模型的中文文本分类算法，首先使用BERT预训练语言模型对文本的句子进行特征向量表示，然后将文本句子的特征向量输入softmax回归模型实现中文文本分类，可以取得更好的中文文本分类效果。但该方法直接移植于英文文本分类，忽略了汉字本身的特性，并且预训练模型的结构十分庞大，且需要大量的数据和设备资源来完成训练过程。

上述三种三类不同的中文文本分类方法虽然都能达到对中文文本分类的目标要求，但依旧存在算法效率不高、领域针对性差和学习过程易出现过拟合等问题，如何降低学习的时间、提高分类的效率、将不同中文文本分类方法的优点进行有机结合、实现高效准确的中文文本分类已是自然语言处理领域研究的热点问题。

发明内容

为了解决现有技术的不足，本发明提供了一种融入偏旁语义的中文文本分类方法，首先使用BERT模型对中文文本和偏旁进行向量化表示，然后分别使用不同的深度学习模型对中文文本和偏旁进行特征提取，最后对中文文本和偏旁的特征向量进行融合，利用softmax分类器实现中文文本分类，该方案充分考虑了中文作为一种独特的象形文字，文字的偏旁中蕴含着丰富的语义信息，在中文文本语义理解的过程中发挥重要作用，能够进一步提升分类器性能，并基于偏旁本身的信息量，大幅降低了训练复杂度，达到降低学习的时间、提高分类的效率、将不同中文文本分类方法的优点进行有机结合、实现高效准确的中文文本分类的目的。

本发明为解决其技术问题所采用的技术方案是：提供了一种融入偏旁语义的中文文本分类方法，包括以下步骤：

S1、将中文文本集中每一个文字的偏旁组成偏旁集，中文文本集和偏旁集组成训练集；

S2、对训练集中的中文文本集和偏旁集向量化表示，得到中文文本向量和偏旁向量；