[发明专利]一种基于双模型的文本情感分类系统及方法

说明书

本发明公开了一种基于双模型的文本情感分类系统及方法，系统包括：数据采集处理模块，用于获取电商数据并进行数据预处理；主题模型模块，用于将数据预处理后的数据进行基于主题模型的参数估计和预测，并得到各评论的主题标注；中间处理模块，将得到的主题标注与对应的文本进行token处理；预训练模型模块，将token处理后的数据导入到预训练模型中进行微调，以得到情感分类模型，以实现情感极性预测；其有益效果是：通过引入的主题模型，使用较少的标注数据解决对网络商品评论的观点主题挖掘，使得数据的特征更有效有意义，结合了主题模型和预训练模型进行深度学习后，依托主题模型所得到的主题标注，预测效果得到了显著提升。

技术领域

本发明涉及自然语言处理技术领域，具体涉及一种基于双模型的文本情感分类系统及方法。

背景技术

随着电商领域的不断深耕，商品的评论越来越丰富。如果能对这些评价文本进行有效得分析，就能够辅助商家进行销售分析而辅助决策。与新闻、博客不同，评论文本一般较短；服务领域不同，点评内容也有所不同。需要建立并完善情感词典，并且不能根据上下文的语义分析。

然而，目前在文本情感分析领域，文本较难规范化，不同语义的差别较大，多维情绪不好识别，需要建立质量好的情感词典等有一系列问题。传统的机器学习算法如朴素贝叶斯、SVM等在进行情感分类时候拟合效果一般，无法直接适用于情感分析的技术问题。

而使用最新的自然语言处理领域的预训练模型表现不错，但是在庞杂的商品评论数据中对文本特征过度依赖在多维情绪时候效果尚有待提高。

发明内容

本发明的发明目的在于：提供了一种基于双模型的文本情感分类系统及方法，能够对文本的深层语义信息进行挖掘，提高文本情感分析的准确度，以克服现有技术中传统的机器学习算法不能较好进行情感分析缺陷。

第一方面：一种基于双模型的文本情感分类系统，包括数据采集处理模块、主题模型模块、中间处理模块和预训练模型模块；

所述数据采集处理模块，用于获取电商数据并进行数据预处理；其中，所述电商数据包括电商评论库；

所述主题模型模块，用于将所述数据预处理后的数据进行基于主题模型的参数估计和预测，并得到各评论的主题标注；

所述中间处理模块，用于将得到的各主题标注与其对应的文本进行token处理；

所述预训练模型模块，用于将所述token处理后的数据导入到预训练模型中进行微调，以得到最终的情感分类模型，以实现对陌生的商品评论数据进行情感极性预测。

作为本申请一种可选的实施方式，所述数据采集处理模块具体用于：

从所述电商评论库中提取评论数据，所述评论数据包括商品ID、评论内容和评价星级，并对所述评论内容进行情感标注以得到情感极性，再根据相似的数据分布进行划分，让各极性数据趋于一致，然后将其切分为训练集、验证集和测试集；

再进行去重复行、去空行、去评论标签以及去停词的处理，得到预处理后的电商评论库；

对预处理后的电商评论库中的词语进行词形还原，以减少词语的重复，得到词形还原后的电商评论库，并将其作为所述数据预处理后的数据。

作为本申请一种可选的实施方式，所述主题模型模块具体用于：

对所述词形还原后的电商评论库，进行基于主题模型的参数估计和预测；

结合给定的阀值范围，输出文本-主题和主题-词语矩阵，测试改变主题数并通过视图化工具来测试不同主题数的困惑度变化，在困惑度趋于稳定时候得到最佳的模型性能，以确定最佳个数的主题；其中，参数估计所涉及的参数包括epoch和学习率。

作为本申请一种可选的实施方式，所述中间处理模块具体用于：