[发明专利]一种基于双模型的文本情感分类系统及方法在审
申请号: | 202110098267.9 | 申请日: | 2021-01-25 |
公开(公告)号: | CN112883720A | 公开(公告)日: | 2021-06-01 |
发明(设计)人: | 贾磊;潘虹男;张力 | 申请(专利权)人: | 北京瑞友科技股份有限公司 |
主分类号: | G06F40/258 | 分类号: | G06F40/258;G06F40/30;G06F16/33;G06K9/62 |
代理公司: | 北京酷爱智慧知识产权代理有限公司 11514 | 代理人: | 卢蓉 |
地址: | 100000 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 双模 文本 情感 分类 系统 方法 | ||
1.一种基于双模型的文本情感分类系统,其特征在于,包括数据采集处理模块、主题模型模块、中间处理模块和预训练模型模块;
所述数据采集处理模块,用于获取电商数据并进行数据预处理;其中,所述电商数据包括电商评论库;
所述主题模型模块,用于将所述数据预处理后的数据进行基于主题模型的参数估计和预测,并得到各评论的主题标注;
所述中间处理模块,用于将得到的各主题标注与其对应的文本进行token处理;
所述预训练模型模块,用于将所述token处理后的数据导入到预训练模型中进行微调,以得到最终的情感分类模型,以实现对陌生的商品评论数据进行情感极性预测。
2.根据权利要求1所述的一种基于双模型的文本情感分类系统,其特征在于,所述数据采集处理模块具体用于:
从所述电商评论库中提取评论数据,所述评论数据包括商品ID、评论内容和评价星级,并对所述评论内容进行情感标注以得到情感极性,再根据相似的数据分布进行划分,让各极性数据趋于一致,然后将其切分为训练集、验证集和测试集;
再进行去重复行、去空行、去评论标签以及去停词的处理,得到预处理后的电商评论库;
对预处理后的电商评论库中的词语进行词形还原,以减少词语的重复,得到词形还原后的电商评论库,并将其作为所述数据预处理后的数据。
3.根据权利要求2所述的一种基于双模型的文本情感分类系统,其特征在于,所述主题模型模块具体用于:
对所述词形还原后的电商评论库,进行基于主题模型的参数估计和预测;
结合给定的阀值范围,输出文本-主题和主题-词语矩阵,测试改变主题数并通过视图化工具来测试不同主题数的困惑度变化,在困惑度趋于稳定时候得到最佳的模型性能,以确定最佳个数的主题;其中,参数估计所涉及的参数包括epoch和学习率。
4.根据权利要求3所述的一种基于双模型的文本情感分类系统,其特征在于,所述中间处理模块具体用于:
将得到的主题标注与其对应的文本进行拼接,然后以新的词向量表征,作为预训练模型的预输入语料;其中,所述主题标注包括主题词;
然后再通过预设的比例切分训练集、验证集和测试集,使得每一个语料都包括了主题词,并作为所述预训练模型的原始语料。
5.根据权利要求4所述的一种基于双模型的文本情感分类系统,其特征在于,所述进行微调具体包括:
对每个训练集和验证集中的句子在句尾加CLS标记,在开头加SEP标注,并对每个CLS标记给与了原始语料所对应的情感标签;
取出CLS对象的向量用来作为分类标注;
加载中文预训练模型Roberta,根据所述分类标注对比分类效果,调整预训练模型的各项参数,进行基于预训练模型的微调;
最后得到最终的情感分类模型,实现对陌生的商品评论数据进行情感极性预测。
6.一种基于双模型的文本情感分类方法,其特征在于,应用于权利要求1所述的一种基于双模型的文本情感分类系统,所述方法包括:
获取电商数据并进行数据预处理;其中,所述电商数据包括电商评论库;
将所述数据预处理后的数据进行基于主题模型的参数估计和预测,并得到各评论的主题标注;
将得到的各主题标注与其对应的文本进行token处理;
再将所述token处理后的数据导入到预训练模型中进行微调,以得到最终的情感分类模型,以实现对陌生的商品评论数据进行情感极性预测。
7.根据权利要求6所述的一种基于双模型的文本情感分类方法,其特征在于,所述获取电商数据并进行数据预处理,具体包括:
从所述电商评论库中提取评论数据,所述评论数据包括商品ID、评论内容和评价星级,并对所述评论内容进行情感标注以得到情感极性,再根据相似的数据分布进行划分,让各极性数据趋于一致,然后将其切分为训练集、验证集和测试集;
再进行去重复行、去空行、去评论标签以及去停词的处理,得到预处理后的电商评论库;
对预处理后的电商评论库中的词语进行词形还原,以减少词语的重复,得到词形还原后的电商评论库,并将其作为所述数据预处理后的数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京瑞友科技股份有限公司,未经北京瑞友科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110098267.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种输电导线大行程抑舞阻尼器
- 下一篇:一种节能的高梯度磁选机