[发明专利]基于卷积神经网络的高精度文本分类方法和系统在审
申请号: | 201910193637.X | 申请日: | 2019-03-14 |
公开(公告)号: | CN109977226A | 公开(公告)日: | 2019-07-05 |
发明(设计)人: | 于舒娟;朱弘扬;汪云霄;马海斌;廖许德 | 申请(专利权)人: | 南京邮电大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06N3/04 |
代理公司: | 南京纵横知识产权代理有限公司 32224 | 代理人: | 董建林 |
地址: | 210003 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 卷积神经网络 文本分类 词向量 数据集 保存 送入 预处理 矩阵 准确度 分词处理 分类处理 矩阵向量 矩阵形式 模型训练 统一格式 向量矩阵 预测结果 源数据集 停用词 语料库 比对 分词 语句 输出 分类 统计 | ||
1.基于卷积神经网络的高精度文本分类方法,其特征在于,包括以下步骤:
步骤1:对文本数据预处理:即将本文数据集格式转为统一格式并对其进行分词和停用词处理,得到预处理后的语料库;
步骤2:基于语料库构建词的共现矩阵,然后基于共现矩阵和GloVe模型学习词向量矩阵;
步骤3:构建文本分类卷积神经网络模型基于词向量矩阵训练文本分类卷积神经网络模型;
步骤4:基于测试集数据验证卷积神经网络模型并优化,最终确定文本分类卷积神经网络模型。
2.根据权利要求1所述的文本分类方法,其特征在于,步骤1所述对文本数据预处理的具体方法如下:
读取数据集,采用字符串匹配的分词算法、正向最大匹配法、逆向最大匹配法和最少切分方法;通过正则匹配去除文本中的无用字符;
统一数据集文本编码方式为utf-8。
3.根据权利要求1所述的文本分类方法,其特征在于,设基于语料库构建词的共现矩阵为X,其元素为Xij,Xij表示在整个语料库中,单词i和单词j共同出现在一个特定大小的窗口的次数。
4.根据权利要求3所述的文本分类方法,其特征在于,基于共现矩阵和GloVe模型学习词向量矩阵的方法包括以下步骤:
S01:根据两个单词在上下文窗口的距离d,构建衰减函数f,所述衰减函数f的表达式如下:
decay=1/d,
其中decay为词的权重,d为两个单词在上下文窗口的距离d;
S02:构建GloVe模型的损失函数;
S03:基于共现矩阵输出训练好的词向量矩阵。
5.根据权利要求4所述的文本分类方法,其特征在于,所述GloVe模型的损失函数如下:
其中vi,vj是单词i和单词j的词向量,bi,bj是两个标量,f是权重函数,N是词汇表的大小,共现矩阵维度为N*N。
6.基于卷积神经网络的高精度文本分类系统,其特征在于,包括:
数据预处理模块,用于将本文数据集格式转为统一格式并对其进行分词和停用词处理,得到预处理后的语料库;
词向量矩阵生成模块:基于语料库构建词的共现矩阵,然后基于共现矩阵和GloVe模型学习词向量矩阵;
文本分类卷积神经网络模型构建模块,用于构建文本分类卷积神经网络模型并基于词向量矩阵训练文本分类卷积神经网络模型;
文本分类卷积神经网络模型验证优化模块:基于测试集数据验证卷积神经网络模型并优化,最终确定文本分类卷积神经网络模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京邮电大学,未经南京邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910193637.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:舆情分析方法及装置
- 下一篇:基于特征编码的文本特征提取方法、系统、装置