[发明专利]一种基于改进卷积神经网络的文本分类方法、装置和设备有效
申请号: | 201910740474.2 | 申请日: | 2019-08-12 |
公开(公告)号: | CN110457703B | 公开(公告)日: | 2022-12-30 |
发明(设计)人: | 杨祖元;黄昊楠;陈禧琛;李珍妮 | 申请(专利权)人: | 广东工业大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/289;G06F40/30;G06N3/04;G06N3/08 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 黄忠;沈闯 |
地址: | 510060 广东省*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 改进 卷积 神经网络 文本 分类 方法 装置 设备 | ||
本申请实施例公开了一种基于改进卷积神经网络的文本分类方法、装置和设备,包括:将初始矩阵进行下采样、去均值和第一按列重构处理得到数据矩阵;将数据矩阵初始化分解为第一基矩阵和特征矩阵;根据所述第一基矩阵和特征矩阵建立半非负矩阵分解损失函数,利用梯度求解法计算出第二基矩阵;将重构处理后的第二基矩阵作为预置卷积神经网络第一层卷积层的卷积核参数,将第一层卷积层的卷积核参数与初始矩阵进行卷积得到新的数据矩阵;将所述新的数据矩阵输入分类器进行分类训练,得到分类训练完成后的卷积神经网络模型;将待分类文本数据输入到卷积神经网络模型中进行文本分类。本申请解决了神经网络由于可解释性较差不利于文本分类的技术问题。
技术领域
本申请涉及神经网络技术领域,尤其涉及一种基于改进卷积神经网络的文本分类方法、装置和设备。
背景技术
在网络时代,文本息量每天都在呈指数的增加,对文本数据进行准确的分类在网络系统中有着重要意义,如何对目标文本进行特征处理与正确的分类一直是自然语言处理领域的研究重点。随着深度学习技术在自然语言处理领域的应用发展,利用深度学习算法来解决文本分类任务已成为当前热门的研究方向。
与传统文本分类算法相比,深度学习算法无需复杂的特征提取过程,通过端到端的处理方式简化了特征提取过程,通过反向传播训练网络,使得网络的自适应性较强。利用深度卷积神经网络来处理文本分类数据取得了非常显著的效果提升。
现有的基于卷积神经网络的文本分类方法中,卷积神经网络作为“黑匣子”无法实现对文本数据之间的关联性特征的深层提取,因此,卷积神经网络的不可解释性,不利于卷积神经网络对文本进行分类。
发明内容
本申请提供了一种基于改进卷积神经网络的文本分类方法,解决由于卷积神经网络作为“黑匣子”无法实现对文本数据之间的关联性特征的深层提取,因此,卷积神经网络的不可解释性,不利于卷积神经网络对文本进行分类的技术问题。
本申请第一方面提供了一种基于改进卷积神经网络的文本分类方法,包括:
将预置文本数据集进行预处理得到初始矩阵;
对所述初始矩阵依次进行下采样、去均值和第一按列重构处理得到数据矩阵;
将所述数据矩阵初始化分解为第一基矩阵和特征矩阵;
根据由所述第一基矩阵和所述特征矩阵建立的半非负矩阵分解损失函数,利用梯度求解法计算出第二基矩阵;
将第二按列重构处理后的第二基矩阵作为预置卷积神经网络第一层卷积层的卷积核参数,所述第一层卷积层的卷积核参数与所述初始矩阵进行卷积得到新的数据矩阵;
将对所述新的数据矩阵进行编码、统计后得到的特征向量通过分类器进行分类训练,得到分类训练完成后的卷积神经网络模型;
将待分类文本数据输入到所述卷积神经网络模型中进行文本分类。
优选地,预置神经网络包括至少两个卷积层;
下层卷积层的卷积核参数为:对上层卷积层的输出第一按列重构处理后,进行分解,并根据分解结果建立半非负矩阵的损失函数,并利用梯度求解法求解基矩阵,对求解得到的基矩阵进行第二按列重构处理,得到第二按列重构处理后的基矩阵;
所述下层卷积层的输出为:用所述下层卷积层的卷积核参数对所述上层卷积层的输出进行卷积后输出的新的数据矩阵。
优选地,所述将数据矩阵初始化分解为第一基矩阵和特征矩阵,包括:
利用奇异值分解法将数据矩阵初始化分解为第一基矩阵和特征矩阵。
优选地,所述将对所述新的数据矩阵进行编码、统计后得到的特征向量通过分类器进行分类训练,得到分类训练完成后的卷积神经网络模型,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东工业大学,未经广东工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910740474.2/2.html,转载请声明来源钻瓜专利网。