[发明专利]基于时间卷积网络的中文文本分类方法在审
申请号: | 201910542511.9 | 申请日: | 2019-06-21 |
公开(公告)号: | CN110275954A | 公开(公告)日: | 2019-09-24 |
发明(设计)人: | 代明军;谭莎;林晓辉;陈彬;苏恭超;王晖 | 申请(专利权)人: | 深圳大学 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F17/27;G06N3/04 |
代理公司: | 深圳市科吉华烽知识产权事务所(普通合伙) 44248 | 代理人: | 陈凯昆 |
地址: | 518000 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 时间卷积 文本分类模型 目标文本 中文文本 文本序列 分类 预处理 并行计算 类别分析 全文信息 嵌入层 输出层 输入层 网络层 构建 网络 保留 应用 | ||
本发明公开了一种基于时间卷积网络的中文文本分类方法,包括以下步骤:步骤S10,对目标文本进行预处理,以得到与目标文本对应的第一文本序列;步骤S20,构建基于时间卷积机制的文本分类模型,将第一文本序列导入到文本分类模型中,完成对于目标文本的类别分析,其中,文本分类模型包括输入层、嵌入层、时间卷积网络层、Dropout层和输出层。本发明,应用于中文文本的分类,能够保留更加完整的全文信息的同时,有更高的并行计算速度。
技术领域
本发明属于文本分类技术领域,尤其涉及一种基于时间卷积网络的中文文本分类方法。
背景技术
目前,近年来随着深度学习的快速发展,人们经常采用神经网络来做文本分类任务,现有的热门的循环神经网络RNN及其衍生LSTM,GRU等存在计算速度低的技术问题。
因此,现有技术有待于改善。
发明内容
本发明的主要目的在于提出一种基于时间卷积网络的中文文本分类方法,旨在解决背景技术中所提及的技术问题,能够保留更加完整的全文信息的同时,有更高的并行计算速度。
本发明的一种基于时间卷积网络的中文文本分类方法,包括以下步骤:
步骤S10,对目标文本进行预处理,以得到与目标文本对应的第一文本序列;
步骤S20,构建基于时间卷积机制的文本分类模型,将第一文本序列导入到文本分类模型中,完成对于目标文本的类别分析,其中,文本分类模型包括输入层、嵌入层、时间卷积网络层、Dropout层和输出层。
优选地,步骤S20具体包括:
步骤S21,对目标文本进行分词处理,以确定输入元素;
步骤S22,将输入文本中的每个词转化为向量分布式,并进行归一化获得词的归一化标量值,以获得文本向量序列;
步骤S23,将文本向量序列进行计算后获得的结果序列,确定输出向量并进行计算获取最终文本向量序列,对最终文本向量序列做节点丢弃处理后,进行softmax函数计算,得出标量。
优选地,在步骤S23中,利用到的公式为:其中,K为Dropout层输出的节点总个数,zj为第j个节点的当前值。
优选地,时间卷积网络层包括全连层和扩张的因果卷积层。
本发明的基于时间卷积网络的中文文本分类方法,具有以下有益效果:
采用神经网络作为模型基础架构,结合时间卷积神经网络,在准确获取每个词的语义信息及位置信息的同时,充分保留文本的历史信息,且相比现在在处理时间序列热门的循环神经网络RNN及其衍生LSTM,GRU等有着更高的并行计算速度且准确率达99%以上,高于现有中文分类方法两到三个百分点。
附图说明
图1为本发明基于时间卷积网络的中文文本分类方法的第一实施例的流程示意图;
图2为本发明基于时间卷积网络的中文文本分类方法中步骤S20的细化流程示意图;
图3为本发明基于时间卷积网络的中文文本分类方法中word2vec工具包的词的分布式表示原理;
图4为本发明基于时间卷积网络的中文文本分类方法中全连层的原理框图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳大学,未经深圳大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910542511.9/2.html,转载请声明来源钻瓜专利网。
- 上一篇:人格分类方法及装置
- 下一篇:文本类型的识别方法、装置、存储介质和处理器