[发明专利]一种实现中文文本分类的方法及相关设备在审
申请号: | 201910038004.1 | 申请日: | 2019-01-16 |
公开(公告)号: | CN109446333A | 公开(公告)日: | 2019-03-08 |
发明(设计)人: | 陈海波 | 申请(专利权)人: | 深兰人工智能芯片研究院(江苏)有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/36 |
代理公司: | 上海晨皓知识产权代理事务所(普通合伙) 31260 | 代理人: | 成丽杰 |
地址: | 213161 江苏省常州市武进*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 映射矩阵 短文本 中文 局部特征向量 卷积神经网络 中文文本 分类 上下文信息 分类结果 拼音序列 文本分类 自动提取 语义 词向量 分类器 归一化 降采样 有效地 准确率 串接 卷积 维度 融合 拓展 联合 | ||
本发明实施例涉及文本分类领域,公开了一种实现中文文本分类的方法及相关设备,该方法,包括:用中文的拼音序列对中文短文本进行语义拓展,使用词向量建立字符映射矩阵和词级映射矩阵;将所述字符映射矩阵和词级映射矩阵进行卷积和降采样操作自动提取所述中文短文本的局部特征向量;将所述局部特征向量进行串接融合后,加入到归一化Softmax分类器中,实现对所述中文短文本的分类。如此,基于字符映射矩阵与词级映射矩阵作为联合输入的卷积神经网络模型,能够有效地解决标准卷积神经网络维度单一的缺陷,更加充分的提取中文短文本上下文信息特征,获得准确率更高的分类结果。
技术领域
本发明实施例涉及文本分类领域,特别涉及一种实现中文文本分类的方法及相关设备。
背景技术
目前,深度学习在图像识别与手写识别的惊人表现有目共睹。近年来在自然语言处理 (NLP)的应用也越来越广泛,短文本分类更是其中重要的一部分。
其中,实现短文本分类的方法包括:基于文本特征拓展的方法和基于深度学习的方法。基于文本特征拓展的方法可进一步分为基于规则的方法和基于统计量的方法,基于规则的方法主要依靠专家知识,通过对数据集制定一定的规则来进行分类;基于统计量的方法则主要从机器学习角度出发,引入外部语料对短文本进行拓展,进而对人工标注的文本进行特征抽取,将短文本分类问题转换成一个长文本的有监督学习问题,从而实现对短文本的自动分类。由此可见,基于文本特征拓展的方法往往依赖于特定的场景与资源,待分类文本与知识且必须具有语义一致性,其计算效率较低,难以进行推广。
基于深度学习的方法,通过将单词嵌入与卷积神经网络结合,在短文本情感分类中取得良好效果;将英文短文本的字符序列作为处理单元,分别学习文本的词级和句子级特征,提高短文本分类的准确性;将one-hot向量作为卷积神经网络的输入,来减少模型的学习参数数量;通过对输入短文本进行语义聚类,构建语义拓展矩阵,进而结合卷积神经网络进行分类;将卷积神经网络和传统的情感计算资源进行结合,通过对文本中的词语进行抽象表示,提高情感分类的准确性;利用字特征来挖掘微博文本特征,与词级别作为原始输入特征相比,其准确率更高。但是基于深度学习的方法具有较强的适应性,但是针对中文短文本同音词、拼写错误多的语言现象,并没有进行很好的解决。
发明内容
有鉴于此,本发明的实施方式提供了一种实现中文文本分类的方法,包括:
用中文的拼音序列对中文短文本进行语义拓展,使用词向量建立字符映射矩阵和词级映射矩阵;
将所述字符映射矩阵和词级映射矩阵进行卷积和降采样操作自动提取所述中文短文本的局部特征向量;
将所述局部特征向量进行串接融合后,加入到归一化Softmax分类器中,实现对所述中文短文本的分类。
本发明的实施方式还提供了一种实现中文文本分类的装置,包括:
矩阵建立单元,用于用中文的拼音序列来对中文短文本进行语义拓展,使用词向量建立字符映射矩阵和词级映射矩阵;
向量提取单元,用于将所述字符映射矩阵和词级映射矩阵进行卷积和降采样操作自动提取所述中文短文本的局部特征向量;
分类单元,用于将所述局部特征向量进行串接融合后,加入到归一化Softmax分类器中,实现对所述中文短文本的分类。
本发明的实施方式还提供了一种设备,包括:
至少一个处理器;
以及与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述实现中文文本分类的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深兰人工智能芯片研究院(江苏)有限公司,未经深兰人工智能芯片研究院(江苏)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910038004.1/2.html,转载请声明来源钻瓜专利网。