[发明专利]文本分类方法、系统、可读存储介质及电子设备有效
申请号: | 201810640617.8 | 申请日: | 2018-06-20 |
公开(公告)号: | CN108875024B | 公开(公告)日: | 2020-10-20 |
发明(设计)人: | 袁春;程洲;马志明 | 申请(专利权)人: | 清华大学深圳研究生院 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06N3/04 |
代理公司: | 深圳市鼎言知识产权代理有限公司 44311 | 代理人: | 曾昭毅;郑海威 |
地址: | 518055 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 分类 方法 系统 可读 存储 介质 电子设备 | ||
一种文本分类方法、系统、可读存储介质及电子设备包括:取对应句子文本的短语结构树,其中所述句子文本包括一个或多个标记,每一标记对应一词向量,每一词向量用于作为所述短语结构树中叶节点的输入;通过标记编码器对所述短语结构树中叶节点执行第一操作处理,以将句子文本的词向量转换为对应的句向量;通过语义合成器对所述短语结构树中内部节点执行第二操作处理,以根据句向量得到所述短语结构树中根节点的输出;根据所述根节点的输出对分类器进行训练。本发明可提高文本分类的准确率。
技术领域
本发明涉及数据处理领域,尤其是涉及一种基于神经网络的文本分类方法、系统、可读存储介质及电子设备。
背景技术
大多数用于句子表达的神经网络通常属于以下类别之一:序列模型、卷积模型和递归模型。最近,序列模型已经见证了自然语言处理(NLP)的广泛应用,例如文本分类(textclassification)、机器翻译(machine translation)、问题回答(question answering)等。在这些方法中,循环神经网络(Recurrent Neural Network,RNN)将每个单词作为输入,将单词与其先前的状态聚合,并最终输出其整个句子的结果。作为固定长度矢量的合成结果包含丰富的语义信息,并用于后续的NLP任务。
然而,在自然语言理解中,包括LSTM在内的循环神经网络均以单一顺序或双向顺序处理单词序列,这意味着它们直接忽略了句子中固有的结构信息。卷积模型结合了多个滤波器和汇集操作,也忽略了语言结构,并使用大量参数来提高其性能。
相反,作为对应的递归模型明确地显现了自然语言中固有的递归结构。RvNN(Recursive Neural Network,循环递归神经网络)模型会被来理解句子和场景。此外,如斯坦福情感数据集(Stanford sentiment dataset,,SST)等专门的数据集中每个句子都以二叉树形式表示。除了句级标签之外,SST中的每个内部节点都会得到一个指示节点情绪的额外监督信号。在训练递归模型时,额外的信息已被证明是有帮助的,并有显示递归模型在SST数据集上的性能优于LSTM,因而,吸引更多的研究人员关注设计更复杂的递归组合函数。
尽管现有模型的性能有所提高,但在SST上运行的递归网络高度依赖于二叉树或二元化短语结构树,而无法较好的应用到对应源语句的短语结构树(非限制性短语结构树)。尽管Child-Sum TreeLSTM支持处理任意树,但它只是将短语结构树中子节点简单地归结动作。显然,现有的模型中并没有较好地充分利用句子结构,或是无法较好地适用于非限制性短语结构树。
以上背景技术内容的公开仅用于辅助理解本发明的发明构思及技术方案,其并不必然属于本专利申请的现有技术,在没有明确的证据表明上述内容在本专利申请的申请日前已经公开的情况下,上述背景技术不应当用于评价本申请的新颖性和创造性。
发明内容
鉴于以上内容,有必要提供一种可文本分类准确率的文本分类方法、系统、可读存储介质及电子设备。
一种文本分类方法,包括:
获取对应句子文本的短语结构树,其中所述句子文本包括一个或多个标记,每一标记对应一词向量,每一词向量用于作为所述短语结构树中叶节点的输入;
通过标记编码器对所述短语结构树中叶节点执行第一操作处理,以将句子文本的词向量转换为对应的句向量;
通过语义合成器对所述短语结构树中内部节点执行第二操作处理,以根据句向量得到所述短语结构树中根节点的输出;
根据所述根节点的输出对分类器进行训练。
进一步地,在所述文本分类方法中,所述通过语义合成器对所述短语结构树中内部节点执行第二操作处理包括:
根据内部节点的左侧兄弟节点和右侧的子节点以自下而上、从左到右的顺序进行学习。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学深圳研究生院,未经清华大学深圳研究生院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810640617.8/2.html,转载请声明来源钻瓜专利网。
- 上一篇:动态属性的生成方法及装置
- 下一篇:一种智能家居情感交互系统