[发明专利]一种文本分类方法、装置、设备及存储介质在审
申请号: | 202110005508.0 | 申请日: | 2021-01-04 |
公开(公告)号: | CN112667782A | 公开(公告)日: | 2021-04-16 |
发明(设计)人: | 王硕;周星杰;杨康;徐成国 | 申请(专利权)人: | 上海明略人工智能(集团)有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/35;G06F40/289;G06F40/30;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京超成律师事务所 11646 | 代理人: | 裴素英 |
地址: | 200030 上海市徐汇区*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 分类 方法 装置 设备 存储 介质 | ||
1.一种文本分类方法,其特征在于,所述方法包括:
将待分类文本中的至少一个词语分别转换成至少一个词向量;
将各所述词向量输入预先训练得到的文本分类模型中的短语注意力子模型,得到所述待分类文本对应的多个短语向量;
将所述多个短语向量以及所述待分类文本对应的层级标签结构中的各候选类别输入所述文本分类模型中的标签注意力子模型,得到所述待分类文本的多个特征向量;
基于所述待分类文本的各特征向量,得到所述待分类文本的分类结果,所述分类结果用于表征所述待分类文本的类别。
2.根据权利要求1所述的方法,其特征在于,所述标签注意力子模型包括:图卷积层、标签注意力层;
所述将所述多个短语向量以及所述待分类文本对应的层级标签结构中的各候选类别输入所述文本分类模型中的标签注意力子模型,得到所述待分类文本的多个特征向量,包括:
将所述多个短语向量以及所述待分类文本对应的层级标签结构中的各候选类别向量输入所述标签注意力层,由所述标签注意层根据所述多个短语向量以及所述图卷积层输出的各候选类别向量,得到所述待分类文本的多个特征向量。
3.根据权利要求2所述的方法,其特征在于,所述根据所述多个短语向量以及所述图卷积层输出的各候选类别向量,得到所述待分类文本的多个特征向量,包括:
基于各所述候选类别向量以及各所述短语向量,确定各所述候选类别相对于各所述短语的权重;
根据各所述候选类别相对于各所述短语的权重以及各所述短语向量,得到所述待分类文本的多个特征向量。
4.根据权利要求2所述的方法,其特征在于,所述将所述多个短语向量以及所述待分类文本对应的层级标签结构中的各候选类别向量输入所述标签注意力层,由所述标签注意层根据所述多个短语向量以及所述图卷积层输出的各候选类别向量,得到所述待分类文本的多个特征向量之前,所述方法还包括:
由所述图卷积层对所述层级标签结构中的各候选类别进行节点聚合处理,得到各候选类别向量。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述短语注意力子模型包括:卷积层、双向长短期记忆层、以及短语注意力层;
所述将各所述词向量输入预先训练得到的文本分类模型中的短语注意力子模型,得到所述待分类文本对应的多个短语向量,包括:
将各所述词向量输入所述卷积层,得到短语序列特征;
将所述短语序列特征输入所述双向长短期记忆层,进行短语上下文语义特征提取,得到包含所述上下文语义的短语语义特征;
将所述短语语义特征输入所述短语注意力层,得到所述待分类文本对应的多个短语向量。
6.根据权利要求5所述的方法,其特征在于,所述将所述短语语义特征输入所述短语注意力层,得到所述待分类文本对应的多个短语向量,包括:
根据所述短语语义特征,确定表示向量;
根据所述表示向量,确定所述短语语义特征的得分;
根据所述短语语义特征的得分以及所述短语语义特征,得到所述待分类文本对应的多个短语向量。
7.根据权利要求1-4任一项所述的方法,其特征在于,所述将待分类文本中的至少一个词语分别转换成至少一个词向量,包括:
将待分类文本中的至少一个词语输入预先训练得到的嵌入模型,得到各词语对应的词向量。
8.一种文本分类装置,其特征在于,所述装置包括:
转换模块,用于将待分类文本中的至少一个词语分别转换成至少一个词向量;
第一输入模块,用于将各所述词向量输入预先训练得到的文本分类模型中的短语注意力子模型,得到所述待分类文本对应的多个短语向量;
第二输入模块,用于将所述多个短语向量以及所述待分类文本对应的层级标签结构中的各候选类别输入所述文本分类模型中的标签注意力子模型,得到所述待分类文本的多个特征向量;
确定模块,用于基于所述待分类文本的各特征向量,得到所述待分类文本的分类结果,所述分类结果用于表征所述待分类文本的类别。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海明略人工智能(集团)有限公司,未经上海明略人工智能(集团)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110005508.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:人机交互牵引装置及其控制方法
- 下一篇:一种区块链基于伪随机公钥的加密方法