[发明专利]基于语义-标签多粒度注意力的多标签分类方法及系统有效
申请号: | 202110516862.X | 申请日: | 2021-05-12 |
公开(公告)号: | CN113128622B | 公开(公告)日: | 2022-05-31 |
发明(设计)人: | 杨振宇;刘国敬;王钰;马凯洋 | 申请(专利权)人: | 齐鲁工业大学 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/774;G06K9/62 |
代理公司: | 济南圣达知识产权代理有限公司 37221 | 代理人: | 祖之强 |
地址: | 250353 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 语义 标签 粒度 注意力 分类 方法 系统 | ||
1.一种基于语义-标签多粒度注意力的多标签分类方法,其特征在于,应用在文档注释、标签推荐、信息检索以及对话系统领域中,包括:
语义-标签多粒度注意力模型构建:将堆叠的扩张卷积编码模块与标签图注意力模块的输出共同输入到多粒度注意力机制网络,多粒度注意力机制网络输出的加权后的标签表示作为全连接层的输入,全连接层将得到的标签表示进一步进行映射并输入到一个Sigmoid层得到每个标签的预测概率;
模型训练:采用多标签数据集对构建的语义-标签多粒度注意力模型进行训练,调整参数直至语义-标签多粒度注意力模型收敛,得到训练完成的语义-标签多粒度注意力模型;
多标签数据集分类:以待分类的多标签数据集作为输入,训练完成后的语义-标签多粒度注意力模型输出分类结果;
采用多粒度注意力,使用词、短语和句子多种层次的语义信息分别对标签表示进行加权,突出标签语义特征与文本序列关系紧密的标签表示;
所述语义-标签多粒度注意力模型,通过文本内不同位置的内容来预测标签;所述语义-标签多粒度注意力模型,还通过堆叠的扩张卷积结构提供了能够兼顾局部语义和长期依赖的多粒度语义特征表示,为标签预测提供了更丰富、更细粒度的文本信息。
2.根据权利要求1所述的基于语义-标签多粒度注意力的多标签分类方法,其特征在于,采用堆叠的扩张卷积编码模块提取标签样本中的多粒度语义特征表示。
3.根据权利要求1所述的基于语义-标签多粒度注意力的多标签分类方法,其特征在于,采用标签图注意力模块建立标签类别与标签样本之间的相关性。
4.根据权利要求1所述的基于语义-标签多粒度注意力的多标签分类方法,其特征在于,所述多粒度注意力机制网络采用多粒度的语义特征对标签类别进行加权。
5.一种基于语义-标签多粒度注意力的多标签分类系统,其特征在于,应用在文档注释、标签推荐、信息检索以及对话系统领域中,包括:
语义-标签多粒度注意力模型构建模块,其被配置为:将堆叠的扩张卷积编码模块与标签图注意力模块的输出共同输入到多粒度注意力机制网络,多粒度注意力机制网络输出的加权后的标签表示作为全连接层的输入,全连接层将得到的标签表示进一步进行映射并输入到一个Sigmoid层得到每个标签的预测概率;
模型训练模块,其被配置为:采用多标签数据集对构建的语义-标签多粒度注意力模型进行训练,调整参数直至语义-标签多粒度注意力模型收敛,得到训练完成的语义-标签多粒度注意力模型;
多标签数据集分类模块,其被配置为:以待分类的多标签数据集作为输入,训练完成后的语义-标签多粒度注意力模型输出分类结果;
采用多粒度注意力,使用词、短语和句子多种层次的语义信息分别对标签表示进行加权,突出标签语义特征与文本序列关系紧密的标签表示;
所述语义-标签多粒度注意力模型,通过文本内不同位置的内容来预测标签;所述语义-标签多粒度注意力模型,还通过堆叠的扩张卷积结构提供了能够兼顾局部语义和长期依赖的多粒度语义特征表示,为标签预测提供了更丰富、更细粒度的文本信息。
6.根据权利要求5所述的基于语义-标签多粒度注意力的多标签分类系统,其特征在于,采用堆叠的扩张卷积编码模块提取文本序列中的多粒度语义特征表示。
7.根据权利要求5所述的基于语义-标签多粒度注意力的多标签分类系统,其特征在于,采用标签图注意力模块建立标签类别与标签样本之间的相关性。
8.根据权利要求5所述的基于语义-标签多粒度注意力的多标签分类系统,其特征在于,所述多粒度注意力机制网络采用多粒度的语义特征对标签类别进行加权。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-4中任一项所述的基于语义-标签多粒度注意力的多标签分类方法中的步骤。
10.一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1-4中任一项所述的基于语义-标签多粒度注意力的多标签分类方法中的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于齐鲁工业大学,未经齐鲁工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110516862.X/1.html,转载请声明来源钻瓜专利网。