[发明专利]一种基于图卷积神经网络的中文词义消歧方法有效
申请号: | 202110485038.2 | 申请日: | 2021-04-30 |
公开(公告)号: | CN113095087B | 公开(公告)日: | 2022-11-25 |
发明(设计)人: | 刘睿;仇化平;黄长帅 | 申请(专利权)人: | 哈尔滨理工大学 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F40/289;G06F40/268;G06F16/35;G06N3/04;G06N3/08 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 150080 黑龙*** | 国省代码: | 黑龙江;23 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 图卷 神经网络 中文 词义 方法 | ||
本发明涉及一种基于图卷积神经网络(Graph Convolution Network,GCN)的中文词义消歧方法。本发明首先对汉语语料进行预处理。该步骤对训练和测试语料包含歧义词的语句进行分词、词性标注和语义标注处理。以歧义词所在的句子,以及句中所包含的词形、词性和语义作为消歧特征并作为节点来构建词义消歧特征图,使用Word2Vec、Doc2Vec工具和点互信息(PMI)、TF‑IDF方法对节点和边进行嵌入权值。用训练语料训练GCN模型,将模型优化。用优化后的GCN模型,对测试语料进行词义消歧,可得到歧义词汇在各个语义类别下的概率分布。将概率最大值对应的语义类判别为歧义词汇的语义类。本发明具有较好的词义消歧效果,更准确的判断歧义词汇的真实含义。
技术领域:
本发明涉及一种基于图卷积神经网络的中文词义消歧方法,该方法可以很好的应用在自然语言处理领域。
背景技术:
词义消歧是自然语言处理领域中的基础性研究课题。在自然语言中,常常存在着一词多义的现象,往往给文本分类、机器翻译、信息检索等方面的应用带来一些困扰。根据上下文特定的语言环境,找出歧义词汇的真实语义,提高词汇表示的准确性,将会给以上应用领域中带来更好的效果。
目前,经常使用一些常见的算法对歧义词汇进行消歧和分类,例如:朴素贝叶斯、K-means、基于关联规则的分类方法和人工神经网络等。但是,这些传统的算法存在着一些缺点,不能充分的提取消歧特征或者仅限于局部消歧特征提取,且分类器分类效果不是很好。近年来,深度学习算法已经广泛的应用到自然语言处理领域,像循环神经网络、卷积神经网络等算法模型,这些深度学习算法可以更好的提取消歧特征。图卷积神经网络(GraphConvolutionNetwork,GCN)模型是最近两年内提出来的深度学习算法,此模型直接在图上进行建模,通过构造词义消歧特征图的形式,可以将消歧特征更好的提取出来,将节点以及其邻域节点的消歧特征进行融合。对于歧义词汇而言,可以很好地应用GCN网络来进行消歧,实现语义的正确分类。
发明内容:
鉴于此,为了解决自然语言处理领域中针对中文里一词多义的现象,本发明公开了一种基于图卷积神经网络的中文词义消歧方法。
为此,本发明提供了如下技术方案:
1.基于图卷积神经网络的中文词义消歧方法,其特征在于,该方法包括以下步骤:
步骤1:对语料中所包含的所有汉语句子进行分词、词性标注和语义类标注,选取歧义词汇所在的句子,以及句子内的词形、词性和语义类作为消歧特征。
步骤2:提取歧义词汇所在的句子,以及句子内的词形、词性和语义类,使用Doc2Vec工具将提取的句子特征进行向量化处理,使用Word2Vec工具将词形、词性和语义类特征进行向量化处理。将处理好的语料分为训练语料和测试语料,其中训练语料占大部分。
步骤3:构建词义消歧特征图,将提取的句子,以及句子内的词形、词性和语义类作为图中的节点,构建词形与词形节点之间的边,词形与句子节点之间的边,词形与词性节点之间的边,词形与语义类节点之间的边。
步骤4:训练过程为:由训练数据构建好的词义消歧特征图输入到GCN模型里面进行训练,得到优化后的GCN模型。
步骤5:测试过程为:由测试数据构建的词义消歧特征图输入到优化后的GCN模型里面进行测试,即语义分类过程。计算歧义词汇在每个语义类别下的概率分布,其中,具有最大概率的语义类即为歧义词汇的语义类。
2.根据权利要求1所述的基于图卷积神经网络的中文词义消歧方法,其特征在于,所述步骤1中,对汉语句子进行分词、词性标注和语义类标注,提取消歧特征,具体步骤为:
步骤1-1利用汉语分词工具对汉语句子进行词汇切分;
步骤1-2利用汉语词性标注工具对已切分好的词汇进行词性标注;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于哈尔滨理工大学,未经哈尔滨理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110485038.2/2.html,转载请声明来源钻瓜专利网。