[发明专利]基于结点表示法的指代消解方法有效
申请号: | 201910212569.7 | 申请日: | 2019-03-20 |
公开(公告)号: | CN109885841B | 公开(公告)日: | 2023-07-11 |
发明(设计)人: | 孔芳;付建;周国栋 | 申请(专利权)人: | 苏州大学 |
主分类号: | G06F40/211 | 分类号: | G06F40/211;G06F40/289 |
代理公司: | 苏州市中南伟业知识产权代理事务所(普通合伙) 32257 | 代理人: | 杨慧林 |
地址: | 215000 *** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于结点表示法的指代消解方法,包括:结点表示法:给定成分句法树,通过后序遍历得到其对应的结点序列,然后通过“字词嵌入替换法”获得其初始表示,通过双向长短时记忆网络获得其上下文表示;特征补充法:从成分句法树上提出每个结点的特征集加入初始表示中,丰富节点的表示;结点更新法:结合注意力机制与门控机制,利用孩子节点序列更新双亲结点的表示;结点枚举策略。本发明的有益效果:通过“结点表示法”、“特征补充法”、“节点更新法”与节点枚举策略,将整棵成分句法树的信息编码加入模型中,弥补了传统模型忽略结构信息与句法信息的不足,增强了句法结构信息在指代消解系统中的表达。 | ||
搜索关键词: | 基于 结点 表示 指代 消解 方法 | ||
【主权项】:
1.一种基于结点表示法的指代消解方法,其特征在于,包括:节点表示法:给定句法树t,通过后序遍历得到结点序列
其中nt表示t中结点的总数(不包括“单词结点”);然后利用“字词嵌入替换法”初始化节点序列的表示:首先使用零向量对其进行初始化,
然后,对序列中与“单词结点”连接结点对应位置的向量表示,替换为对应单词的字词嵌入表示:
使用特征集进一步丰富序列中结点的表征:特征集包括左右兄弟数、标签与路径特征,其定义如下:结点x的左右兄弟数:如果两个结点拥有相同的双亲,则称它们为兄弟;由于成分句法树是有序数,定义结点x的左右兄弟数为:[x左侧(或之前)兄弟的数目,x左右(或之后)兄弟的数目];结点x的标签:即结点x在成分句法树中的标签;结点x的路径:从结点x到根结点的简单路径所经过结点的标签序列,标签序列以x的标签开始,以根结点的标签结束;将加入特征集的O(t)作为上下文表示层的输入,使得上下文表示层能够学习到序列潜在的层次结构表示,而不仅仅是简单的线性结构;得到对应O(t)的上下文表示:
使用“结点更新法”进一步增强结构信息的表示:具体地,对于结点序列中的任意结点
将其孩子结点序列记为
并利用以下公式计算孩子结点序列的固定维度的向量表示:
这里,使用注意力机制实现Γ函数,公式如下:![]()
![]()
然后结合门控机制,更新结点
的表示:![]()
显然,当
时,
最终再利用新的上下文表示层对
进行重新编码,得到新的上下文表示,这里仍将其结果记为
得到新的H(t);由于后续的操作(即短语的表示)只需要单词序列的上下文表示,因此需要再从H(t)中提取出叶子结点(即单词)序列的上下文表示L(t):
对文档D中的每一个成分句法树应用相同的操作,然后按照句子的顺序将其拼接起来,得到文档D的新的上下文表示:
其中,![]()
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州大学,未经苏州大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910212569.7/,转载请声明来源钻瓜专利网。
- 上一篇:通过16位Trie树实现空间优化的词典排序方法
- 下一篇:处理文本神经网络