[发明专利]依存分析模型及基于依存分析的中文联合事件抽取方法在审
申请号: | 202210452892.3 | 申请日: | 2022-04-27 |
公开(公告)号: | CN114841140A | 公开(公告)日: | 2022-08-02 |
发明(设计)人: | 吴昆;丁国栋 | 申请(专利权)人: | 迈容智能科技(上海)有限公司 |
主分类号: | G06F40/211 | 分类号: | G06F40/211;G06F40/289;G06F40/30;G06F16/35;G06N3/04;G06N3/08 |
代理公司: | 上海诺衣知识产权代理事务所(普通合伙) 31298 | 代理人: | 刘艳芝 |
地址: | 200433 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 依存 分析 模型 基于 中文 联合 事件 抽取 方法 | ||
1.一种基于文本表征的依存分析模型构建方法,其特征在于:首先,将文本进行分词,并且使用依存句法分析得到词与词之间的主从关系,建立词与词之间的依存关系;其次,构建三种类型的边,并对应三种类型的边分别生成三个二维邻接矩阵构建图表示,使用无向图表示该依存关系;然后,将初始文本表征输入图卷积神经网络,使用无向图聚合邻居节点信息,将卷积神经网络的输出与初始文本表征进行融合;最后,将融合后得到的分类向量作为该模型的输出。
2.根据权利要求1所述的基于文本表征的依存分析模型构建方法,其特征在于:使用无向图表示依存关系的具体过程如下:
将词之间的依存关系简化为词首字间的依存关系,构建三种类型的边表示,分别为ealong,eloop,erev;依照预先建立的依存关系为三种边构建二维邻接矩阵,将依存关系抽象为无向图表示;所述邻接矩阵均以单字为节点,若两个节点之间存在关系,则将邻接矩阵对应位置的值置为1,反之置为0。
3.根据权利要求2所述的基于文本表征的依存分析模型构建方法,其特征在于:所述融合获取分类向量的具体过程如下:
将获取的词嵌入文本表征,作为图卷积神经网络的初始输入,结合无向图对邻居节点信息进行聚合,计算图卷积向量;将三种边类型的图卷积向量进行拼接,并使用激活函数更新第k+1层的节点向量,将最后一层图卷积网络的输出和词嵌入文本表征结合,获取最终的分类向量,其中,k表示图卷积的层数。
4.根据权利要求3所述的基于文本表征的依存分析模型构建方法,其特征在于:根据如下公式计算图卷积向量
其中,v表示当前更新节点,K(v,u)指示当前边的类型,对应于ealong,eloop,erev三种,N(v,K(v,u))是当前节点在当前边的邻居节点集合,即二维邻接矩阵中值为1的部分,和是节点和边类型约束的权重矩阵和偏移量参数。
5.根据权利要求1所述的基于文本表征的依存分析模型构建方法,其特征在于:所述依存句法分析中,使用官方工具包Stanford CoreNLP进行中文文本依存关系分析,首先将中文文本进行分词,经过依存分析得到以词为单位的支配词与从属词之间的中文句法依存关系。
6.一种基于依存分析的中文联合事件抽取方法,其特征在于:包括如下步骤:
步骤1、预处理包含事件类型以及描述该事件的输入文本,使用预训练语言模型对数据集中的文本进行编码,得到模型的初始文本表征;
步骤2、将原始输入文本进行分词,并将分词结果和步骤1得到的文本表征输入权利要求1至5中任一项所述依存分析模型,获取融合分类向量;
步骤3、将步骤2中得到的分类向量输入事件触发词分类器,使用0/1标注格式对每个事件类型的候选触发词的首尾索引进行预测,计算当前字是触发词开始和结束的分类概率向量pts/te;
步骤4、将步骤2得到的分类向量输入事件论元分类器,使用0/1标注格式对每个角色类型的候选论元的首尾索引进行预测,计算当前字是该论元开始和结束字的分类概率向量pas/ae;
步骤5、使用步骤3得到的向量pts/te和步骤4得到的向量pas/ae分别进行触发词和论元的抽取,通过参数共享和联合学习进行训练,经过迭代得到最优模型。
7.根据权利要求6所述的基于依存分析的中文联合事件抽取方法,其特征在于:所述步骤1的具体过程如下:
划分训练集和测试集,将文档中的长文档分隔为固定长度为200个字的句子集合,其中一个句子对应数据集中的一条样本,使用预训练语言模型BERT进行词嵌入表示得到初始文本表征h。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于迈容智能科技(上海)有限公司,未经迈容智能科技(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210452892.3/1.html,转载请声明来源钻瓜专利网。