[发明专利]用于抽取信息的方法、装置和设备有效

专利信息
申请号: 201710996056.0 申请日: 2017-10-23
公开(公告)号: CN107783960B 公开(公告)日: 2021-07-23
发明(设计)人: 孙明明;李平 申请(专利权)人: 百度在线网络技术(北京)有限公司
主分类号: G06F40/253 分类号: G06F40/253;G06F40/284;G06F40/211;G06F40/30;G06F16/28;G06N3/08
代理公司: 北京英赛嘉华知识产权代理有限责任公司 11204 代理人: 王达佐;马晓亚
地址: 100085 北京市*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 用于 抽取 信息 方法 装置 设备
【权利要求书】:

1.一种用于抽取信息的方法,其特征在于,所述方法包括:

获取已标注的语料库,所述已标注的语料库包括多条样本语句以及与各样本语句对应的已标注信息集合;

分别基于所述已标注的语料库中的样本语句和各所述样本语句对应的已标注信息集合构造输入序列以及对应的输出序列;

利用深度学习方法训练得出由所述输入序列生成所述输出序列的信息抽取模型;

将待处理语句输入已生成的信息抽取模型,以抽取出所述待处理语句所包含的知识信息集合;

其中,所述已标注信息集合包括将从对应的样本语句中抽取出的以下至少一种知识按照预设规则规范化后的信息:

基于动词或介词的知识、基于名词属性的知识、实体的描述知识以及实体与概念的关系知识;其中,所述预设规则是预先定义的采用符号协助的对样本语句中的各类型知识的表达方式。

2.根据权利要求1所述的方法,其特征在于,所述利用深度学习方法训练得出由所述输入序列生成所述输出序列的信息抽取模型,包括:

对所述输入序列中的各对象和所述输出序列中的各已标注信息进行向量化处理;

构建所述信息抽取模型的神经网络,所述信息抽取模型的神经网络包括编码器和解码器;

利用所述编码器将向量化处理后的输入序列映射为输入隐状态序列,利用所述解码器将所述输出序列映射为输出隐状态序列;

利用解码器对所述输入隐状态序列进行解码,得到预测状态序列;

根据所述预测状态序列与所述输出隐状态序列的差异调整所述神经网络的参数。

3.根据权利要求2所述的方法,其特征在于,所述利用解码器对所述输入隐状态序列进行解码,得到预测状态序列,包括:

对于待生成的预测状态序列中的目标位置,获取所述解码器的隐藏层在解码得出所述目标位置的上一个位置的预测状态后的状态,作为所述解码器的当前隐状态;

基于所述当前隐状态计算所述输入隐状态序列中各输入隐状态与待生成的预测状态序列中目标位置的预测状态之间的匹配度;

基于匹配度计算各所述输入隐状态对所述目标位置的预测状态的注意力权重;

对各所述输入隐状态按照所述注意力权重进行加权求和得到上下文向量;

基于所述上下文向量、所述输出隐状态序列中目标位置的上一个位置的输出隐状态、以及所述解码器的隐藏层在解码所述目标位置的预测状态时的状态,计算出所述目标位置的预测状态的概率分布;

根据所述概率分布,确定出所述目标位置的预测状态。

4.根据权利要求3所述的方法,其特征在于,所述基于所述当前隐状态计算所述输入隐状态序列中各输入隐状态与待生成的预测状态序列中目标位置的预测状态之间的匹配度,包括:

对所述当前隐状态和所述输入隐状态进行第一非线性变换,得到所述输入隐状态与所述目标位置的预测状态之间的匹配度。

5.根据权利要求3所述的方法,其特征在于,所述基于所述当前隐状态计算所述输入隐状态序列中各输入隐状态与待生成的预测状态序列中目标位置的预测状态之间的匹配度,包括:

基于所述当前隐状态计算所述目标位置对应的覆盖向量,所述覆盖向量用于记录所述样本语句中已被提取的信息;

对所述当前隐状态、所述输入隐状态以及所述目标位置的上一个位置对应的覆盖向量进行第二非线性变换,得到所述输入隐状态与所述目标位置的预测状态之间的匹配度。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201710996056.0/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top