[发明专利]用于抽取信息的方法、装置和设备有效
申请号: | 201710996056.0 | 申请日: | 2017-10-23 |
公开(公告)号: | CN107783960B | 公开(公告)日: | 2021-07-23 |
发明(设计)人: | 孙明明;李平 | 申请(专利权)人: | 百度在线网络技术(北京)有限公司 |
主分类号: | G06F40/253 | 分类号: | G06F40/253;G06F40/284;G06F40/211;G06F40/30;G06F16/28;G06N3/08 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 抽取 信息 方法 装置 设备 | ||
1.一种用于抽取信息的方法,其特征在于,所述方法包括:
获取已标注的语料库,所述已标注的语料库包括多条样本语句以及与各样本语句对应的已标注信息集合;
分别基于所述已标注的语料库中的样本语句和各所述样本语句对应的已标注信息集合构造输入序列以及对应的输出序列;
利用深度学习方法训练得出由所述输入序列生成所述输出序列的信息抽取模型;
将待处理语句输入已生成的信息抽取模型,以抽取出所述待处理语句所包含的知识信息集合;
其中,所述已标注信息集合包括将从对应的样本语句中抽取出的以下至少一种知识按照预设规则规范化后的信息:
基于动词或介词的知识、基于名词属性的知识、实体的描述知识以及实体与概念的关系知识;其中,所述预设规则是预先定义的采用符号协助的对样本语句中的各类型知识的表达方式。
2.根据权利要求1所述的方法,其特征在于,所述利用深度学习方法训练得出由所述输入序列生成所述输出序列的信息抽取模型,包括:
对所述输入序列中的各对象和所述输出序列中的各已标注信息进行向量化处理;
构建所述信息抽取模型的神经网络,所述信息抽取模型的神经网络包括编码器和解码器;
利用所述编码器将向量化处理后的输入序列映射为输入隐状态序列,利用所述解码器将所述输出序列映射为输出隐状态序列;
利用解码器对所述输入隐状态序列进行解码,得到预测状态序列;
根据所述预测状态序列与所述输出隐状态序列的差异调整所述神经网络的参数。
3.根据权利要求2所述的方法,其特征在于,所述利用解码器对所述输入隐状态序列进行解码,得到预测状态序列,包括:
对于待生成的预测状态序列中的目标位置,获取所述解码器的隐藏层在解码得出所述目标位置的上一个位置的预测状态后的状态,作为所述解码器的当前隐状态;
基于所述当前隐状态计算所述输入隐状态序列中各输入隐状态与待生成的预测状态序列中目标位置的预测状态之间的匹配度;
基于匹配度计算各所述输入隐状态对所述目标位置的预测状态的注意力权重;
对各所述输入隐状态按照所述注意力权重进行加权求和得到上下文向量;
基于所述上下文向量、所述输出隐状态序列中目标位置的上一个位置的输出隐状态、以及所述解码器的隐藏层在解码所述目标位置的预测状态时的状态,计算出所述目标位置的预测状态的概率分布;
根据所述概率分布,确定出所述目标位置的预测状态。
4.根据权利要求3所述的方法,其特征在于,所述基于所述当前隐状态计算所述输入隐状态序列中各输入隐状态与待生成的预测状态序列中目标位置的预测状态之间的匹配度,包括:
对所述当前隐状态和所述输入隐状态进行第一非线性变换,得到所述输入隐状态与所述目标位置的预测状态之间的匹配度。
5.根据权利要求3所述的方法,其特征在于,所述基于所述当前隐状态计算所述输入隐状态序列中各输入隐状态与待生成的预测状态序列中目标位置的预测状态之间的匹配度,包括:
基于所述当前隐状态计算所述目标位置对应的覆盖向量,所述覆盖向量用于记录所述样本语句中已被提取的信息;
对所述当前隐状态、所述输入隐状态以及所述目标位置的上一个位置对应的覆盖向量进行第二非线性变换,得到所述输入隐状态与所述目标位置的预测状态之间的匹配度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于百度在线网络技术(北京)有限公司,未经百度在线网络技术(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710996056.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:发射和接收装置及超声系统
- 下一篇:对无线终端的天线进行校准的设备和方法
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置