[发明专利]一种基于最大熵模型建模和命名实体识别的方法及装置有效

专利信息
申请号: 200710098635.X 申请日: 2007-04-23
公开(公告)号: CN101295292A 公开(公告)日: 2008-10-29
发明(设计)人: 王学武;彭学政;杨建武;肖建国 申请(专利权)人: 北大方正集团有限公司;北京大学;北京北大方正技术研究院有限公司
主分类号: G06F17/27 分类号: G06F17/27
代理公司: 北京同达信恒知识产权代理有限公司 代理人: 李欣
地址: 100871北京市海淀*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 最大 模型 建模 命名 实体 识别 方法 装置
【权利要求书】:

1.一种基于最大熵模型建模的方法,其特征在于,包括:

输入标注命名实体的训练文本,该训练文本标注有中文人名和/或中文地名信息;

根据训练文本中标注的信息和预定义的角色信息,对训练文本中的每个字符进行角色 标记的标注,建立用于角色标注的训练文本;

根据字符角色标注,建立所述字符的特征项;

将所述字符的特征项输入到最大熵的建模工具中,得到基于所述字符角色标注的数据 模型,其中,所述最大熵的建模工具中,关于事件概率p的熵的定义公式为: 最大熵概率模型被定义在空间H×T上,其中H代表 所有上下文中特征的集合,一个选定字符的上下文范围可选择为前后各两个字符,特征包 括字符本身的特性和语言学特征信息,T代表一个字符所有可能的角色标记集合,hi代表给 定一个特定上下文,ti代表某一特定角色标记。

2.如权利要求1所述基于最大熵模型建模的方法,其特征在于,所述字符的特征项包 括:所述字符的本体、角色和类型。

3.如权利要求2所述基于最大熵模型建模的方法,其特征在于,所述字符的特征项还包 括:所述字符前面字符的角色和/或类型,以及各字符组合。

4.如权利要求2所述基于最大熵模型建模的方法,其特征在于,所述字符的特征项还包 括:所述字符后面字符的本体、角色和/或类型,以及各字符组合。

5.如权利要求4所述基于最大熵模型建模的方法,其特征在于,所述字符的特征项还包 括:所述字符前面字符的角色和/或类型。

6.如权利要求2所述基于最大熵模型建模的方法,其特征在于,所述字符的特征项包 括:所述字符前两个字符的角色,所述字符后两个字符的本体和类型,以及各字符两两组 合。

7.如权利要求1至6任意一项权利要求所述基于最大熵模型建模的方法,其特征在于, 所述字符的特征项还包括:

字符语言学特征信息。

8.一种命名实体识别的方法,其特征在于,包括:

加载权利要求1所述基于字符角色标注的数据模型;

输入待识别文本,建立待识别文本中各字符的特征项,得到待识别文本字符特征项序 列;

将待识别文本中字符特征项序列,输入到所述基于字符角色标注的数据模型中,得到 具有最大产生概率的待识别文本字符角色标注序列;

对待识别文本字符角色标注序列的标注名称模式匹配,得到命名实体。

9.一种基于最大熵模型建模的装置,其特征在于,包括:

输入模块:输入标注命名实体的训练文本,该训练文本标注有中文人名和/或中文地名 信息;

标注模块:根据训练文本中标注的信息和预定义的角色信息,对训练文本中的每个字 符进行角色标记的标注,建立用于角色标注的训练文本;

建立模块:用于根据字符角色标注,建立所述字符的特征项;

建模模块:用于将所述字符的特征项输入到最大熵的建模工具中,得到基于字符角色 标注的数据模型,其中,所述最大熵的建模工具中,关于事件概率p的熵的定义公式为: 最大熵概率模型被定义在空间H×T上,其中H代表 所有上下文中特征的集合,一个选定字符的上下文范围可选择为前后各两个字符,特征包 括字符本身的特性和语言学特征信息,T代表一个字符所有可能的角色标记集合,hi代表给 定一个特定上下文,ti代表某一特定角色标记。

10.一种命名实体识别的装置,其特征在于,包括:

加载模块:用于加载权利要求1所述基于字符角色标注的数据模型;

特征项生成模块:用于输入待识别文本,建立待识别文本中各字符的特征项,得到待识 别文本字符特征项序列;

角色标注生成模块:用于将待识别文本中字符特征项序列,输入到所述基于字符角色 标注的数据模型中,得到具有最大产生概率的待识别文本字符角色标注序列;

匹配模块:用于对待识别文本字符角色标注序列的标注名称模式匹配,得到命名实体。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北大方正集团有限公司;北京大学;北京北大方正技术研究院有限公司,未经北大方正集团有限公司;北京大学;北京北大方正技术研究院有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/200710098635.X/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top