[发明专利]一种领域术语抽取的方法有效
申请号: | 201410831590.2 | 申请日: | 2014-12-26 |
公开(公告)号: | CN104598530B | 公开(公告)日: | 2018-06-05 |
发明(设计)人: | 江潮;张芃 | 申请(专利权)人: | 语联网(武汉)信息技术有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30;G06F17/27 |
代理公司: | 北京康盛知识产权代理有限公司 11331 | 代理人: | 张宇峰 |
地址: | 430070 湖北省武汉市东湖开发区光谷软件*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 一种领域术语抽取的方法,包括:对原始语料以语素为单位进行任意长度的切分,获得若干候选术语,其中,每个所述候选术语由至少二个语素组成;从词频、互信息、左右熵、独立性和结构多个维度对每个所述候选术语进行分析,确定该候选术语的多个特征参数;利用确定的所述多个特征参数,计算出该候选术语的领域术语度;抽取所述领域术语度高于阈值的候选术语作为新的领域术语。本发明通过词频、互信息、左右熵、独立性和结构上对候选术语进行充分的分析,保证提取的术语可靠性和准确性较高。 | ||
搜索关键词: | 领域术语 词频 抽取 特征参数 互信息 语素 独立性 原始语料 维度 分析 保证 | ||
【主权项】:
一种领域术语抽取的方法,其特征在于,包括:对原始语料以语素为单位进行任意长度的切分,获得若干候选术语,其中,每个所述候选术语由至少二个语素组成;从词频、互信息、左右熵、独立性和结构多个维度对每个所述候选术语进行分析,确定该候选术语的多个特征参数;利用确定的所述多个特征参数,计算出该候选术语的领域术语度;抽取所述领域术语度高于阈值的候选术语作为新的领域术语;其中,按照如下公式计算出每个候选术语的领域术语度Termhood:Termhood=K1·P+K2·MI+K3·LRH+K4·IPW+K5·IPC+K6·PC其中,P为候选术语在所述原始语料中的出现概率;MI为候选术语的两部分的互信息的最小值,其中候选术语被分割为任意长度的两部分;LRH为候选术语的左右熵;IPW为候选术语具有的每个语素在历史语料库中独立成词的概率;IPC为候选术语的每个语素在所述历史语料库中处于词头位置、词中位置和词尾位置的出现概率;PC为候选术语中的领域概率;K1、K2、K3、K4、K5和K6为通过给定样本利用最小二乘法计算出的领域术语度调节系数,所述领域术语度调节系数为多元线性回归系数;其中,按照如下公式计算候选术语C独立成词的概率IPW(C):IPW(C)=IPW(c1c2…c1)=IPW(c1)·IPW(c2)·…·IPW(cl);其中,c1、c2、…、cl分别为候选术语C中相应位置的语素,IPW(c1)、IPW(c2)、…、IPW(cl)为每个语素独立成词的概率;其中,按照如下公式计算候选术语中的每个语素x独立成词的概率IPW(x): 其中,word(x)为语素x在历史语料库中独立成词的次数,times(x)表示语素x在历史语料库中出现的总次数;其中,对于待计算的l元字符串C=c1c2…cl,根据内部词概率表,计算IPC的方法为: 其中,IPC(x,pos)表示语素x出现在位置pos的概率;pos取值为{0,1,2},0表示位置在词头、1表示位置在词中、2表示位置在词尾;其中,计算语素x出现在术语的词头、词中、词尾的概率,从而得到包含所有语素的内部词概率表的方式如下:
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于语联网(武汉)信息技术有限公司,未经语联网(武汉)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201410831590.2/,转载请声明来源钻瓜专利网。