[发明专利]一种自动给文档添加标签的方法和装置有效
申请号: | 201210001611.9 | 申请日: | 2012-01-05 |
公开(公告)号: | CN103198057B | 公开(公告)日: | 2017-11-07 |
发明(设计)人: | 贺翔;王业;焦峰 | 申请(专利权)人: | 深圳市世纪光速信息技术有限公司 |
主分类号: | G06F17/24 | 分类号: | G06F17/24 |
代理公司: | 北京润泽恒知识产权代理有限公司11319 | 代理人: | 苏培华 |
地址: | 518057 广东省深圳市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 自动 文档 添加 标签 方法 装置 | ||
1.一种自动给文档添加标签的方法,其特征在于,所述方法包括:
确定对应所述文档的多个候选标签词;
确定包括多个文本的语料;从所述语料中选择常用词作为特征词;针对每个特征词和候选标签词,确定所述语料中在出现特征词的情况下同时出现候选标签词的共现概率;其中,所述语料是指从互联网上收集相关的多个文本;
从所述文档中提取特征词,针对每个提取出的特征词,计算该特征词的权值;
在所述语料中,针对候选标签词,统计候选标签词与所述文档中出现的所有特征词的加权共现概率;选择加权共现概率高的候选标签词作为为文档添加的标签词。
2.根据权利要求1所述的方法,其特征在于,所述共现概率为P(X|Y),其中,X为候选标签词,Y为所述语料中出现的特征词;
P(X|Y)的确定方式为:P(X|Y)=X和Y在同一文本中同时出现的次数/Y在语料中出现的次数。
3.根据权利要求1所述的方法,其特征在于,所述共现概率为P(X|Y),其中,X为候选标签词,Y为所述语料中出现的特征词;
所述P(X|Y)的确定方式为:其中,H(X,Y)为X和Y的联合熵,I(X,Y)为X和Y的互信息。
4.根据权利要求1所述的方法,其特征在于,所述共现概率为P(X|Y),其中,X为候选标签词,Y为所述语料中出现的特征词;
所述P(X|Y)的确定方式为:利用词库资源进行确定。
5.根据权利要求1所述的方法,其特征在于,所述文档中提取出的特征词Y的权值为WY,WY等于Y在文档中出现的次数与所述语料中出现Y的文本数的乘积。
6.根据权利要求1至4任意一项所述的方法,其特征在于,所述加权共现概率为其中,Yi为文档中出现的特征词,为Yi的权值,n为文档中出现的特征词的个数。
7.根据权利要求1至4任意一项所述的方法,其特征在于,在所述语料中,针对与所述文档中出现的一个以上特征词存在共现关系的候选标签词,统计加权共现概率。
8.一种自动给文档添加标签的装置,其特征在于,所述装置包括:
候选标签词确定模块,用于确定对应所述文档的多个候选标签词;
共现概率确定模块,用于确定包括多个文本的语料,从所述语料中选择常用词作为特征词;针对每个特征词和候选标签词,确定所述语料中在出现特征词的情况下同时出现候选标签词的共现概率;其中,所述语料是指从互联网上收集相关的多个文本;
权值计算模块,用于从所述文档中提取特征词,针对每个提取出的特征词,计算该特征词的权值;
加权共现概率统计模块,用于在所述语料中,针对候选标签词,统计候选标签词与所述文档中出现的所有特征词的加权共现概率;
标签词添加模块,用于选择加权共现概率高的候选标签词作为为文档添加的标签词。
9.根据权利要求8所述的装置,其特征在于,所述共现概率为P(X|Y),其中,X为候选标签词,Y为所述语料中出现的特征词;
所述共现概率确定模块计算P(X|Y)的方式为:P(X|Y)=X和Y在同一文本中同时出现的次数/Y在语料中出现的次数。
10.根据权利要求8所述的装置,其特征在于,所述共现概率为P(X|Y),其中,X为候选标签词,Y为所述语料中出现的特征词;
所述共现概率确定模块计算P(X|Y)的方式为:其中,H(X,Y)为X和Y的联合熵,I(X,Y)为X和Y的互信息。
11.根据权利要求8所述的装置,其特征在于,所述共现概率为P(X|Y),其中,X为候选标签词,Y为所述语料中出现的特征词;
所述共现概率确定模块确定P(X|Y)的方式为:利用词库资源进行确定。
12.根据权利要求8所述的装置,其特征在于,所述文档中提取出的特征词Y的权值为WY,所述权值计算模块计算WY的方式为:WY等于Y在文档中出现的次数与所述语料中出现Y的文本数的乘积。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市世纪光速信息技术有限公司,未经深圳市世纪光速信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201210001611.9/1.html,转载请声明来源钻瓜专利网。