[发明专利]一种基于大规模语料提词方法和装置有效
| 申请号： | 201610429967.0 | 申请日： | 2016-06-16 |
| 公开（公告）号： | CN106126495B | 公开（公告）日： | 2019-03-12 |
| 发明（设计）人： | 曹骥;王富田;李健;张连毅;武卫东 | 申请（专利权）人： | 北京捷通华声科技股份有限公司 |
| 主分类号： | G06F17/27 | 分类号： | G06F17/27 |
| 代理公司： | 北京润泽恒知识产权代理有限公司 11319 | 代理人： | 苏培华 |
| 地址： | 100193 北京市海淀区东北*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供一种基于大规模语料的提词方法及装置，包括步骤：从收集的语料中统计候选词的凝合度及候选词的自由度；将所述候选词的凝合度与候选词的自由度的乘积获得成词得分；提取所述成词得分超过预先设定阈值的候选词。在中文没有标准词定义和划分的情况下，实现了计算机系统在大规模语料中有效识别并提取词。 | ||
| 搜索关键词： | 一种 基于 大规模 语料 提词 方法 装置 | ||
【主权项】：
1.一种基于大规模语料的提词方法，其特征在于包括步骤：从收集的语料中统计候选词的凝合度及候选词的自由度；将所述候选词的凝合度与候选词的自由度的乘积获得成词得分；提取所述成词得分超过预先设定阈值的候选词；其中，所述统计候选词的凝合度是通过计算语料中候选词的字间信息熵和词频获得；其中，所述候选词的凝合度![]()
其中，T表示候选词的内部凝合度，d表示候选词的长度，S'i是候选词中第i个字的右熵，![]()
其中，nkj表示第i个字的右邻字符集中字元素“kj”出现在其右侧的次数，ni表示第i个字在语料中出现的次数，K表示第i个字的右邻字集中字元素个数；S”i+1表示候选词中第i+1个字的左熵，![]()
其中，![]()
表示第i+1个字的左邻字集中字元素“mj”出现在其左侧的次数，ni+1表示候选字中第i+1个字在语料中出现的次数，M表示第i+1个字的左邻字集中字元素个数；pj表示候选词相对于第j个字的频率，![]()
其中，n表示该长度为d的候选词在语料中出现的次数，nj表示第j个字在语料中出现的次数。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京捷通华声科技股份有限公司，未经北京捷通华声科技股份有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201610429967.0/，转载请声明来源钻瓜专利网。
