[发明专利]平滑处理方法和系统有效
申请号: | 201810344157.4 | 申请日: | 2018-04-17 |
公开(公告)号: | CN108829657B | 公开(公告)日: | 2022-05-03 |
发明(设计)人: | 李贤 | 申请(专利权)人: | 广州视源电子科技股份有限公司 |
主分类号: | G06F40/284 | 分类号: | G06F40/284 |
代理公司: | 华进联合专利商标代理有限公司 44224 | 代理人: | 余永文 |
地址: | 510530 广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及自然语言处理技术领域,特别是涉及一种平滑处理方法和系统,方法包括以下步骤:统计缺失词语在目标语料库中的第一出现次数,其中,缺失词语为在原语料库中出现次数为0的词语;根据第一出现次数计算缺失词语的归一化频率指标;根据归一化频率指标和剩余概率计算缺失词语的平滑概率,根据平滑概率对缺失词语进行平滑处理,其中,剩余概率为从原语料库中出现次数小于或等于k次的词语的出现概率之和,k为正整数。上述方法和系统能够解决了传统的平滑处理方式效果差的问题,区分缺失词语可能出现的词语本身出错和语料本身覆盖不足这两种情况,对缺失词语进行平滑处理,减少误判,增强平滑处理效果。 | ||
搜索关键词: | 平滑 处理 方法 系统 | ||
【主权项】:
1.一种平滑处理方法,其特征在于,包括以下步骤:统计缺失词语在目标语料库中的第一出现次数,其中,所述缺失词语为在原语料库中出现次数为0的词语;根据所述第一出现次数计算所述缺失词语的归一化频率指标;根据所述归一化频率指标和剩余概率计算所述缺失词语的平滑概率,并根据所述平滑概率对所述缺失词语进行平滑处理,其中,所述剩余概率为从所述原语料库中出现次数小于或等于k次的词语的出现概率之和,k为正整数。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州视源电子科技股份有限公司,未经广州视源电子科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810344157.4/,转载请声明来源钻瓜专利网。
- 上一篇:网络信息的数据处理方法及数据处理装置
- 下一篇:新词发现的方法及装置