[发明专利]一种词典生成方法、新词发现方法、装置及电子设备有效
申请号: | 201811401640.8 | 申请日: | 2018-11-22 |
公开(公告)号: | CN109614499B | 公开(公告)日: | 2023-02-17 |
发明(设计)人: | 杨明晖 | 申请(专利权)人: | 创新先进技术有限公司 |
主分类号: | G06F40/242 | 分类号: | G06F40/242;G06F40/284;G06F40/216 |
代理公司: | 北京国昊天诚知识产权代理有限公司 11315 | 代理人: | 许振新;朱文杰 |
地址: | 英属开曼群岛大开曼*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请涉及一种词典生成方法、新词发现方法、装置及电子设备。方法包括:对文本语料进行分词处理,得到候选分词集,候选分词集的分词对应有以出现频率为初始值的分词分值;基于候选分词集合对文本语料的语句进行分词划分;多轮迭代执行:基于候选分词集中分词的分词分值,确定文本语料中的语句的分词划分结果的置信值;基于包含目标分词的分词划分结果的置信值总和,更新候选分词集中目标分词的分词分值;基于多轮迭代过程中每个语句置信值最高的分词划分结果,或者基于最后一轮迭代过程中每个语句置信值最高的分词划分结果,构建目标词典。 | ||
搜索关键词: | 一种 词典 生成 方法 新词 发现 装置 电子设备 | ||
【主权项】:
1.一种词典生成方法,包括:对文本语料进行分词处理,得到所述文本语料对应的候选分词集,所述候选分词集的分词对应有以出现频率作为初始值的分词分值;基于所述候选分词集合对所述文本语料中的语句进行分词划分;多轮迭代执行以下方法:基于候选分词集中分词对应的分词分值,确定所述文本语料中的语句的分词划分结果的置信值;基于包含目标分词的分词划分结果的置信值总和,更新候选分词集中所述目标分词对应的分词分值;基于多轮迭代过程中所述文本语料的每个语句置信值最高的分词划分结果,或者基于最后一轮迭代过程中所述文本语料的每个语句置信值最高的分词划分结果,构建目标词典。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于创新先进技术有限公司,未经创新先进技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811401640.8/,转载请声明来源钻瓜专利网。