[发明专利]一种基于改进simhash算法的问答数据清洗系统及方法在审
| 申请号： | 201711440420.1 | 申请日： | 2017-12-27 |
| 公开（公告）号： | CN108319648A | 公开（公告）日： | 2018-07-24 |
| 发明（设计）人： | 徐东群;庄永军 | 申请（专利权）人： | 深圳市三宝创新智能有限公司 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30;G06F17/27 |
| 代理公司： | 深圳力拓知识产权代理有限公司 44313 | 代理人： | 龚健 |
| 地址： | 518055 广东省深圳市福田区华*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 算法 分词结果 清洗系统 权重计算 问答数据 问答系统 问句处理 对话式 分词 权重 改进 分词模块 加权合并 数据清洗 系统数据 重复出现 短文本 数据集 累加 准确率 词性 降维 语句 数据库 答案 重复 | ||
【权利要求书】：
1.一种基于改进simhash算法的问答数据清洗系统，其特征在于，包括问句处理单元和数据清洗单元，所述问句处理单元包括问句分词模块：用于将数据库内的所有问句分别进行分词，得到一系列问句的分词结果及其相应的词性权重，权重计算模块：用于对问句的分词结果进行权重计算；hash处理模块：用于将分词Wn生成64位的hash值基础上进行加权；距离判断模块：对于得到问句的simhash值后，任意计算两个问句simhash的海明距离，所述问句处理单元连接数据清洗单元。
2.一种基于改进simhash算法的问答数据清洗方法，其特征在于，包含以下步骤：
A、将数据库内的所有问句分别进行分词，由此得到一系列问句的分词结果及其相应的词性权重；
B、对于多次出现的某分词，进行权重累加，并生成一系列的(分词，权重)对；
C、将分词Wn生成64位的hash值，并在其基础上进行加权及其加权结果累加；
D、对加权结果进行处理，从而得到该语句的simhash值；
E、通过任意计算两个问句simhash的海明距离，判断两个问句的相似度。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于深圳市三宝创新智能有限公司，未经深圳市三宝创新智能有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201711440420.1/1.html，转载请声明来源钻瓜专利网。
