[发明专利]一种基于改进simhash算法的问答数据清洗系统及方法在审
| 申请号： | 201711440420.1 | 申请日： | 2017-12-27 |
| 公开（公告）号： | CN108319648A | 公开（公告）日： | 2018-07-24 |
| 发明（设计）人： | 徐东群;庄永军 | 申请（专利权）人： | 深圳市三宝创新智能有限公司 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30;G06F17/27 |
| 代理公司： | 深圳力拓知识产权代理有限公司 44313 | 代理人： | 龚健 |
| 地址： | 518055 广东省深圳市福田区华*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于改进simhash算法的问答数据清洗系统及方法，包括问句处理单元和数据清洗单元，所述问句处理单元包括问句分词模块：用于将数据库内的所有问句分别进行分词，得到一系列问句的分词结果及其相应的词性权重，权重计算模块：用于对问句的分词结果进行权重计算，本系统针对对话式问答系统数据集所发明的，针对问句中重复出现的分词先采用权重累加的方式，再通过一系列的加权合并降维的处理，能够对于清除一些重复的问题以及符合对话式问答系统需求的答案，同时对于原先算法不适用于短文本的情况下进行改进，提高了系统数据集相似语句的计算准确率。 | ||
| 搜索关键词： | 算法 分词结果 清洗系统 权重计算 问答数据 问答系统 问句处理 对话式 分词 权重 改进 分词模块 加权合并 数据清洗 系统数据 重复出现 短文本 数据集 累加 准确率 词性 降维 语句 数据库 答案 重复 | ||
【主权项】：
1.一种基于改进simhash算法的问答数据清洗系统，其特征在于，包括问句处理单元和数据清洗单元，所述问句处理单元包括问句分词模块：用于将数据库内的所有问句分别进行分词，得到一系列问句的分词结果及其相应的词性权重，权重计算模块：用于对问句的分词结果进行权重计算；hash处理模块：用于将分词Wn生成64位的hash值基础上进行加权；距离判断模块：对于得到问句的simhash值后，任意计算两个问句simhash的海明距离，所述问句处理单元连接数据清洗单元。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于深圳市三宝创新智能有限公司，未经深圳市三宝创新智能有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201711440420.1/，转载请声明来源钻瓜专利网。
