[发明专利]知识库中数据处理方法、装置、计算机设备和存储介质在审
申请号: | 202010097675.8 | 申请日: | 2020-02-17 |
公开(公告)号: | CN111324687A | 公开(公告)日: | 2020-06-23 |
发明(设计)人: | 高祎璠;伍必欣 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/31 | 分类号: | G06F16/31;G06F16/332;G06F16/35;G06F40/289;G06N3/02 |
代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 董慧 |
地址: | 518033 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 知识库 数据处理 方法 装置 计算机 设备 存储 介质 | ||
1.一种知识库中数据处理方法,所述方法包括:
接收知识库的数据录入请求,所述数据录入请求携带待录入知识数据;
对所述待录入知识数据进行分词处理,得到分词结果;
根据所述分词结果以及预设基于SOLR技术创建的倒排索引结构表,对已存知识文档进行索引搜索,查找出与所述待录入知识数据相关的知识文档;
调用预设阈值化知识冲突接口,根据与所述阈值化知识冲突接口对应设置的阈值,返回与所述待录入知识数据存在知识冲突的知识文档;
当检测到知识冲突为不完全匹配时,录入所述待录入知识数据。
2.根据权利要求1所述的知识库中数据处理方法,其特征在于,所述倒排索引结构表包括文档ID列表和单词出现频次;
所述根据所述分词结果以及预设基于SOLR技术创建的倒排索引结构表,对预设问答知识库中的知识文档进行索引搜索,查找出与所述待录入知识相关的知识文档包括:
根据所述分词结果查找对应的索引;
根据查找到的索引,从所述倒排索引结构中查找出对应的文档ID列表、并由查找到的所述文档ID列表查找出对应的知识文档;
基于所述倒排索引结构表中单词出现频次,计算各分词结果的权重;
根据所述权重将查找出的知识文档进行排序、并返回排序后的知识文档。
3.根据权利要求1所述的知识库中数据处理方法,其特征在于,所述根据所述分词结果以及预设基于SOLR技术创建的倒排索引结构表,对已存知识文档进行索引搜索之前,还包括:
获取预设知识库的存量知识文档;
将所述存量知识文档切分为单词序列、并创建与所述单词序列对应的索引;
为所述单词序列添加对应的单词编号、并记录各单词序列出现过的文档ID列表、出现位置以及出现频次,构建对应的倒排列表;
将所述索引与所述倒排列表进行关联,得到所述倒排索引结构表。
4.根据权利要求1所述的知识库中数据处理方法,其特征在于,所述调用预设的阈值化知识冲突接口、并根据所述阈值化知识冲突接口设置的阈值,返回与所述待录入知识数据存在知识冲突的知识文档包括:
调用预设的阈值化知识冲突接口,获取所述查找出的相关的知识文档与所述待录入知识数据的相似度;
将所述相似度与所述阈值进行比较,返回相似度高于所述阈值的知识文档。
5.根据权利要求1所述的知识库中数据处理方法,其特征在于,还包括:
当检测到知识冲突为完全匹配时,发送知识录入失败消息至用户终端。
6.根据权利要求5所述的知识库中数据处理方法,其特征在于,所述发送知识录入失败消息至用户终端之后,还包括:
发送待录入知识调整消息至所述用户终端;
接收所述用户终端返回的调整后的待录入知识数据;
对调整后的待录入知识数据进行分词处理,得到更新后的分词结果;
将所述分词结果替换为更新后的分词结果,返回所述根据所述分词结果以及预设基于SOLR技术创建的倒排索引结构表,对已存知识文档进行索引搜索的步骤。
7.一种知识库中数据处理装置,其特征在于,所述装置包括:
请求接收模块,用于接收知识库的数据录入请求,所述数据录入请求携带待录入知识数据;
分词处理模块,用于对所述待录入知识数据进行分词处理,得到分词结果;
索引搜索模块,用于根据所述分词结果以及预设基于SOLR技术创建的倒排索引结构表,对已存知识文档进行索引搜索,查找出与所述待录入知识数据相关的知识文档;
冲突检测模块,用于调用预设的阈值化知识冲突接口,根据与所述阈值化知识冲突接口对应设置的阈值,返回与所述待录入知识数据存在知识冲突的知识文档;
知识录入模块,用于当检测到知识冲突为不完全匹配时,录入所述待录入知识数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010097675.8/1.html,转载请声明来源钻瓜专利网。