[发明专利]索引的数据处理方法、装置、计算机设备和存储介质在审
申请号: | 202110988730.7 | 申请日: | 2021-08-26 |
公开(公告)号: | CN113626443A | 公开(公告)日: | 2021-11-09 |
发明(设计)人: | 陈汝龙;刘天赏;钟晓超 | 申请(专利权)人: | 企查查科技有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/23;G06K9/62 |
代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 姜晓云 |
地址: | 215000 江苏省苏州市苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 索引 数据处理 方法 装置 计算机 设备 存储 介质 | ||
1.一种索引的数据处理方法,其特征在于,所述方法包括以下步骤:
当内存中增加业务数据时,判断所述业务数据的业务标识是否在第二字典中存在;
当所述业务数据的业务标识未在第二字典中存在时,将所述业务数据更新至索引、第一字典、所述第二字典中;
当所述业务数据的业务标识在第二字典中存在时,在所述索引中更新所述业务数据对应的向量;
其中,所述第一字典和所述第二字典是在所述内存中创建的,所述第一字典中存储向量业务索引关系,所述向量业务索引关系包括通过向量标识查找与所述向量标识对应业务标识;所述第二字典中存储业务向量索引关系,所述业务向量索引关系包括通过业务标识查找与所述业务标识对应的向量标识。
2.根据权利要求1所述的索引的数据处理方法,其特征在于,所述将所述业务数据更新至索引、第一字典和所述第二字典中,包括:
通过自增计数器生成所述业务数据对应的向量的向量标识,并将所述业务数据的向量加入至所述索引中;
将所述业务数据对应的向量的向量标识和所述业务数据的业务标识设置为所述向量业务索引关系并存储至所述第一字典中;
将所述业务数据的业务标识和所述业务数据对应的向量的向量标识设置为所述业务向量索引关系并存储至所述第二字典中。
3.根据权利要求1或2所述的索引的数据处理方法,其特征在于,所述在所述索引中更新所述业务数据对应的向量,包括:
从所述第二字典中获取与所述业务数据的业务标识对应的向量标识,记为第一向量标识;
将所述索引中与所述第一向量标识对应的向量删除,并将所述业务数据的对应的向量作为所述第一向量标识对应的向量加入所述索引中。
4.根据权利要求1所述的索引的数据处理方法,其特征在于,所述第一字典和所述第二字典在所述内存中创建前,所述方法还包括:
通过定时线程设置间隔时间,并每经过一次间隔时间,将所述索引进行序列化至系统的本地磁盘中,生成索引文件,并在所述本地磁盘中备份和清理所述索引文件,其中,所述索引是在所述内存中创建的;
将所述索引文件按照创建的时间顺序进行降序排序,得到排序后的所述索引文件;
当所述系统启动时,找到并加载排名第一的排序后的所述索引文件至所述内存中。
5.根据权利要求4所述的索引的数据处理方法,其特征在于,所述在所述本地磁盘中备份和清理所述索引文件,包括:
在所述本地磁盘中存储预设的第一数量的索引文件,其中,所述索引文件是存储在所述本地磁盘的备份文件夹中的;
检测所述备份文件夹中所述索引文件的数量,当所述索引文件的数量大于预设的第二数量时,依次删除创建时间最早的所述索引文件,直至所述备份文件夹中所述索引文件的数量小于等于所述第二数量。
6.根据权利要求4或5所述的索引的数据处理方法,其特征在于,所述方法还包括:
当所述索引的搜索速度平均耗时变化的幅度大于预设的阈值时,重新训练并更新所述索引。
7.根据权利要求6所述的索引的数据处理方法,其特征在于,所述重新训练并更新所述索引,包括:
通过所述系统的接口将第一文件和第二文件上传至所述系统,其中,所述第一文件包括存储训练数据的文件,所述训练数据包括向量,所述第二文件包括存储业务标识和与所述业务标识对应的向量的文件;
利用所述第一文件训练第一索引,得到第二索引,所述第一索引为在所述内存中新建的索引;
将所述第二文件中的数据更新至所述第二索引中,并将所述第二索引替换为所述索引。
8.根据权利要求7所述的索引的数据处理方法,其特征在于,所述方法还包括:
当所述系统接收到搜索请求时,利用所述索引对所述搜索请求中的向量进行搜索,得到向量搜索结果;
通过所述向量搜索结果在所述第一字典中匹配对应的业务标识并进行组装,得到所述搜索请求对应的业务标识数组。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于企查查科技有限公司,未经企查查科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110988730.7/1.html,转载请声明来源钻瓜专利网。