[发明专利]用于大数据应用的分层局部敏感哈希(LSH)分区索引在审
申请号: | 201980016648.9 | 申请日: | 2019-02-26 |
公开(公告)号: | CN111801665A | 公开(公告)日: | 2020-10-20 |
发明(设计)人: | 路阳迪;何文波;阿米尔·纳巴契安 | 申请(专利权)人: | 华为技术加拿大有限公司 |
主分类号: | G06F16/901 | 分类号: | G06F16/901;G06F16/903;G06F7/00 |
代理公司: | 北京龙双利达知识产权代理有限公司 11329 | 代理人: | 时林;王君 |
地址: | 加拿大*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 数据 应用 分层 局部 敏感 lsh 分区 索引 | ||
1.一种用于对多个数据对象进行分区的方法,其特征在于,每个数据对象由各自的高维特征向量表示,包括:
对每个高维特征向量执行哈希函数,以为由所述高维特征向量表示的数据对象生成各自的低维二进制紧凑特征向量;
对每个紧凑特征向量执行另一个哈希函数,以将子索引ID分配给所述紧凑特征向量;
将紧凑特征向量分区到各自的分区组中,其中,所述各自的分区组对应于分配给所述紧凑特征向量的子索引ID。
2.根据权利要求1所述的方法,其特征在于,对每个高维特征向量执行的所述哈希函数为局部敏感哈希(locality sensitive hashing,简称LSH)函数,对每个紧凑特征向量执行的所述另一个哈希函数也是LSH函数。
3.根据权利要求2所述的方法,其特征在于,所述哈希函数和所述另一个哈希函数为正交角哈希函数。
4.根据权利要求3所述的方法,其特征在于,包括:为每个所述各自的分区组生成可搜索的子索引结构。
5.根据权利要求4所述的方法,其特征在于,每个紧凑特征向量仅分区到单个所述分区组。
6.根据权利要求4或5所述的方法,其特征在于,包括:将所述子索引结构作为独立可搜索的结构存储,使得所述子索引结构彼此间可以并发搜索。
7.根据权利要求4至6中任一项所述的方法,其特征在于,所述为每个所述各自的分区组生成可搜索的子索引结构包括:对于每个分区组:
为所述分区组中的紧凑特征向量生成多个扭曲紧凑特征向量集,其中,每个所述扭曲紧凑特征向量集是通过对所述分区组中的紧凑特征向量应用各自的随机置乱排列生成的;
对于每个扭曲紧凑特征向量集,基于所述扭曲紧凑特征向量集中的哈希值的序列,为由所述分区组中的紧凑特征向量表示的数据对象生成索引表;
包括为所述分区组的可搜索子索引结构中的每个所述扭曲紧凑特征向量集生成的索引表。
8.一种用于对数据对象进行分区的系统,其特征在于,每个数据对象由各自的高维特征向量表示,包括:
一个或多个处理单元;
系统存储设备,与每个所述处理单元耦合,所述系统存储设备上有形地存储可执行指令,当所述可执行指令由所述一个或多个处理单元执行时,使得所述系统:
对每个高维特征向量执行哈希函数,以为由所述高维特征向量表示的数据对象生成各自的低维二进制紧凑特征向量;
对每个紧凑特征向量执行另一个哈希函数,以将子索引ID分配给所述紧凑特征向量;
将紧凑特征向量分区到各自的分区组中,其中,所述各自的分区组对应于分配给所述紧凑特征向量的子索引ID。
9.根据权利要求8所述的系统,其特征在于,对每个高维特征向量执行的所述哈希函数为局部敏感哈希(locality sensitive hashing,简称LSH)函数,对每个紧凑特征向量执行的所述另一个哈希函数也是LSH函数。
10.根据权利要求9所述的系统,其特征在于,所述哈希函数和所述另一个哈希函数为正交角哈希函数。
11.根据权利要求10所述的系统,其特征在于,包括:为每个所述各自的分区组生成可搜索的子索引结构,其中,每个紧凑特征向量仅分区到单个所述分区组。
12.根据权利要求11所述的系统,其特征在于,当所述可执行指令由所述一个或多个处理单元执行时,使得所述系统将所述子索引结构作为独立可搜索的结构存储在一个或多个存储器中,使得所述子索引结构彼此间可以并发搜索。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术加拿大有限公司,未经华为技术加拿大有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201980016648.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:制造由多孔材料制成的物体的方法
- 下一篇:涂层钢板的焊接预处理方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置