[发明专利]基于ES的文本搜索引擎的构建方法、装置、设备及介质有效
申请号: | 202110191157.7 | 申请日: | 2021-02-20 |
公开(公告)号: | CN112559671B | 公开(公告)日: | 2021-06-08 |
发明(设计)人: | 张玉君;罗晓生;钱勇;杜晓东;谢良义 | 申请(专利权)人: | 深圳平安智汇企业信息管理有限公司 |
主分类号: | G06F16/31 | 分类号: | G06F16/31;G06F16/33;G06F40/289 |
代理公司: | 深圳市明日今典知识产权代理事务所(普通合伙) 44343 | 代理人: | 王杰辉;曹勇 |
地址: | 518000 广东省深圳市福田区福保街道福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 es 文本 搜索引擎 构建 方法 装置 设备 介质 | ||
1.一种基于ES的文本搜索引擎的构建方法,其特征在于,所述方法包括:
构建ES组件,基于所述ES组件构建搜索引擎数据库;
获取待搜索的数据源集,根据所述待搜索的数据源集获取待存储的文本数据,将所述待存储的文本数据存储在所述搜索引擎数据库中;
从所述搜索引擎数据库中获取文本数据,得到待分析的文本数据,分别对所述待分析的文本数据中的每个待分析字段进行字段类型分析,得到所述待分析的文本数据对应的各个所述待分析字段各自对应的目标字段类型;
分别对所述待分析的文本数据中的每个所述待分析字段进行重要性评分,得到所述待分析的文本数据对应的各个所述待分析字段各自对应的目标重要性评分结果;
根据所述待分析的文本数据对应的各个所述待分析字段各自对应的所述目标字段类型进行匹配方式设置,得到所述待分析的文本数据对应的各个所述待分析字段各自对应的目标匹配方式;
根据所述待分析的文本数据、所述待分析的文本数据对应的各个所述待分析字段各自对应的所述目标匹配方式进行所述ES组件的搜索索引构建,得到所述待分析的文本数据对应的各个所述待分析字段各自对应的目标搜索索引;
根据所述待分析的文本数据对应的各个所述待分析字段各自对应的所述目标重要性评分结果、所述ES组件的相关度评分方法进行搜索结果排序方式设置,得到目标搜索结果排序方式;
根据所述ES组件、所述搜索引擎数据库、所述目标搜索结果排序方式、所述待分析的文本数据对应的各个待分析字段各自对应的所述目标搜索索引进行搜索引擎封装,得到目标文本搜索引擎;
其中,所述分别对所述待分析的文本数据中的每个待分析字段进行字段类型分析,得到所述待分析的文本数据对应的各个所述待分析字段各自对应的目标字段类型的步骤,包括:
分别对所述待分析的文本数据的每个所述待分析字段进行信息熵计算,得到所述待分析的文本数据对应的各个所述待分析字段各自对应的目标字段信息熵;
根据所述待分析的文本数据对应的各个所述待分析字段各自对应的所述目标字段信息熵进行字段类型分析,得到所述待分析的文本数据对应的各个所述待分析字段各自对应的所述目标字段类型,其中,当时确定所述目标字段类型为码值型,否则确定所述目标字段类型为非码值型;
其中,所述目标字段类型的计算公式Type(i)如下:
其中,是所述待分析的文本数据对应的第i个所述待分析字段对应的所述目标字段信息熵,是所述待分析的文本数据对应的第i个所述待分析字段对应的去重后的字段值的数量,k是所述待分析的文本数据对应的第i个所述待分析字段的所有字段值的数量,是所述待分析的文本数据对应的第i个所述待分析字段的非空的字段值的数量, k(i)是所述待分析的文本数据对应的第i个所述待分析字段的字段值的数量,C是一个常数;
n(i)是所述待分析的文本数据对应的第i个所述待分析字段的去重后的字段值的数量,p(j)是所述待分析的文本数据对应的第i个所述待分析字段是去重后的字段值中第j个字段值的概率,log()是对数函数;是判断所述待分析的文本数据对应的第i个所述待分析字段的去重后的字段值中第j个字段值是否为空,当去重后的字段值中第j个字段值为空时确定为0,当去重后的字段值中第j个字段值不为空时确定为1。
2.根据权利要求1所述的基于ES的文本搜索引擎的构建方法,其特征在于,所述根据所述待分析的文本数据对应的各个所述待分析字段各自对应的所述目标字段类型进行匹配方式设置,得到所述待分析的文本数据对应的各个所述待分析字段各自对应的目标匹配方式的步骤,包括:
分别判断所述待分析的文本数据对应的每个所述待分析字段对应的所述目标字段类型是否码值型;
当所述目标字段类型为所述码值型时,将所述目标字段类型对应的所述待分析字段对应的所述目标匹配方式确定为所述ES组件的精确匹配搜索方式,否则将所述目标字段类型对应的所述待分析字段对应的所述目标匹配方式确定为关键词分词匹配度匹配方式。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳平安智汇企业信息管理有限公司,未经深圳平安智汇企业信息管理有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110191157.7/1.html,转载请声明来源钻瓜专利网。