[发明专利]特征词提取方法、文本相似度计算方法、装置和设备有效
申请号: | 201910978967.X | 申请日: | 2019-10-15 |
公开(公告)号: | CN110852097B | 公开(公告)日: | 2022-02-01 |
发明(设计)人: | 刘翔;姚飞 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/194;G06F40/216 |
代理公司: | 北京英特普罗知识产权代理有限公司 11015 | 代理人: | 程超 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 特征 提取 方法 文本 相似 计算方法 装置 设备 | ||
1.一种特征词提取方法,其特征在于,包括:
响应于对目标文本的分词指令,对所述目标文本进行分词,得到分词集合;
组合所述分词集合中的各个所述分词,得到若干词组,其中,每个所述词组包括若干所述分词;
计算所述词组的第一TF值和TF-IDF值;
计算组合所述词组的每个所述分词的第二TF值,得到若干所述第二TF值;
利用所述TF-IDF值、所述第一TF值和若干所述第二TF值计算所述词组的概率限定TF-IDF值;
选取排列在预定位置之前的所述概率限定TF-IDF值对应的所述词组作为所述目标文本的特征词;
其中,所述利用所述TF-IDF值、所述第一TF值和若干所述第二TF值计算所述词组的概率限定TF-IDF值的步骤包括:
计算若干所述第二TF值的乘积,得到TF乘积;
计算所述第一TF值和所述TF乘积的比值,得到词组概率值;
利用所述TF-IDF值和所述词组概率值计算所述概率限定TF-IDF值。
2.一种文本相似度计算方法,其特征在于,包括:
选取目标文本的特征词,其中,所述目标文本的所述特征词是通过权利要求1所述方法选取的;
将所述特征词输入第一文本检索库,得到若干第一文本;
计算所述目标文本和若干所述第一文本的第一相似度,得到若干所述第一相似度;
将若干所述第一相似度中满足第一相似度阈值的第一相似度对应的第一文本作为与所述目标文本相似的文本。
3.根据权利要求2所述的方法,其特征在于,在所述将所述特征词输入第一文本检索库,得到若干第一文本的步骤之后,所述方法还包括:
对所述特征词进行扩展,得到扩展词组集合,其中,所述扩展词组集合包括所述特征词和所述特征词的近义词;
将所述扩展词组集合输入所述第一文本检索库,得到若干第二文本;
对若干所述第一文本和若干所述第二文本取并集,得到若干第三文本;
所述计算所述目标文本和若干所述第一文本的第一相似度,得到若干所述第一相似度的步骤包括:计算所述目标文本和若干所述第三文本的第二相似度,得到若干所述第二相似度;
所述将若干所述第一相似度中满足第一相似度阈值的第一相似度对应的第一文本作为与所述目标文本相似的文本的步骤包括:将若干所述第二相似度中满足第二相似度阈值的第二相似度对应的第三文本作为与所述目标文本相似的文本。
4.根据权利要求2所述的方法,其特征在于,在所述将所述特征词输入第一文本检索库,得到若干第一文本的步骤之后,所述方法还包括:
获取预先建立的知识图谱,其中,针对每个所述第一文本,所述知识图谱包括:引用所述第一文本的若干第四文本、与所述第一文本同族的若干第五文本、以及若干第六文本和每个所述第六文本与所述第一文本的第三相似度,其中,所述第一文本为专利文本;
针对每个所述第一文本,从所述知识图谱中确定出若干所述第四文本、若干所述第五文本以及若干第七文本,其中,每个所述第七文本为若干所述第六文本中满足第三相似度阈值的第三相似度对应的文本;
将若干所述第一文本、若干所述第四文本、若干所述第五文本和若干所述第七文本作为扩展文本集;
所述计算所述目标文本和若干所述第一文本的第一相似度,得到若干所述第一相似度的步骤包括:计算所述目标文本和所述扩展文本集中每个文本的第四相似度,得到若干所述第四相似度;
所述将若干所述第一相似度中满足第一相似度阈值的第一相似度对应的第一文本作为与所述目标文本相似的文本的步骤包括:将扩展文本集中满足第四相似度阈值的第四相似度对应的文本作为与所述目标文本相似的文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910978967.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种模糊测试系统及终端设备
- 下一篇:一种用于香烟包装的内盒烟组入盒包装工艺