[发明专利]识别同义词的方法、装置和计算设备有效
申请号: | 201710002144.4 | 申请日: | 2017-01-03 |
公开(公告)号: | CN106844571B | 公开(公告)日: | 2020-04-07 |
发明(设计)人: | 张平 | 申请(专利权)人: | 北京齐尔布莱特科技有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F40/284 |
代理公司: | 北京思睿峰知识产权代理有限公司 11396 | 代理人: | 赵爱军;谢建云 |
地址: | 100080 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 识别 同义词 方法 装置 计算 设备 | ||
1.一种识别同义词的方法,在计算设备中执行,所述计算设备中存储有多个用户的多条查询记录,每条查询记录包括用户标识、查询时间和查询短语,所述方法包括:
根据已存储的预定时间内的多条查询记录确定多个会话,每个会话包括同一个用户标识的一个或多个查询短语;
对于每一个会话,将该会话中的每一个查询短语划分为一个或多个词;
根据预设的规则从每一个会话中提取候选同义词对,每一个候选同义词对包括第一候选词和第二候选词,其中,所述预设的规则包括:
同一个查询短语中的两个词不构成候选同义词对;
对于不属于同一个查询短语的两个词:
若两个词相同、或至少有一个词为单个英文字母、或至少有一个词为长度大于1的数字,则这两个词不构成候选同义词对;
若两个词均为专有词、或均为非中文词、或正向位置差大于1、或逆向位置差大于1,则这两个词不构成候选同义词对,其中,所述正向位置差为两个词在其所属的查询短语的正向位置之差,所述逆向位置差为两个词在其所属的查询短语的逆向位置之差;
若两个词中至少有一个词为单个汉字或单个数字,且这两个词的相邻词相等且为单个汉字,则分别将这两个词与其相邻词合并,将合并后的两个词作为候选同义词对,其中,所述相邻词包括前驱词和后继词;
若两个词均不是单个汉字、单个字母或单个数字,且不满足以上不构成候选同义词对的条件,则将这两个词作为候选同义词对;对提取出的候选同义词对进行筛选:
对于每一个候选同义词对,
统计该候选同义词对出现的次数;
按照公式(1/(1+正向位置差))计算该候选同义词对每一次出现时的权重,并计算权重的平均值;
若所述次数大于第三阈值,且(权重的平均值*预设常数)大于所述次数,则将该候选同义词对作为最终的候选同义词对;对于每一个候选同义词对:
根据词向量模型来确定第一候选词所对应的第一词向量和第二候选词所对应的第二词向量;
计算第一词向量和第二词向量的相似度,若相似度大于第一阈值,
则将第一候选词和第二候选词作为同义词。
2.如权利要求1所述的方法,其中,在一个所述会话中,查询时间相邻的两个查询短语的查询时间之差小于第二阈值。
3.如权利要求1所述的方法,其中,所述词向量模型是根据将查询短语进行分词之后所得的多个会话训练得出的word2vec模型。
4.如权利要求3所述的方法,其中,所述根据词向量模型来确定第一候选词所对应的第一词向量和第二候选词所对应的第二词向量的步骤包括:
采用词向量模型来确定预设数量的第一相似词、第一相似度以及第二相似词、第二相似度,其中,所述第一相似词为与第一候选词相似的词,第一相似度为第一相似词与第一候选词的相似度,第二相似词为与第二候选词相似的词,第二相似度为第二相似词与第二候选词的相似度;
根据第一相似词、第一相似度、第二相似词、第二相似度确定第一词向量和第二词向量。
5.如权利要求1所述的方法,其中,所述相似度为夹角余弦。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京齐尔布莱特科技有限公司,未经北京齐尔布莱特科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710002144.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种不锈钢组合式无筋工程水箱
- 下一篇:单发动机缸体托盘装置