[发明专利]一种主题词确定模型的建立方法、装置及电子设备有效
申请号: | 201611079425.1 | 申请日: | 2016-11-30 |
公开(公告)号: | CN108121736B | 公开(公告)日: | 2021-06-08 |
发明(设计)人: | 肖镜辉 | 申请(专利权)人: | 北京搜狗科技发展有限公司 |
主分类号: | G06F16/9535 | 分类号: | G06F16/9535 |
代理公司: | 北京华沛德权律师事务所 11302 | 代理人: | 马苗苗 |
地址: | 100084 北京市海淀区中关*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 主题词 确定 模型 建立 方法 装置 电子设备 | ||
1.一种主题词确定模型的建立方法,其特征在于,所述方法包括:
获取表征用户行为的搜索日志;
基于所述搜索日志,获得搜索词条与对应的搜索结果中被用户点击了的目标网页;
根据所述搜索词条和所述目标网页获得所述目标网页的主题词;
将所述目标网页和所述主题词作为训练样本,通过序列标注模型的训练方法建立主题词确定模型;所述序列标注模型对应的源序列包括:网页词语序列,所述序列标注模型对应的目标序列包括:网页的主题词,所述网页词语序列为:标题分词序列以及正文分词序列;
其中,所述目标网页的主题词包括如下分词中的一种或多种:
搜索分词序列、标题分词序列以及正文分词序列中出现的分词;所述搜索分词序列与所述搜索词条相应,所述标题分词序列与所述目标网页的网页标题相应,所述正文分词序列与所述目标网页的正文相应;
在搜索分词序列和标题分词序列中出现的分词;以及
在搜索分词序列和正文分词序列中出现,并未在标题分词序列中出现的候选分词。
2.如权利要求1所述的方法,其特征在于,所述获取表征用户行为的搜索日志,包括:
获得用户在垂直搜索频道中的垂直搜索日志,所述垂直搜索频道为具有指定分类的搜索频道;和/或
获得用户在浏览器中的网络搜索日志。
3.如权利要求1所述的方法,其特征在于,所述根据所述搜索词条和所述目标网页获得所述目标网页的主题词,包括:
对所述搜索词条进行分词获得搜索分词序列,对所述目标网页的网页标题进行分词获得标题分词序列,以及对所述目标网页的正文进行分词获得正文分词序列;
基于所述标题分词序列和/或所述正文分词序列,从所述搜索分词序列中获得所述目标网页的主题词。
4.如权利要求3所述的方法,其特征在于,所述基于所述标题分词序列和/或所述正文分词序列,从所述搜索分词序列中获得所述目标网页的主题词,包括:
获得在所述搜索分词序列和所述标题分词序列中出现的分词作为所述主题词;或者
获得在所述搜索分词序列、所述标题分词序列以及所述正文分词序列中均出现的分词作为所述主题词。
5.如权利要求3所述的方法,其特征在于,所述基于所述标题分词序列和/或所述正文分词序列,从所述搜索分词序列中获得所述目标网页的主题词,包括:
获得在所述搜索分词序列和所述正文分词序列中出现,并未在所述标题分词序列中出现的候选分词;
计算所述候选分词的权重;
获得权重大于设定阈值的所述候选分词作为所述主题词。
6.如权利要求5所述的方法,其特征在于,所述计算获得所述候选分词的权重,包括:
根据如下公式获得所述候选分词在所述目标网页中的词频tf(word):
其中,“#word”表示所述候选分词在所述目标网页中出现的次数,“∑#word”表示所述目标网页的总词频数;
根据如下公式获得所述候选分词的逆向文档频率idf(word):
其中,“#document”表示从所述搜索日志中获得的目标网页的总数目,“∑#(word∈document)”表示包含有所述候选分词的所述目标网页的总数目;
获得tf(Word)与idf(word)的比值作为所述候选分词的权重。
7.如权利要求1~6任一所述的方法,其特征在于,所述将所述目标网页和所述主题词作为训练样本,通过序列标注模型的训练方法建立主题词确定模型,包括:
获得所述目标网页所属的目标类别,将所述目标网页和所述主题词作为所述目标类别的训练样本,通过序列标注模型的训练方法建立所述目标类别的主题词确定子模型;
将所有的所述主题词确定子模型组成所述主题词确定模型。
8.如权利要求1~6任一所述的方法,其特征在于,所述序列标注模型包括:
隐马尔科夫模型、最大熵马尔科夫模型及条件随机场模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京搜狗科技发展有限公司,未经北京搜狗科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611079425.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:语音搜索方法和装置
- 下一篇:一种业务对象属性标识的生成方法、装置和系统