[发明专利]文章画像提取方法、装置、电子设备及存储介质在审
申请号: | 202111574833.5 | 申请日: | 2021-12-21 |
公开(公告)号: | CN114444499A | 公开(公告)日: | 2022-05-06 |
发明(设计)人: | 刘轶功 | 申请(专利权)人: | 奇安信科技集团股份有限公司;网神信息技术(北京)股份有限公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/216;G06F40/30 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 王宇杨 |
地址: | 100088 北京市西城区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文章 画像 提取 方法 装置 电子设备 存储 介质 | ||
本发明实施例提供一种文章画像提取方法、装置、电子设备及存储介质,方法包括:基于语料库对应的词频矩阵对语料库中的每个文章的主题概率分布进行提取,基于每个文章的主题概率分布确定每个文章的主题关键词集合;基于语料库对应的文本向量矩阵对所述语料库中所有文章进行聚类,得到多个簇;对多个簇中各个簇分别进行关键词提取得到各个簇的簇关键词集合,及确定各个簇的簇中心文章标题;针对每个文章,基于文章的主题关键词集合及文章所属簇的簇关键词集合,确定文章的文章关键词;基于文章的文章关键词及文章所属簇的簇中心文章标题,确定文章的文章画像,提升主题关键词提取的准确性,增强了召回文章的泛化性,提升推荐系统的召回质量。
技术领域
本发明涉及自然语言处理技术领域,尤其涉及一种文章画像提取方法、装置、电子设备及存储介质。
背景技术
随着计算机技术的不断发展,越来越多的用户通过网络获取自己感兴趣的内容,而推荐系统根据用户的历史记录或者用户的兴趣爱好,产生用户感兴趣的推荐列表推荐给用户。
相关技术中,将隐含狄利克雷分布(Latent Dirichlet Allocation,LDA)模型应用于推荐系统中提取文章画像,通过LDA模型提取文章的主题和主题关键词。具体地,语料库中的文章经过LDA模型,得到语料库中的所有文章对应的多个主题和每个文章的主题概率分布,每个主题包括多个主题关键词;然而,每个文章的多个主题中的多个主题关键词存在相互“重叠”,或者包含一些噪声词语,导致主题关键词提取不准确,影响推荐系统的召回质量。
发明内容
针对相关技术中的问题,本发明实施例提供一种文章画像提取方法、装置、电子设备及存储介质,用于解决主题关键词提取不准确的问题。
具体地,本发明实施例提供了以下技术方案:
第一方面,本发明实施例提供了一种文章画像提取方法,所述方法包括:
基于语料库对应的词频矩阵对所述语料库中的每个文章的主题概率分布进行提取,基于每个文章的主题概率分布确定每个文章的主题关键词集合;
基于所述语料库对应的文本向量矩阵对所述语料库中所有文章进行聚类,得到多个簇;对所述多个簇中各个簇分别进行关键词提取得到各个簇的簇关键词集合,及确定各个簇的簇中心文章标题;
针对每个文章,基于所述文章的主题关键词集合及所述文章所属簇的簇关键词集合,确定所述文章的文章关键词;
基于所述文章的文章关键词及所述文章所属簇的簇中心文章标题,确定所述文章的文章画像。
进一步地,所述基于每个文章的主题概率分布确定每个文章的主题关键词集合,包括:
基于每个文章的主题概率分布,选取每个文章的主题概率分布中N个最大主题概率;N为整数;
基于所选取的N个最大主题概率分别对应的主题关键词,确定每个文章的主题关键词集合。
进一步地,所述对所述多个簇中各个簇分别进行关键词提取得到各个簇的簇关键词集合,包括:
基于所述多个簇,统计各个簇中各个文章的关键词在所述文章中出现的次数;将各个文章中出现次数最大的关键词进行组合,得到各个簇的簇关键词集合。
进一步地,所述确定各个簇的簇中心文章标题,包括:
基于所述多个簇,分别计算各个簇中各个文章对应的向量与各个簇中所有文章对应的向量的距离,确定各个簇的簇中心向量;
基于所述簇中心向量,确定各个簇的簇中心文章标题。
进一步地,所述基于所述簇中心向量,确定各个簇的簇中心文章标题,包括:
基于所述簇中心向量,确定各个簇中与所述簇中心向量的距离最近的向量对应的文章为簇中心文章;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于奇安信科技集团股份有限公司;网神信息技术(北京)股份有限公司,未经奇安信科技集团股份有限公司;网神信息技术(北京)股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111574833.5/2.html,转载请声明来源钻瓜专利网。