[发明专利]高维特征的表示学习方法、装置、设备以及存储介质在审
申请号: | 202011072713.0 | 申请日: | 2020-10-09 |
公开(公告)号: | CN112149839A | 公开(公告)日: | 2020-12-29 |
发明(设计)人: | 刘晨晖;钟辉强;徐思琪;陈亮辉;方军 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 特征 表示 学习方法 装置 设备 以及 存储 介质 | ||
1.一种高维特征的表示学习方法,包括:
获取基于用户数据确定的用户高维特征,所述用户高维特征包括用户行为特征和/或用户属性特征;
根据所述用户高维特征中的稀疏特征的类别,确定用户稀疏特征向量;
对所述用户高维特征中的连续向量特征进行拼接,得到用户连续特征向量;
将所述用户稀疏特征向量和所述用户连续特征向量输入至预先训练完成的深度推荐模型,得到所述用户高维特征的用户表示学习向量;
采用所述高维特征的用户表示学习向量,训练针对用户数据的机器学习模型。
2.根据权利要求1所述的方法,所述根据所述用户高维特征中的稀疏特征的类别,确定用户稀疏特征向量,包括:
对所述稀疏特征进行分组,以及对每组稀疏特征进行序号编码,得到特征编码序号;
基于所述特征编码序号,初始化每组稀疏特征的嵌入向量;
基于各组初始化后的嵌入向量,得到用户稀疏特征向量。
3.根据权利要求2所述的方法,所述基于所述特征编码序号,初始化每组稀疏特征的嵌入向量,包括:基于所述特征编码序号和预先设置的超参数维度数,构造每组稀疏特征的参数矩阵;
所述基于各组初始化后的嵌入向量,得到用户稀疏特征向量,包括:对所述参数矩阵进行池化、拼接,得到用户稀疏特征向量。
4.根据权利要求1所述的方法,所述深度推荐模型包括:DeepFM模型、xDeepFM模型、DCN模型中的至少一种。
5.根据权利要求2所述的方法,所述深度推荐模型通过如下方式训练得到:
基于高维特征中稀疏特征的类别,对所述稀疏特征进行分组,以及对每组稀疏特征进行序号编码,得到特征编码序号,其中,所述稀疏特征包含标签信息;
基于所述特征编码序号,初始化每组稀疏特征的嵌入向量;
基于各组初始化后的嵌入向量,确定稀疏特征向量;
对高维特征中的连续向量特征进行拼接,得到连续特征向量;
构建深度推荐模型,将所述稀疏特征向量和所述连续特征向量作为所述深度推荐模型的输入,高维特征的表示学习向量作为输出,利用所述稀疏特征的标签信息对所述深度推荐模型进行有监督地训练,得到训练好的深度推荐模型。
6.根据权利要求5所述的方法,其中,所述深度推荐模型的特征在于:
根据所述深度推荐模型的超参数维度数或全连接层数确定所述高维特征的表示学习向量的维度数。
7.根据权利要求1-6任一项所述的方法,所述机器学习模型为信息推送模型。
8.一种高维特征的表示学习装置,其特征在于,所述装置包括:
获取模块,被配置为获取基于用户数据确定的用户高维特征,所述用户高维特征包括用户行为特征和/或用户属性特征;
稀疏特征向量确定模块,被配置根据所述用户高维特征中的稀疏特征的类别,确定用户稀疏特征向量;
连续特征向量确定模块,被配置对所述用户高维特征中的连续向量特征进行拼接,得到用户连续特征向量;
表示学习向量表征模块,被配置为将所述用户稀疏特征向量和所述用户连续特征向量输入至预先训练完成的深度推荐模型,得到所述用户高维特征的用户表示学习向量;
机器学习模型训练模块,被配置为采用所述高维特征的用户表示学习向量,训练针对用户数据的机器学习模型。
9.根据权利要求8所述的装置,所述稀疏特征向量确定模块包括:
稀疏特征分组编码模块,被配置为对所述稀疏特征进行分组,以及对每组稀疏特征进行序号编码,得到特征编码序号,以及对每组稀疏特征进行序号编码,得到特征编码序号;
嵌入向量初始化模块,被配置为基于所述特征编码序号,初始化每组稀疏特征的嵌入向量;
嵌入向量合成模块,被配置为基于各组初始化后的嵌入向量,得到用户稀疏特征向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011072713.0/1.html,转载请声明来源钻瓜专利网。