[发明专利]一种基于网络自协作的隐式推荐方法和系统在审
申请号: | 202011269644.2 | 申请日: | 2020-11-13 |
公开(公告)号: | CN112464104A | 公开(公告)日: | 2021-03-09 |
发明(设计)人: | 杨敏;原发杰;孙洋;李成明;姜青山 | 申请(专利权)人: | 中国科学院深圳先进技术研究院 |
主分类号: | G06F16/9536 | 分类号: | G06F16/9536;G06F16/958;G06N3/04;G06N3/08 |
代理公司: | 北京市诚辉律师事务所 11430 | 代理人: | 耿慧敏 |
地址: | 518055 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 网络 协作 推荐 方法 系统 | ||
1.一种基于网络自协作的隐式推荐方法,包括以下步骤:
对应于一个序列推荐模型,构建具有相同网络架构的对等序列推荐模型;
对于所述序列推荐模型及其对等序列推荐模型进行协作训练,并在协作训练过程中,根据所述序列推荐模型中每一层参数的重要性通过从其对等序列推荐模型来重激活该序列推荐模型的无效参数;
以用户的历史浏览序列作为输入,利用经协作训练的所述序列推荐模型为用户进行序列推荐服务。
2.根据权利要求1所述的方法,其中,所述重激活该序列推荐模型的无效参数后,参数信息表示为:
其中%是取模运算,i是序列推荐模型的层索引,是系数,用于表征序列推荐模型第i层参数的重要性,是信息移植后的新参数矩阵,k=1标识所述序列推荐模型,k=2标识对等序列推荐模型。
3.根据权利要求2所述的方法,其中,根据以下步骤确定
将所述序列推荐模型中的参数矩阵转换为向量;
根据向量中参数的值对参数进行排序,并将向量划分为具有相等数值间隔的m个统计堆栈;
计算参数矩阵Wi的熵为:
基于参数矩阵Wi的熵确定表示为:
其中α是一个超参数,N是序列推荐模型中一层参数的数量,nj是第j个统计堆栈中的参数数量。
4.根据权利要求1所述的方法,其中,将所述序列推荐模型及其对等序列模型设置为K个,分别标记为M1,…,MK,对于模型Mi(1≤i≤K-1)将模型Mi+1作为其伙伴,并且对于最后一个模型MK,将模型M1作为伙伴,以形成一个循环通过多次迭代进行协作训练,并在协作训练中,使用模型Mi+1的参数作为外部信息来补充模型Mi,其中K是大于2的整数。
5.根据权利要求4所述的方法,其中,采用并行模式进行协作训练,对于多个单独的序列推荐模型的训练在每个优化迭代中独立且同时进行,并使用保存的检查点来传输每个具有相同架构的序列推荐模型的信息。
6.根据权利要求4所述的方法,其中,在每个优化迭代中顺序地对每个单独的序列推荐模型执行串行优化。
7.根据权利要求1所述的方法,其中,所述序列推荐模型是NextItNet架构,依次包括输入嵌入层、中间层和softmax输出层,所述输入嵌入层以用户-推荐项交互序列{x1,x2,…,xt+1}作为输入,通过嵌入矩阵的查找表检索前t个推荐项{x1,x2,…,xt}的嵌入向量堆叠到一个矩阵用作中间层的输入;所述中间层使用空洞卷积层以残差连接方式获得隐变量;所述softmax输出层中间层的输出隐变量与softmax中所有向量进行点乘获得每个推荐项的得分,进而预测后续时刻被期望的推荐项。
8.一种基于网络自协作的隐式推荐系统,包括:
网络自协作框架,被设置包含一个序列推荐模型以及与其具有相同网络架构的一个或多个对等序列推荐模型;
协作训练模块:用于对所述网络自协作框架进行协作训练,并在协作训练过程中,根据所述序列推荐模型中每一层参数的重要性通过从其对等序列推荐模型中移植参数来重激活该序列推荐模型的无效参数;
序列预测模块:用于以用户的历史浏览序列作为输入,利用经协作训练的所述序列推荐模型为用户进行序列推荐服务。
9.一种计算机可读存储介质,其上存储有计算机程序,其中,该程序被处理器执行时实现根据权利要求1至7中任一项所述方法的步骤。
10.一种计算机设备,包括存储器和处理器,在所述存储器上存储有能够在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1至7中任一项所述的方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院深圳先进技术研究院,未经中国科学院深圳先进技术研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011269644.2/1.html,转载请声明来源钻瓜专利网。