[发明专利]一种基于网络自协作的隐式推荐方法和系统在审
申请号: | 202011269644.2 | 申请日: | 2020-11-13 |
公开(公告)号: | CN112464104A | 公开(公告)日: | 2021-03-09 |
发明(设计)人: | 杨敏;原发杰;孙洋;李成明;姜青山 | 申请(专利权)人: | 中国科学院深圳先进技术研究院 |
主分类号: | G06F16/9536 | 分类号: | G06F16/9536;G06F16/958;G06N3/04;G06N3/08 |
代理公司: | 北京市诚辉律师事务所 11430 | 代理人: | 耿慧敏 |
地址: | 518055 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 网络 协作 推荐 方法 系统 | ||
本发明公开了一种基于网络自协作的隐式推荐方法和系统。该方法包括:对应于一个序列推荐模型,构建具有相同网络架构的对等序列推荐模型;对于所述序列推荐模型及其对等序列推荐模型进行协作训练,并在协作训练过程中,根据所述序列推荐模型中每一层参数的重要性通过从其对等序列推荐模型中移植参数来重激活该序列推荐模型的无效参数;以用户的历史浏览序列作为输入,利用经协作训练的所述序列推荐模型为用户进行序列推荐服务。本发明通过自动化地促进多个模型的协作和优化,能够获得更具表现力的序列推荐模型,为用户提供准确的推荐服务。
技术领域
本发明涉及序列推荐技术领域,更具体地,涉及一种基于网络自协作的隐式推荐方法和系统。
背景技术
近年来,推荐系统(RS)已成为许多大型社交媒体和电子商务平台的核心技术。在这样的系统上能够显式或隐式地产生大量用户-推荐项交互行为(即反馈)。特别是隐式反馈(例如点击,购买,观看的视频和播放的歌曲)相对显式评分数据更容易收集并且规模更大。例如,在Tiktok上,每个视频的播放时间通常少于20秒,那么用户在一个小时内可以轻松观看多达100部短视频。因此,最近对前N个推荐的研究已经从显式反馈问题转变为隐式反馈问题。隐式推荐系统的本质是利用用户先前的反馈来预测用户希望交互的前N个推荐项的列表。目前,基于深度神经网络(DNN)的推荐模型已实现了卓越的性能,并且几乎主导了推荐系统领域。在本发明中,将专注于探索通过多模型协作机制增强隐式推荐系统的技术方案。
在现有的利用多模型协作的一项研究成果中,提出了使用标准的集成学习的方法,结合多个弱模型的输出形成一个强模型,通过这种方式能够提高推荐准确率。在另一项研究成果中,提出了基于知识蒸馏的多模型协作的方法,将知识从大型的、经预训练的教师模型转移到通常较小的学生模型中,进而提高学生模型的表现。然而,以上两种方法由于没有明确考虑到推荐领域的特点,或者提升效果不够理想,明显降低了预测效率,或者使用范围受限。
经分析,目前隐式推荐模型存在两个明显缺陷:大型的推荐模型通常会带来明显的性能提升,但存在过参数化现象,即模型中存在大量冗余的神经元和参数,这已经成为模型表现力的主要障碍;深度神经网络模型中的参数的重要性难以评判,使用常见的L1/L2-norm只能关注参数的绝对值,而无法衡量参数的变化。
发明内容
本发明的目的是克服上述现有技术的缺陷,提供一种基于网络自协作的隐式推荐方法和系统,在深度学习模型的基础上,提出了利用新的网络自协作框架为用户进行准确地推荐服务。
根据本发明的第一方面,提供一种基于网络自协作的隐式推荐方法。该方法包括以下步骤:
对应于一个序列推荐模型,构建具有相同网络架构的对等序列推荐模型;
对于所述序列推荐模型及其对等序列推荐模型进行协作训练,并在协作训练过程中,根据所述序列推荐模型中每一层参数的重要性通过从其对等序列推荐模型来重激活该序列推荐模型的无效参数;
以用户的历史浏览序列作为输入,利用经协作训练的所述序列推荐模型为用户进行序列推荐服务。
根据本发明的第二方面,提供一种基于网络自协作的隐式推荐系统。该系统包括:
网络自协作框架:其被设置包含一个序列推荐模型以及与其具有相同网络架构的一个或多个对等序列推荐模型;
协作训练模块:用于对所述网络自协作框架进行协作训练,并在协作训练过程中,根据所述序列推荐模型中每一层参数的重要性通过从其对等序列推荐模型来重激活该序列推荐模型的无效参数;
序列预测模块:用于以用户的历史浏览序列作为输入,利用经协作训练的所述序列推荐模型为用户进行序列推荐服务。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院深圳先进技术研究院,未经中国科学院深圳先进技术研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011269644.2/2.html,转载请声明来源钻瓜专利网。