[发明专利]用于点击率预测的基于图的大规模embedding模型训练方法及系统有效
申请号: | 202210277082.9 | 申请日: | 2022-03-21 |
公开(公告)号: | CN114358859B | 公开(公告)日: | 2022-07-01 |
发明(设计)人: | 崔斌;苗旭鹏;梁宇轩;石屹宁;张海林 | 申请(专利权)人: | 北京大学 |
主分类号: | G06Q30/02 | 分类号: | G06Q30/02;G06Q10/04;G06N3/04;G06N3/08 |
代理公司: | 北京万象新悦知识产权代理有限公司 11360 | 代理人: | 黄凤茹 |
地址: | 100871*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公布了一种用于点击率预测的基于图的大规模embedding模型训练方法及系统,系统包括密集参数模块和客户端模块,采用混合通信架构,将点击率预测输入数据集分配给不同工作节点,每个工作节点维护一个客户端,本地模型参数均直接存储在GPU内存中;每个工作节点均持有模型参数副本,并在训练时进行同步。本发明采用Embedding模型参数表示点击率预测输入数据对应类别特征值的重要性,将点击率预测数据和embedding模型向量表示为二元图模型,利用图局部性和度数偏斜特性执行模型并行训练;设计基于图的分区和有界同步,提高训练大型embedding模型的可扩展性和并行计算效率。 | ||
搜索关键词: | 用于 点击率 预测 基于 大规模 embedding 模型 训练 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京大学,未经北京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210277082.9/,转载请声明来源钻瓜专利网。