[发明专利]将深度学习集成到广义加性混合效应(GAME)框架中在审
申请号: | 201910343519.2 | 申请日: | 2019-04-26 |
公开(公告)号: | CN110427564A | 公开(公告)日: | 2019-11-08 |
发明(设计)人: | 马一鸣;陆炜;J·贾;B-C·陈;龙波 | 申请(专利权)人: | 微软技术许可有限责任公司 |
主分类号: | G06F16/9536 | 分类号: | G06F16/9536;G06Q10/10;G06Q50/00 |
代理公司: | 永新专利商标代理有限公司 72002 | 代理人: | 张立达;王英 |
地址: | 美国华*** | 国省代码: | 美国;US |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 混合效应 加性 学习 可扩展性 随机效应 知识发现 连接层 建模 扩增 个性化 | ||
在示例实施例中,使用深度学习的知识发现与广义加性混合效应(GAME)建模的可扩展性和个性化能力相结合。具体地,在深度学习模型的最后全连接层中学习的特征可以用于扩增在GAME模型的固定或随机效应训练部分中使用的特征。
技术领域
本公开一般涉及在计算机系统上提供机器学习时遇到的技术问题。更具体地,本公开涉及将深度学习集成到广义加性混合效应框架中。
背景技术
互联网的兴起已经引发了两种截然不同但相关的现象:社交网络服务的存在增加,所述社交网络服务的相应成员简档对大量人群可见;以及使用这些社交网络服务执行搜索或获取信息增加。在社交网络服务上提供的共同搜索或推荐的示例是搜索已经在社交网络上发布或链接到该社交网络的职位。
社交网络服务在管理在线职位搜索中遇到的技术问题是:随着经由社交网络服务共享的信息源和信息量以前所未有的速度增长,确定如何以最小延迟提供最合适和相关的信息变得极具挑战性。这包括确定如何推荐,例如,空缺的职位和提供的课程,以及确定在线馈送中要显现的馈送项目。
职位搜索和其他结果的个性化也是期望的。例如,当用户搜索“软件工程师”之类的查询时,取决于技能、背景、经验、位置和用户的其他因素,用户将与结果交互的几率(例如通过申请潜在的职位)可能是显著不同的。例如,与专门从事硬件的人相比,熟悉用户接口的人将看到非常不同的职位结果集合。实际上,即使具有相同技能集合和当前职位的人也可能具有与相同结果交互的不同几率。
还可以在没有用户执行的显式搜索的情况下呈现结果,特别是以推荐的形式。推荐系统是自动计算机程序,其在不同的上下文中将项目匹配到用户。为了实现大规模的准确推荐,机器学习模型用于依据用户反馈数据来估计用户偏好。使用从过去的用户与对象或结果的交互获得的大量高频数据来构造这样的模型。
历史上,响应于查询或执行其他推荐来对职位搜索结果进行排序的模型大量使用从查询和职位发布中提取的文本和基于实体的特征来导出全局排序或推荐。这样的模型的一个示例是广义线性模型(GLM)。GLM是线性回归的广义化,其允许具有除正态分布之外的误差分布模型的响应变量。GLM通过允许线性模型经由连结函数与响应变量相关并且通过允许每个测量结果的方差的大小是其预测值的函数来广义化线性回归。
GLM可以使用以下预测公式:该公式预测用户i对项目j的响应,以及xij是特征向量,w是系数向量,是响应的期望,并且g()是连结函数。
然而,在数据丰富的场景下,在用户或项目级别具有更细粒度的模型将潜在地导致更准确的预测,这是因为可能更好捕获用户对项目的个人偏好以及项目对用户的特定吸引力。
使用广义加性混合效应(GAME)框架在建模个性化交互中提供显着的能力和可扩展性。然而,从技术角度来看,其性能受到不同实体(例如,成员、职位、新闻更新等)的输入知识的影响。对这些实体和它们之间的交互的理解越深,建模结果就越好。然而,另一方面,如果没有这种深刻的理解,尽管GAME框架具有可扩展性和个性化能力,但它并没有提供足够的可靠性。
附图说明
在附图的图中,通过示例而非限制的方式示出了本技术的一些实施例。
图1是示出根据示例实施例的客户端-服务器系统的框图。
图2是示出了与本公开的一些实施例一致的社交网络服务的功能组件的框图,包括在本文中被称为搜索引擎的数据处理模块,用于生成和提供搜索查询的搜索结果。
图3是更详细地示出根据示例实施例的图2的应用服务器模块的框图。
图4是更详细地示出根据示例实施例的图3的职位发布结果排序引擎的框图。
图5是示出根据示例实施例的在整体同步并行(BSP)范例下的并行化块坐标下降的第k次迭代的框图。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于微软技术许可有限责任公司,未经微软技术许可有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910343519.2/2.html,转载请声明来源钻瓜专利网。