[发明专利]离线反事实分析

说明书

背景技术

人们经常想知道若已经使用不同的参数组开发了特定系统，则那个系统产生的结果将会如何变化。例如，使计算装置能够下棋的计算机应用程序的开发者可能希望知道特定策略是否会导致计算装置比实际实现的策略更好地下棋。针对假设存在不同的环境组特定结果将会怎么不同的问题被称为“反事实(counterfactual)”考虑。

在开发针对一个或者多个任务的计算机可执行指令的上下文中，通常通过如下方式来评价反事实考虑：修改计算机可执行指令以解释不同环境组的或者以便基于不同参数组，然后观察这种修改过的计算机可执行指令的执行结果。在对针对由特定用户引导的任务性能的计算机可执行指令进行开发时，因为可以并行产生和并行测试计算机可执行指令的许多不同的变体，这种用来评价反事实考虑的机制可以是实际的。

然而，对于针对涉及一大群个体的任务性能的计算机可执行指令，例如经由互联计算装置的网络向成千上万的用户提供服务的计算机可执行指令，可能难以评价反事实考虑。例如，可能难以对大群人类用户的行为进行适当地模拟，所述人类用户传统地使用这种计算机可执行指令。同样地，由于例如由一个或者多个替代计算机可执行指令产生的不是最理想的性能，所以使大群人类用户了解被设计成评价一个或者多个反事实考虑的计算机可执行指令的不同替代品有疏远这些人类用户的危险。

经常出现反事实考虑的一个上下文是通过互联计算装置网络的广告选择和显示。传统上，待显示给正与通过互联计算装置网络提供的服务进行通信的用户的广告的选择是基于这样的模型：它试图预测被显示的广告对它们将为之显示的特定用户有多大用处，作为结果，可能导致用户选择这种广告，从而对显示广告的实体产生收益。因为难以准确地为这种大且变化多的用户池的行为建模，评价选择广告以显示给特定用户的可替代方法的传统机制依赖于在实际用户的小样本上对这种机制进行测试。然而，正如本领域技术人员所认识到的那样，这种传统机制效率低，因为它们既需要大量的准备努力（setup effort），也需要延长的时间来收集足够的结果，这本身就可能变化过多以至于难以从中得到有意义的数据。另外，这种传统机制可能限制能够被测试的反事实考虑的量，这仅仅是由于对用户量以及访问的限制，通过所述访问来测试这种反事实考虑。

发明内容

在一个实施例中，可以基于试验期间收集的数据“离线”或者“事后”执行反事实分析，在该试验中随机变化应用到系统的输出，该系统的参数将成为反事实分析的对象。假定该系统正在使用该参数，随机变化可以导致系统的输出具有在其传统值周围的概率分布。离线反事实分析可以推导如果该系统已经利用了反事实参数而不是进行试验所用的参数则本应产生的预期的系统性能。

在另一个实施例中，可以通过推导加权因子并把它应用到试验期间收集的数据的方式执行离线反事实分析，其中为了估计利用不同参数时系统的行为和性能而把随机变化应用到系统的输出。假定由离线反事实分析来预期估计参数，在系统的输出与所预期的类似时，加权因子能够增加所收集数据的重要性，同时减少其他数据的重要性。因为能使用反事实参数预测那个预测概率分布，加权因子可以基于带有进行试验所用的参数的系统输出的预测概率分布与带有在进行试验所用的参数的系统输出的概率分布的比率。

在另一个实施例中，如果正被离线反事实分析考虑的反事实参数与进行试验所用的参数差别太大，离线反事实分析可以估计系统性能的变化的方向和大小，与推导被具体预期的系统性能形成对比。在这样一个实施例中，可以基于试验期间的系统性能乘以带有进行试验所用的参数的系统输出的概率分布算法关于进行试验所用模型中的变化的导数，产生指示系统性能变化的方向以及那个变化将发生得多快的矢量。

在另一个实施例中，如果系统通过其他施动者(actor)影响经济决策(economic decision)，假定这些其他施动者是理性的经济施动者，那么所应用的随机化可以被认为是经济随机化并可以推导其他施动者的边际成本。

提供本发明内容以简单的方式介绍了一些概念，下面的具体实施例中将进一步描述。本发明内容其意不在识别要求保护的主题的关键特征或者必要特征，也不在用于限制要求保护的主题的范围。

其他的特征和优点将从后面参考附图的具体实施方式中变得显而易见。

附图说明

当连同附图一起考虑时，可以最佳地理解下面的详细描述，其中：

图1是计算装置的示范性网络的框图；

图2是示范性离线反事实数据收集和分析系统的框图；