[发明专利]具有学习教练的异步代理以及在不降低性能的情况下在结构上修改深度神经网络

说明书

方法和计算机系统通过以下方式来改善经训练的基础深度神经网络，即通过在结构上改变所述基础深度神经网络以创建更新的深度神经网络，使得相对于所述基础深度神经网络，所述更新的深度神经网络在训练数据上未产生性能下降。所述更新的深度神经网络随后进行训练。同时，用于在机器学习系统中使用的异步代理包括第二机器学习系统ML2，其将被训练以执行某些机器学习任务。所述异步代理进一步包括学习教练LC和任选的数据选择器机器学习系统DS。所述数据选择机器学习系统DS的目的是使所述第二级机器学习系统ML2在其学习过程中效率更高(通过选择一组较小但足够的训练数据)和/或更有效(通过选择一组集中于某项重要任务的训练数据)。所述学习教练LC是协助所述DS和所述ML2学习的机器学习系统。多个异步代理也可以彼此通信，每个异步代理在其各自的学习教练的指导下进行异步训练和增长以执行不同的任务。

优先权

本申请要求2017年6月5日提交的标题为“具有学习教练的异步代理”的美国临时申请序列第62/515,142号的优先权，其具有与上述申请相同的发明人，并且其全部内容通过引用整体并入本文。

相关申请的交叉引用

本申请涉及以下申请，所有这些申请的全部内容被并入本文：标题为“用于机器学习系统的学习教练”的PCT申请第PCT/US17/52037号；以及标题为“用于机器学习系统的学习教练”的PCT申请第PCT/US18/20887号。

背景技术

机器学习系统，特别是深度神经网络，近年来已经取得了巨大的成功。特别地，机器学习系统在处理大量数据的问题时可以很好地缩放。实际上，机器学习系统趋于满足“越大总是越好”的特性。也就是说，针对给定问题可用的数据越多，机器学习分类器或预测器的性能就越好。对于深度神经网络，网络越大且学习的参数越多，就越好，直到达到数据量的限制。作为数据集大小的一个示例，行业标准基准ImageNet拥有超过1400万张图像，其中超过一百万张已被注释并配有边框。

然而，诸如深度神经网络的机器学习系统中的较大的数据集和大量参数也存在问题。例如，训练深度神经网络所需的计算量往往与数据集的大小乘以神经网络的大小成比例地增长。另外，具有多个隐藏层的大型神经网络很难解释。还难以以任何细化的方式来控制学习过程。

对于非常大的网络存在的另一个问题是计算需要在多个计算机之间进行分配。然而，当网络训练在通过有限带宽的数据通道相互通信的多个计算机之间分配时，数据带宽可能成为计算速度的限制因素。这种数据瓶颈可能限制最大实际网络的大小，即使使用更多的计算机。

随着深度神经网络的大小变得越来越大，最终还会出现其它问题，尤其是在向已经被训练成高性能的网络添加额外的层时。尽管从理论上讲，更深的网络应该总是比层较少的网络性能更好，至少在训练数据上，但也已经观察到相反的现象。也就是说最终，随着添加更多层，性能不仅下降，而且急剧下降。在出现此问题之前，某些较新的架构已能够显著地增加层的数量，但是这些较新的架构并未消除该问题。

对于深度神经网络存在的另一个问题是，在多层的情况下，梯度趋于“消失”，即，梯度的幅度趋于收敛为零。当梯度的幅度接近零时，基于梯度下降的算法中的学习将变得非常缓慢。

其中“越大总是越好”的另一方面是机器学习系统的集成的使用。对于几乎所有基准测试，机器学习系统的集成均击败了最佳单一系统的性能。此外，随着将更多成员添加到集成中，性能往往会逐渐提高。然而，通过向集成添加另外的成员而实现的逐渐提高的量迅速下降。一个重要的问题是，在训练和操作中，对于集成的计算量往往与集成中的成员数量成比例。因此，增加大型集成的大小并不划算。

发明内容