[发明专利]用于稀疏二进制序列的高效时间存储器

说明书

用于稀疏二进制序列的高效时间存储器。描述了用于训练机器可学习模型以及用于使用机器学习模型进行推断的系统和计算机实现的方法，这两者都仅使用有限的存储器资源。在训练和推断期间，机器可学习模型使用先前状态信息。提供了高效地存储该先前状态信息的状态存储器410。针对内部状态的每个元素，不是单独地和整体地存储每个先前状态，而是在状态存储器中存储一个值，该值指示机器可学习模型的内部状态的元素保持或转变到特定二进制状态值的最近出现。已经发现，当机器可学习模型的状态可表示为二进制值时，该类型的状态存储器对于存储状态信息高度高效。由于在训练和推断期间减少内存占用，因此机器可学习模型对现实生活问题的适用性得以增加。

技术领域

本发明涉及一种用于使用有限的存储器资源来训练机器可学习模型的系统和计算机实现的方法。本发明进一步涉及一种系统和计算机实现的方法，其用于使用有限的存储器资源使用机器学习模型进行推断，例如基于从传感器数据推断的物理系统的状态来控制或监视物理系统。本发明进一步涉及一种计算机可读介质，其包括表示用于处理器系统执行任一计算机实现的方法的指令的数据。

背景技术

机器学习（“训练”）模型广泛使用在许多现实生活应用中，所述现实生活应用诸如是自主驾驶、机器人、制造、建筑控制等。例如，可以训练机器可学习模型基于由一个或多个传感器获取的传感器数据推断诸如自主车辆或机器人等之类的物理系统、或者例如车辆在其上行驶的道路、机器人的工作空间等之类的系统环境的状态。已经推断出状态后，物理系统可以例如使用一个或多个执行器而被控制，或者其操作可以被监视。

通常，机器可学习模型（以及在训练之后的机器学习模型，两者都可以被称为“机器可学习模型”）具有内部状态，该内部状态可以基于传感器数据来计算。例如，在机器可学习模型是（深度）神经网络的情况下，状态可以包括神经网络所有层的所有激活/状态。

在许多现实生活应用中，机器可学习模型处理时间数据，例如通过处理时序传感器数据，利用来自先前时间步骤的信息进行当前决策。这样的现实生活应用的示例包括但不限于模式识别（例如，语音识别、手写识别）、机器翻译、复杂物理系统的控制等。

诸如递归神经网络之类的所谓的递归机器可学习模型通常非常适合于此类任务。在这样的和类似类型的模型中，在时间t处的x的计算也取决于在先前时间步长（例如t–1）的状态x。因此，为了的计算，一个或多个先前状态为了该计算而必须被记忆，例如通过将存储在存储器中，其中标示在时间t处记忆的先前状态。

因为x通常非常大（例如，对于深度神经网络的数百万次激活），所以存储该时间窗口是非常耗费内存的。这不仅适用于训练，而且还适用于后续使用机器学习模型进行推断。这可能严重地限制这样的机器学习模型的适用性。也就是说，在各种应用领域中，例如由于工程或成本限制，可能存在不充足的可用存储器。作为替代，可以存储较少的先前状态，但是这可能导致机器学习模型的性能下降，这可能导致语音识别、自主驾驶、机器人控制等方面中的不良性能。此外，在其中需要计及时间延迟d的应用中，所述时间延迟d例如是由自主系统执行的影响系统的传感器测量的当前动作之间的时间延迟，存储比与要捕获的时间延迟相对应的状态数量更少的先前状态也可以是不可行的。

已知使用二进制（稀疏）表示（[1]）来编码信息。例如，机器可学习模型的单个单元（例如，神经元）的激活，其可以表示所述模型的状态元素，可以仅被编码为值“0”或“1”。例如当使用基于事件的传感器时，其中检测到事件（“1”）或没有检测到事件（“0”），或者当作为二进制表示的编码以其他方式被认为足够准确时，此类二进制表示在许多应用领域中可能是足够的。

虽然二进制表示本身比必须存储例如作为浮点值的状态值更具内存效益，但问题仍然存在，即存储先前状态的时间窗口仍然非常耗费内存。