[发明专利]对深度学习网络的注意力的持续控制

说明书

一种用于通过实现对深度学习网络的注意力的连续控制来降低与由计算机系统执行的机器学习任务相关联的计算成本的计算机实现的方法包括：初始化控制‑值函数、观察‑值函数以及与当前情节相关联的状态序列。如果与当前情节相关联的当前周期是奇数，则选择观察动作，执行观察动作以观察部分图像，并且基于部分图像和控制‑值函数更新观察‑值函数。如果当前周期是偶数，则选择控制动作，执行控制动作以获得与控制动作对应的回报，并且基于回报和观察‑值函数更新控制‑值函数。

技术领域

本发明一般涉及机器学习和人工智能，并且更具体地，涉及实现对深度学习网络的注意力的持续控制。

背景技术

深度学习是机器学习领域中的新兴框架。深度学习网络可用于从原始感知(sensory)数据中提取高级特征，该特征可应用于人工智能领域的各种应用。例如，深度学习网络可以采用深度堆叠神经网络(例如，卷积神经网络或CNN)。

发明内容

根据本发明的实施例，提供了一种用于通过实现对深度学习网络的注意力的持续控制来降低与由计算机系统执行的机器学习任务相关联的计算成本的方法。该方法包括：由可操作地耦接到存储器的至少一个处理器初始化控制-值函数、观察-值函数和与当前情节(episode)相关联的状态序列。如果当前周期(epoch)在当前情节中是奇数，则该至少一个处理器选择观察动作，执行观察动作以观察部分图像，并基于部分图像和控制-值函数更新观察-值函数。如果当前周期是偶数，则该至少一个处理器选择控制动作，执行控制动作以获得与控制动作对应的回报，并基于回报和观察-值函数更新控制-值函数。

根据本发明的另一个实施例，提供了一种用于通过实现对深度学习网络的注意力的持续控制来降低与由计算机系统执行的机器学习任务相关联的计算成本的系统。该系统包括用于存储程序代码的存储器设备和可操作地耦接到存储器设备的至少一个处理器。该至少一个处理器被配置为执行存储在存储器设备上的程序代码，以初始化控制-值函数、观察-值函数和与当前情节相关联的状态序列。如果当前情节的当前周期是奇数，则该至少一个处理器被配置为选择观察动作，执行观察动作以观察部分图像，并且基于部分图像和控制-值函数更新观察-值函数。如果当前周期是偶数，则该至少一个处理器被配置为选择控制动作，执行控制动作以获得与控制动作对应的回报，并且基于回报和观察-值函数更新控制-值函数。

根据本发明的另一个实施例，提供了一种计算机程序产品。该计算机程序产品包括具有体现在其中的程序代码的非暂态计算机可读存储介质。程序代码可由计算机执行以使计算机通过实现对深度学习网络的注意力的持续控制来执行用于降低与由计算机系统执行的机器学习任务相关联的计算成本的方法。由计算机执行的方法包括初始化控制-值函数和观察-值函数，以及与当前情节相关联的状态序列。如果当前情节的当前周期是奇数，则该方法进一步包括选择观察动作，执行观察动作以观察部分图像，以及基于观察动作和控制-值函数更新观察-值函数。如果当前周期是偶数，则该方法进一步包括选择控制动作，执行控制动作以获得与控制动作对应的回报，以及基于回报和观察-值函数更新控制-值函数。

从以下结合附图来阅读的这些和其它特征和优点的说明性实施例的详细描述中，这些和其它特征和优点将变得显而易见。

附图说明

以下描述将参考以下附图提供优选实施例的细节，在附图中：

图1是根据本发明的实施例的处理系统的框图；

图2是示出根据实施例的具有一个或多个云计算节点的说明性云计算环境的框图，云的消费者使用的本地计算设备与该云计算节点通信；

图3是示出根据一个实施例的由云计算环境提供的一组功能抽象层的框图；

图4示出了根据本发明实施例的比较不同类型的马尔可夫决策过程(MDP)的图；以及

图5是示出根据本发明实施例的用于通过实现对深度学习网络的注意力的持续控制来降低与由计算机系统执行的机器学习任务相关联的计算成本的系统/方法的框图/流程图；