[发明专利]使用分析加速器的数据流分析处理的资源高效加速

说明书

卸载引擎可以代表应用尝试卸载将对数据流执行的数据操作。卸载引擎可以拦截由应用执行的一个或多个数据操作，诸如可以作为集合API的部分。数据操作和数据流可以由应用指定和/或提供，并且作为响应，卸载引擎可以被配置为使用分析加速协处理器而非使用通用CPU核心来对数据流执行(或者尝试执行)数据操作。卸载引擎可以确定是否将数据操作卸载到分析加速协处理器。如果卸载未成功或者如果卸载引擎确定数据操作不适合于卸载，那么卸载引擎可以使得使用系统上的通用CPU核心执行数据操作。

技术领域

本公开一般地涉及软件编程，并且更特别地涉及使用诸如分析加速协处理器之类的协处理器提高数据流处理的性能的系统和方法。

许多类型的应用(作为一个示例，诸如分析应用)可能包括大量的数据并行性(例如，显式数据并行性)。在通用中央处理单元(CPU)核心处理器上执行这些类型的应用通常导致高响应时间、高资源消耗、高能量消耗和/或大量热量耗散。因此，这些类型的应用传统上可能不容易诸如在基于云的执行环境中整合。

背景技术

现今许多应用使用集合(collection)，允许以对程序员友好的方式高效地分组和处理大量数据。例如，Java^TM包括Java集合和流API。流API可以被认为利用集合API和/或构建在集合API上。集合的使用(例如，在一个基于Java的示例中，集合上的流API的使用)的一个关键能力是以高效的方式，诸如以与使用数据库(例如，SQL)查询类似的方式，处理集合中的数据。如此，用户可以利用集合API来编写抽象的类似查询的命令，而不需要编写在集合实体上迭代的细节。

传统上，基于集合的数据流操作的执行不被硬件加速。如此，执行可能是缓慢的并且可能使用处理器芯片上的大量资源——有可能导致较高的功率消耗和/或系统利用率。典型地，当在CPU核心上执行时，基于集合的数据流操作涉及创建潜在地持有芯片上的大量资源的许多线程。另外，较高的系统利用率和/或功率消耗可能不利于应用在现代联网环境中(例如，在云上)的整合。

发明内容

包括分析加速协处理器的系统可以被配置为实现卸载引擎，卸载引擎可以代表应用尝试卸载要对数据流执行的一个或多个数据操作。数据操作和数据流可以由应用指定和/或提供，并且作为响应，卸载引擎可以被配置为使用分析加速协处理器而不是使用通用CPU核心来对数据流执行(或者尝试执行)数据操作。

卸载引擎可以拦截由应用执行的一个或多个数据操作，诸如可能是集合API的一部分。卸载引擎然后可以确定是否将数据操作卸载到分析加速协处理器。如果卸载引擎确定数据操作不适于卸载，卸载引擎然后可以使得数据操作使用系统上的一个或多个通用CPU核心来执行。另外，如果尝试卸载但是未成功，数据操作可以使用通用CPU核心来执行。在一些实施例中，无论数据操作被成功卸载还是使用通用CPU核心来执行，对于应用代码(例如，和/或对于用户)可以是透明的。

附图说明

图1是例示了根据一个实施例的包括卸载引擎的系统的逻辑框图。

图2是例示了如本文中描述的用于使用分析加速器执行数据流分析处理的资源高效加速的方法的一个实施例的流程图。

图3是例示了根据一个实施例的如本文中描述的通过利用卸载引擎的系统的示例性数据流动的逻辑框图。

图4是例示了如本文中描述的用于尝试卸载将对数据流执行的一个或多个数据操作的方法的一个实施例的流程图。

图5是例示了根据一个实施例的如本文中描述的通过利用卸载引擎的系统的示例性数据流动的逻辑框图。

图6是例示了被配置为实现本文中描述的机制的计算系统的一个实施例的框图。