[发明专利]多核数据流处理器及任务调度方法

说明书

本发明提供一种用于多核数据流处理器的多任务分配和调度方法，包括：根据每个内核的内核实际任务信息和稠密任务信息计算每个内核的稀疏度；计算每个内核基于稠密输入获得输出并到达远汇内核对应的稠密运行时间，以及基于每个内核的稀疏度、内核对应的稠密运行时间计算每个内核到达远汇内核的优先级分数，或基于每个内核的稀疏度、内核对应的稠密运行时间、内核带宽参数计算每个内核到达远汇内核的优先级分数；基于每个内核的优先级分数分配和调度处理器任务。在动态地充分考虑剩余计算量、上游内核信息以及计算资源和带宽占用情况下对内核调度优先级进行排序，有助于将具有依赖的内核进行有效的调度使其结果能够同时到达远汇内核节点，提高任务的计算效率。

技术领域

本发明涉及芯片领域，更具体而言，涉及一种多核数据流处理器及任务调度方法。

背景技术

数据流架构(Dataflow architecture)用于执行复杂运算，通过复杂运算中的多个任务之间的依赖关系形成自然的流水线。数据流架构一般由许多处理单元(processingelements，PE)组成，每个处理单元中有多个竞争计算资源的计算通道，当多个任务被分配给一个处理单元时，每个任务由一个运行在处理单元内的内核来执行，且内核通过调用处理单元内的计算通道来执行任务。复杂运算中的多个任务之间具有依赖关系，同一个处理单元内的所有内核都会有一个共同的远汇内核，任务同时到达远汇内核时计算效率会最大化。当远汇内核的上游任务既有稠密计算又有稀疏计算时，稀疏计算如果先于稠密计算完成并且结果先到达远汇内核，下游内核会有较长的停顿和等待，从而造成计算资源和带宽资源的浪费，降低计算效率，同时也会造成多个任务执行的不平衡。

现有技术下，有一些提高数据流架构中资源利用率的方法，例如采用先进先出原则对内核进行调度的方案、采用静态稀疏度或计算时间百分比来作为内核调度规则的方案等。在数据流架构中的一系列端到端节点中，节点与节点之间的任务执行范式是相似的，如果上游节点的任务是稀疏的，下游节点的任务很大程度上也是稀疏的，但是现有技术下的方案并没有利用这个特点进行更好的内核调度，这就进一步加重了任务执行过程中的不平衡现象。因此，需要一个较好的内核调度方案来提高数据流架构中的任务执行效率。

发明内容

因此，本发明的目的在于克服上述现有技术的缺陷，提供一种能够提高数据流架构中任务执行效率的用于多核数据流处理器以及基于此的任务调度方法。

根据本发明的第一方面，提供一种用于多核数据流处理器的多任务分配和调度方法，所述方法包括：根据每个内核的内核实际任务信息和稠密任务信息计算每个内核的稀疏度；计算每个内核基于稠密输入获得输出并到达远汇内核对应的稠密运行时间，以及基于每个内核的稀疏度、内核对应的稠密运行时间计算每个内核到达远汇内核的优先级分数，或基于每个内核的稀疏度、内核对应的稠密运行时间、内核带宽参数计算每个内核到达远汇内核的优先级分数；基于每个内核到达远汇内核的优先级分数分配和调度处理器任务。

优选的，所述内核实际任务信息包括内核实际任务计算量、内核处理任务的实际运行时间、内核任务输出到远汇内核节点的实际数据传输时间；所述内核的稠密任务信息包括内核稠密任务计算量、内核处理稠密任务的运行时间、内核稠密任务输出到远汇内核节点的稠密传输时间。

优选的，所述内核的稀疏度通过获取计算量稀疏度作为内核稀疏度获得。

在本发明的一些实施例中，所述内核的稀疏度通过获取计算量稀疏度、运行时间稀疏度和/或数据传输稀疏度，并根据获得的数据进行加权平均作为内核稀疏度获得；其中，所述计算量稀疏度为内核实际任务计算量与内核稠密任务计算量的比值，所述运行时间稀疏度为内核处理任务的实际运行时间与内核处理稠密任务的运行时间的比值，所述数据传输稀疏度为内核任务输出到远汇内核节点的实际数据传输时间与内核稠密任务输出到远汇内核节点的稠密传输时间的比值。