[发明专利]多核处理装置及其内核之间数据传输方法

说明书

一种多核处理装置及其内核之间数据传输方法，所述多核处理装置包括：多个内核，其中每个内核包括至少一级缓存，且作为目标内核或目标内核组的任一内核接收到来自作为源内核的另一内核的缓存行传递请求指令时，从所述源内核中预取相应缓存行至自身缓存；所述缓存行传递请求指令中包含目标内核的标识信息。采用上述方案可以大大缩短多核处理装置内核之间的数据传输时延，进而可以提高数据处理速度，优化数据处理性能。

技术领域

本发明实施例涉及多核处理装置及其内核与内核之间数据传输方法。

背景技术

内核对内核(Core to Core，C2C)通信现今在诸如分组处理、高性能计算、机器学习和数据中心/云工作负载之类的许多计算机应用中是至关重要的。在多核(Multi-core/Many-core)处理器中，由于内核数量的增加，C2C通信经常在工作负载共享数据时变成性能增减的限制因素。在通用平台上，经常采用内核之间的共享存储器空间来实现有效的C2C通信。

工作负载可以以任务流水线的方式在多核CPU中处理。例如，内核0完成任务0，然后传递给内核1来执行任务1，而内核0处理的数据由内核1取回。这种任务流水线处理可以在网络或通信应用中找到。目前，x86系统是通过一种“拉模型”(“pull model”)来处理，如内核0处理的数据在内核0的私有缓存(如一级缓存或二级缓存)中准备就绪，等待其他内核使用时拉取。

然而，上述方案在跨缓存层次架构下数据传输时延较长，随着参与任务流水线的内核的增多，时间延迟问题愈发严重，多核处理器处理效率受到极大影响。

发明内容

本发明实施例所要解决的是如何缩短多核处理装置的内核之间的数据传输时延，优化处理性能。

本发明实施例提供了一种多核处理装置，包括：多个内核，其中每个内核包括至少一级缓存，且作为目标内核或目标内核组的任一内核接收到来自作为源内核的另一内核的缓存行传递请求指令时，从所述源内核中预取相应缓存行至自身缓存；所述缓存行传递请求指令中包含目标内核的标识信息。

可选地，所述缓存行传递请求指令中包含所述缓存行的虚拟地址和目标软件线程标识；所述多核处理装置还包括与所述多个内核耦接的核间处理单元，所述核间处理单元包括：与所述多个内核耦接并由所述多个内核共享的硬件映射表，所述硬件映射表存储有所述缓存行对应的目标软件线程标识与目标物理内核标识的映射关系；查询单元，适于查询所述硬件映射表，得到所述缓存行传递请求中包含的目标软件线程标识对应的目标物理内核标识；指令分派单元，适于将所述缓存行传递请求分派至所述查询单元查询到的目标物理内核标识所对应的目标内核。

可选地，所述硬件映射表中的目标物理内核标识为一个内核、或一组内核或所述多核处理装置的所有内核的物理标识。

可选地，所述硬件映射表适于在系统初始化或重置时配置，其中：所述目标软件线程标识在编译时间由并行编译器分配；所述目标物理内核标识适于在所述多核处理装置初始化或重置时获得，且所述目标物理内核标识基于系统拓扑结构。

可选地，所述缓存行传递请求指令中还包括所述缓存行对应的目标内核的缓存的标识信息。

可选地，所述内核包含数据预取器，所述目标内核适于通过数据预取器接收所述缓存行传递请求指令。

可选地，所述数据预取器为硬件预取器。

可选地，所述目标内核的各级缓存分别有各自对应的硬件预取器。

可选地，所述缓存行传递请求指令中还包括所述缓存行对应的目标内核的缓存的状态信息，所述状态信息为共享或独占。

可选地，所述缓存行传递请求指令中还包括所述缓存行传递事务的优先级信息。

可选地，所述缓存行传递请求指令的优先级满足如下任意一种：高于其他预取事务的优先级、等于预设指令的优先级或者基于不同的内存请求对应不同的优先级。