[发明专利]一种针对异构内存与多类型应用混合部署场景的数据放置与迁移方法

说明书

一种针对异构内存与多类型应用混合部署场景的数据放置与迁移方法，由应用静态分析方法、数据静态放置方法和运行时动态迁移机制三部分组成。该方法针对由高带宽内存与双倍速率存储器组成的异构内存系统以及单个延迟攸关应用与多个批处理应用的混合部署场景，从静态数据放置工具和动态迁移运行时系统两种角度设计，利用数据对象之间的依赖关系将应用程序拆分为相应的逻辑数据对象集合；基于两种存储器的不同特性，为不同类型的逻辑数据对象制定不同数据放置策略，同时在应用运行过程中进行动态监控与实时迁移，从而全面、充分地利用异构内存系统的多种内存资源，满足延迟攸关应用与批处理应用各自的性能需求。

技术领域

本发明涉及内存管理与应用性能优化领域，特别是涉及一种针对异构内存与多类型应用混合部署场景的数据放置与迁移方法。

背景技术

随着以高带宽内存(High Bandwidth Memory，HBM)为代表的3D堆叠内存技术的出现，由多种种类、性能各不相同的存储器组成的异构内存系统得到愈发广泛的应用。因为其与传统同构内存系统的不同，研究针对异构内存且能够充分发挥不同存储器特性的高效内存管理机制已成为业界的研发热点。另一方面，两种典型应用：延迟攸关应用与批处理应用对内存特性的敏感度以及自身性能评价指标存在巨大差异，具体体现为延迟攸关延迟攸关应用对客户端请求的处理时间，即服务质量(Quality of Service，QoS)有较高要求，而批处理应用则更多考虑到程序吞吐量，对系统提供的内存带宽有较高要求。因此，研究如何利用异构内存系统提供的多种内存资源，来优化延迟攸关延迟攸关应用与批处理应用混合部署时的系统整体性能具有重要意义。

已有的研究工作通过分析应用数据对象的访存特性，获取单个数据对象的带宽敏感度以及延迟敏感度作为评估其内存放置位置的依据，以此来提高应用的性能。然而这类方法均忽略了延迟攸关应用与批处理应用访存特性以及对性能指标要求的巨大差异，不支持在应用运行过程中依据应用的相关性能数据对数据对象进行动态迁移。也有一些研究工作针对运行时系统，从高速缓存(以下简称cache)以及处理器资源的角度，通过实验分析延迟攸关应用，获取其阶段性行为特征来作为系统资源分配的依据；在分配资源时仅分配适当的资源给延迟攸关应用以保证其服务质量，并将剩余的资源分配给批处理应用以提高系统整体资源利用率。但这类方法并没有涉及异构内存系统以及内存管理机制，而且忽视批处理应用内部存在的竞争问题以及隐藏的性能受损隐患。

目前关于异构内存管理机制优化以及多类应用混合部署场景下性能优化的相关研究已经不断深入，各种针对应用数据对象的放置与迁移机制已经在HBM、双倍速率(Double Data Rate，DDR)存储器、非易失性存储器(Non-volatile Memory，NVM)等多种内存组成的各种异构内存系统上得到了验证。但现有的研究仍存在以下几个主要问题：

(1)在延迟攸关应用与批处理应用混合部署场景下，缺少相关内存管理机制可以充分利用异构内存系统提供的多种不同特性的内存资源，以同时满足延迟攸关应用与批处理应用各自不同的性能需求。

(2)在制定数据对象放置与迁移策略时，均采用启发式思想：基于事先分析得到的单个数据对象的敏感度特性规定数据对象对应的放置位置，即放置策略；默认按照制定的放置策略放置所有数据对象便可取得应用整体的最优性能。然而该启发式算法无法保证解最优，因为将应用的数据划分为单个数据对象意味着忽视应用的整体特性，而应用中的所有单个数据对象性能最优不等同于应用整体性能最优。

(3)仅从静态的数据放置工具或者动态迁移运行时系统的角度去进行内存管理优化，并未考虑将两者进行结合可以更全面地优化应用性能。

发明内容