[发明专利]一种基于CPU多核平台的软件性能优化方法

说明书

技术领域

本发明涉及计算机高性能计算领域, 具体地说是一种基于CPU多核平台的软件性能优化方法。

背景技术

硬件系统在新技术的推动下进行着快速演进，表现出更好的性能、更低的价格，如传统CPU从单核向多核直至众核发展。随着多核体系结构处理器的普及，应用软件多进/线程并行处理方式将逐渐成为主流。

硬件发展的最终目的是推动应用软件的表现，进而推进整个计算系统的性能。但随着计算设备体系结构的多样化，多核化，软件系统仅仅依靠硬件的更新从而获得性能提升的方式已经不符合现有硬件的发展趋势，例如传统的单线程串行程序在多核计算设备下不能表现出更好的性能。因此软件系统必须摒弃原有继续享用免费午餐的方式，不能仅仅依靠硬件性能的发展，而应该同时针对硬件系统的发展进行软件系统的再次开发和更新。这也是目前计算架构下我们遇到的最大挑战，而软件系统的再次开发和改造则显得极为必要。

为了提高现有软件系统在新计算设备架构下的性能表现，针对软件系统进行再开发具有很强的现实意义。

目前国内外针对CPU多核体系结构的应用开发在CPU多核发展之初就如火如荼地展开了，并陆续开发或改造出相当数量的应用。

本方法关注于传统单线程串行软件的并行化改造，利用当前主流的多核CPU计算设备，最大化提升计算资源利用率，提升软件效能。

发明内容

本发明的目的是提供一种基于CPU多核平台的软件性能优化方法。

本发明的目的是按以下方式实现的，内容包括：

1）软件运行特征分析；是对应用软件进行运行特征采样与分析，定位软件性能瓶颈，特征采集与分析，需要代码分析与实验测试结合，并且善于使用软件运行特征分析工具，软件运行特征分析工具主要有用户自有性能分析工具、商业性能分析软件或开源性能分析软件；

2）性能优化方案制定；包含三个方面：并行模型方案设计、并行库的选择、进程/线程性能优化方案，其中：

并行模型方案设计，主要涉及并行层次与并行粒度设计、核心计算并行算法设计、异步并行处理框架设计、多缓冲设计、负载均衡设计、线程/进程通信设计、线程/进程函数优化；

并行库的选择，主要考滤并行模型、软件开发效率与项目周期、并行库的适用性、灵活性、性能及其开发效率；

进程/线程性能优化方案，内容有：进程/线程调度优化、任务调度优化、热点算法模型优化、访存优化、cache优化、数学函数库优化、指令优化、编译器优化，性能优化方案实施与迭代调优，并重复调优——测试——调优过程，进行迭代优化；

具体优化流程及其实施步骤、细则如下：

1）软件运行特征分析：分析软件运行特征，定位软件性能瓶颈应用软件运行特征分析，精准定位软件的性能瓶颈，使优化工作有的放矢，大大提高优化的效率；应用软件运行特征分析的原则有：

（1）系统与局部分析结合

软件整体框架与软件局部模块分析都很重要，互为补充，综合全面地掌握应用软件的运行特征；

（2）定性与定量分析并重在优化开发周期有限的条件下，定性分析为工程师指明工作方向，专注于软件的主要瓶颈，而定量分析界定了性能提升的理论极限；

（3）工具采样与代码分析结合软件运行特征分析过程中，工具采样分析与代码分析两种手段互为补充、互为指导工具采样分析，可以帮助程序员快速定位程序热点，而代码分析，为程序热点找到理论依据，从而使热点与代码映射起来；

软件运行特征分析工具，具有高效全面、数据完备直观特点，在整个性能优化过程中都能发挥极大作用；

软件运行特征分析工具，可以采集应用软件运行过程中的CPU利用率、内存特征、磁盘特征、网络特征、指令CPI信息；

软件热点分析工具，可以采集应用软件运行时各函数CPU使用率及其百分比、分析线程时序、分析程序并发度、检查软件内存和线程缺陷；

（4）宏观与微观分析结合应用软件的运行特征分析，既有高层次的宏观分析，也有底层的微观分析，宏观呈现现象，微观揭示原理，宏观分析指明优化方向，微观分析指导优化的手段；

2)性能优化方案制定：制定综合、全面的性能优化方案

（1）优化方案的总体思想高效利用系统资源，包括多核计算资源、内存资源、磁盘资源、网络资源；

（2）优化层次、效率、开发周期的关系；

优化层次与优化效率的关系：物理模型>数学模型>算法模型；

优化层次与优化周期的关系：物理模型<数学模型<算法模型；

（3）并行模型设计