[发明专利]非线性优化方法及存储介质

说明书

技术领域

本发明涉及计算机程序设计领域，尤其是一种用于大规模计算非线性问题的算法及存储介质。

背景技术

非线性约束优化问题是最一般形式的优化问题。求解该类问题的优化算法可分为两大类：确定性算法(线性约束问题算法推广、罚函数法和序列二次规划法)，智能算法(模拟退火，遗传算法，禁忌搜索，人工神经网络等)。

(1)线性约束问题的算法在非线性约束问题上的推广。包括广义消去法、可行方向法、广义简约梯度法和投影梯度法等。其主要思路是：对原约束优化问题不预先作转换，直接用线性约束问题的算法进行处理。因此，这类方法所产生的迭代点均是问题的可行点。但是，由于约束函数的非线性性，这些方法的具体实现要比在线性约束上复杂的多，且有效性不高。

(2)罚函数法。其主要思路是：把非线性约束优化问题转化为无线性优化约束问题。依据如何将目标函数和约束函数进行组合，人们导出了许多不同形式的罚函数。依据方法能否保证迭代点列的可行性，可将这些方法分为三类：内点罚函数法、外点罚函数法以及两者相结合的混合罚函数法。罚函数法的优点是简单易行，可直接利用无约束优化的算法来求解约束优化问题。在很弱的条件下即可保证算法的收敛性，且外点罚函数法具有全局收敛性，即它可从任一未必可行的初始点出发来找到问题的最优解。缺点是这些方法要求解一系列的无约束优化问题，计算量大且收敛速度慢，更严重的是随着罚参数趋于其极限，这些罚函数的性态越来越差，这使得很难对其精确求解。

(3)序列二次规划法(SQP)，及改进的简约空间SQP算法等。其主要思路是：直接利用原来非线性约束优化问题的有关信息来构造某一简单的近似优化问题，通过求解它来给出对当前迭代点的修正，主要用一系列的线性规划或二次规划来逐次逼近原非线性规划问题。

(4)智能算法，如模拟退火，遗传算法，禁忌搜索，人工神经网络等。它们是人类受自然(生物界)规律的启迪，根据其原理，模仿求解问题的算法。

模拟退火算法来源于固体退火原理，将固体加温至充分高，再让其徐徐冷却，加温时，固体内部粒子随温度升高变为无序状，内能增大，而徐徐冷却时粒子渐趋有序，在每个温度都达到平衡态，最后在常温时达到基态，内能减为最小。用固体退火模拟组合优化问题，将内能E模拟为目标函数值f，温度T演化成控制参数t，即得到解组合优化问题的模拟退火算法：由初始解i和控制参数初值t开始，对当前解重复“产生新解→计算目标函数差→接受或舍弃”的迭代，并逐步衰减t值，算法终止时的当前解即为所得近似最优解，这是基于蒙特卡罗迭代求解法的一种启发式随机搜索过程。

遗传算法是基于生物进化理论的原理发展起来的一种广为应用、高效的随机搜索与优化方法。其主要特点是群体搜索策略和群体中个体之间的信息交换，搜索不依赖于梯度信息。

禁忌搜索是局部邻域搜索的一种扩展。禁忌搜索最重要的思想是通过引入一个灵活的存储结构和相应的禁忌准则，标记对应已搜索的局部最优解的一些对象，并在进一步的迭代搜索中尽量避开这些对象(而不是绝对禁止循环)，从而保证对不同的有效搜索途径的探索。

人工神经网络是对人脑的模拟。神经网络是一种运算模型，由大量的节点(或称神经元)之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。

现有技术的缺点及其原因分析：

大规模非线性规划问题，特别是包含整数变量时，具有组合优化特点，模型规模随变量数量程指数增长，属于组合爆炸问题。好的优化算法设计主要由稳健性、有效性和精确性这三大特性决定。稳健性体现在初始解的选择和算法的执行能力；有效性通过算法的计算时间和存储空间来衡量；精确性表现为求解结果的精度，以及对外界误差的灵敏度。现有优化算法的三大特性在解决大规模非线性优化问题时，表现出相互制约的缺陷。

(1)有效性和精确性的矛盾：现有算法在求解大规模问题时，要快速或者在可接受的计算时间内求解出问题的解(即提高有效性)，有可能导致结果与实际情况存在较大的误差(即精确性降低)。

(2)稳健性和有效性的矛盾：为了准确找到大规模优化问题的解，现有算法必须采用大量的规则和策略来实现初始解的合理选择和算法的有效收敛(即提高稳健性)，而这势必花费大量的计算时间，降低了算法的有效性。