[发明专利]一种基于Keras平台的自适应深度学习模型优化方法

说明书

本发明涉及一种基于Keras平台的自适应深度学习模型优化方法，该方法包括下列步骤：1)对Q值网络的参数进行优化，将动作选择与全局最优决策分离；2)利用Keras建立预测模型，并对模型进行超参数调节；3)采用Q‑Learning算法为深度Q网络提供有标签的样本数据；4)根据提供的样本数据训练深度Q网络。与现有技术相比，本发明能够降低过高估计Q值的风险，易于调试，提高已读性，使模型对于具有多个相似模型组成的系统有一定的自适能力，进而使预测模型在其他相似结构的预测效果达到人工调参精度的水平，满足不同场景的预测需求。

技术领域

本发明涉及深度学习领域，尤其是涉及一种基于Keras平台的自适应深度学习模型优化方法。

背景技术

Keras是一个高层神经网络库，Keras由纯Python编写而成并基于TensorFlow或Theano。Keras为支持快速实验而生，能够把用户的idea迅速转换为结果。Keras具有简易和快速的原型设计，还具有高度模块化、极简和可扩充特性，支持CNN、RNN或二者的结合，支持任意的链接方案(包括多输入和多输出训练)，无缝CPU和GPU切换。

超参数是指深度学习模型中需要事先设定的参数，如网络层数、失活层的系数、优化方法的学习率、每一层包含的细胞数等。在不考虑时间与计算力的情况下，最简单的提高预测准确度的方法是增大训练数据的规模以及加深深度学习模型，但是实际情况中的时间与计算力以及获得的数据往往是有限的，所以需要对超参数进行一个调节以适应当前的模型更好的表达训练数据中的特性。如图1所示，最左端显示的是欠拟合即训练误差与验证误差均很大，随着模型的容量的增加，训练误差与验证误差先是慢慢缩小，但是继续扩大后训练误差持续变小，训练误差与验证误差间的差距却越来越大，即泛化能力越来越弱，这被称为过拟合，模型的深度超过了最优部分。对于深度模型的超参数而言，大部分都符合图1所示的U型特点。需要解决的问题就是找到最优部分所在的位置。在所有超参数中最重要的为学习率，学习率对模型的深度影响最大，当学习率不大不小刚刚合适时，模型的深度最佳，学习率与训练误差间也具有U形曲线。如图2所示，当学习率过大时，训练误差不仅不缩小反而会迅速增大，当学习率过小时，不仅训练速度过慢而且有可能永远停留在一个很高的训练误差上。

对并联系统而言，现有的对整个系统进行预测的方法需要较大的人力成本参与调参，且对整个系统整体进行预测的准确度不如对不同单元预测后叠加的准确度高，然而现有的预测模型尚未针对提出一种不同单元预测后叠加的方式进行优化。

发明内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种基于Keras平台的自适应深度学习模型优化方法。

本发明的目的可以通过以下技术方案来实现：

一种基于Keras平台的自适应深度学习模型优化方法，包括以下步骤：

S1：对Q值网络的参数进行优化。

在Q值网络中采用两套不同的参数θ与θ^-。θ为将表格Q(s,a)利用函数Q(s,a,θ)映射后的函数参数。其中参数θ用以选出最大Q值的动作，参数θ^-则用以选出最优Q值的动作。两套参数将动作选择与全局最优决策分离，使得模型过高估计Q值的风险降低。目标Q值的形式如下：

上式表示动作的选择采用θ网络argmax_aQ(s′,a|θ_i)，动作评估采用θ^-，式中，r为奖励，γ为折扣因子。s′表示当前的状态，a表示当前的动作。

S2：建立预测模型，并对模型进行超参数调节。

利用Keras包装深度学习模型的每一层神经网络，并将包装好的深度学习模型应用到scikit-learn中作为预测模型。