[发明专利]一种基于主动降维的高维贝叶斯优化方法

权利要求书

1.一种基于主动降维的高维贝叶斯优化方法，其特征在于，该方法具体包括如下步骤：

步骤1、设待优化目标函数为：

y＝f(x)，x∈R^D

y表示目标函数的输出，x表示目标函数的输入，f表示目标函数。R^D表示D维的实数空间；

初始化程序参数集合θ、第一个随机点x₁＝random x以及针对各个维度初始化汤普森采样所需的beta分布；

步骤2、判断迭代次数n是否达到预设分支阈值t，若达到则顺序执行，若未达到则跳至7执行；步骤3、计算历史查询中输入维度x在各维度之间关于y的偏相关系数；偏相关系数的计算方法如下所示：

其中，r_ij.y表示维度i和维度j关于输出维度y的偏相关系数；r_ij表示维度i和维度j的相关性，

步骤4、对于关于输出维度y的偏相关系数大于阈值的维度，利用最小二乘法计算两个维度的相关关系；

求得两个维度的相关关系：x_i＝k_ij×x_j+b_ij，其中x_i和x_j分别表示维度i和维度j；

步骤5、根据历史查询结果，针对各维度维护一个汤普森采样，根据汤普森采样结果，选择具有相关性的维度进行压缩；

步骤6、通过基于最大值熵搜索改进的采集函数最大化目标函数的熵信息；其中，

基于最大值熵搜索改进的采集函数为：

α_t(x)＝β_t(x)+e*η_t(x)

最大值熵搜索的采集函数为：

新增项η_t(x)为：

利用皮尔森相关性系数的绝对值|r(i，j|D_t)|来衡量两个维度x_i和x_j之间的相关关系的相关程度：

选取下一个需要评估的点x_i＝argmax α_t(x)；

步骤7、判断x_i是否已经降维，若已降维则顺序执行，未降维则跳至步骤10执行；

步骤8、通过步骤4得到的相关关系，利用当前x_i保留的维度恢复x_i到初始维度；

步骤9、利用x_i查询目标函数f得到相应的y_i＝f(x_i)；

步骤10、利用历史查询x和y的集合，通过高斯过程回归替代模型M，并输出替代模型的全局最优值的位置x_*＝argmax M；

步骤11、判断迭代次数n是否达到总迭代次数T，若未达到则跳至步骤2继续执行，若达到则执行步骤12；

步骤12、结束程序并输出最终的目标函数全局最优值的位置x_*＝argmax M和对应的最优值y_*＝f(x_*)。