[发明专利]用于创建机器学习系统的方法、设备和计算机程序

权利要求书

1.用于创建机器学习系统的方法，

其中第一参数集（α）表征所述机器学习系统的体系架构，并且第二参数集（w）是所述机器学习系统的参数化，所述方法包括以下步骤：

根据第一成本函数（L_val）对所述第一参数集进行迭代优化，并且根据第二成本函数（L_train）对所述第二参数集进行迭代优化，

其中所述第一成本函数（L_val）和所述第二成本函数（L_train）分别取决于所述第一参数集（α）和所述第二参数集（w）；

根据所述第一参数集（α）确定所述第一成本函数（L_val）的Hesse矩阵的特征值；

当所述特征值之一大于可预给定的阈值时，中断所述优化。

2.根据权利要求1所述的方法，其中，当所述Hesse矩阵的最大特征值大于所述可预给定的阈值时中断所述迭代优化。

3.根据权利要求1或2所述的方法，其中，对可预给定数量k个依次执行的最后迭代步骤、特别是优化所述第一参数集的最后迭代步骤的最大特征值确定第一平均值，

其中对可预给定数量k个在所述最后迭代步骤之前执行的迭代步骤的最大特征值确定第二平均值，

其中当所述第二平均值与所述第一平均值之比超过所述可预给定的阈值时，中断所述优化。

4.根据权利要求3所述的方法，其中，根据分别最后5个迭代步骤的所确定的最大特征值来确定所述平均值，

其中所述阈值大于0.6。

5.根据前述权利要求中任一项所述的方法，其中，至少所述第二成本函数具有用正则化因子加权的正则化项。

6. 根据权利要求5所述的方法，其中，所述正则化项为或正则化，并且所述正则化因子对应于值之一，其中i={3;6;9;27;81}。

7.根据前述权利要求中任一项所述的方法，其中，在所述优化时根据训练数据来确定所述成本函数，

其中至少扩充用于所述第二成本函数的训练数据。

8.一种计算机程序，其包括指令，所述指令被设计成在计算机上执行所述指令时促使所述计算机执行根据前述权利要求中任一项所述的方法。

9.机器可读存储元件，其上存储有根据权利要求8所述的计算机程序。

10.设计为执行根据前述权利要求1至7中任一项所述的方法的设备。