[发明专利]用于确定神经网络的网络配置的方法和设备

权利要求书

1.用于确定神经网络的对于预先给定的应用来说合适的网络配置的方法，所述应用尤其是用于实现技术系统、尤其是机器人、车辆、工具或工作机的功能，其中所述预先给定的应用以训练数据的形式来被确定；其中所述网络配置说明了所述神经网络的架构，所述方法具有如下步骤：

a) 提供（S1）具有网络配置的当前的网络配置集合，其中所述当前的网络配置集合对应于关于预测误差和至少一个其它的优化目标方面的帕累托集合；

b) 提供（S2）网络配置变型的集合；

c) 根据所述当前的网络配置集合的网络配置关于所述至少一个其它的优化目标方面的概率分布来从网络配置变型的集合中选择网络配置（S3）；

d) 对所选择的网络配置中的每个网络配置的神经网络进行训练（S4）并且确定相对应的预测误差（error(N)）；

e) 根据网络配置集合的所述预测误差和所述至少一个其它的优化目标以及所选择的网络配置来对所述当前的网络配置集合进行更新（S5）；并且

f) 从所述当前的网络配置集合中选择合适的网络配置。

2.根据权利要求1所述的方法，其中步骤a)至e)迭代地多次被执行。

3.根据权利要求2所述的方法，其中当满足中断条件时（S6），使所述方法结束（S6），其中所述中断条件包含如下事件中的至少一个事件的发生：

- 达到了预先确定的迭代次数；

- 达到了由所述网络配置变型中的至少一个网络配置变型引起的所述预测误差（error(N)）的预先确定的值。

4.根据权利要求1至3中任一项所述的方法，其中从网络配置变型的集合中选择如下那些网络配置，所述那些网络配置根据所述当前的网络配置集合的网络配置的概率分布具有最低的概率。

5.根据权利要求4所述的方法，其中根据从所述当前的配置集合中确定的密度估计、尤其是核密度估计来从网络配置变型的集合中选择网络配置。

6.根据权利要求1至5中任一项所述的方法，其中通过输入参量矢量和被分配给所述输入参量矢量的输出参量矢量来预先给定所述训练数据，其中相应的网络配置的预测误差被确定为一个量度，所述量度从在通过由所述相应的网络配置所确定的神经网络基于所述输入参量矢量得到的模型值与被分配给所述输入参量矢量的输出参量矢量之间的相应偏差得出。

7.根据权利要求1至6中任一项所述的方法，其中在共同的预先确定的训练条件的情况下通过利用所述训练数据进行训练来确定所选择的网络配置的预测误差，其中所述训练条件预先给定了训练过程的次数和/或训练时间和/或训练方法。

8.根据权利要求1至7中任一项所述的方法，其中基于总成本函数来从所述当前的网络配置集合中选择合适的网络配置，所述总成本函数取决于所述预测误差和关于所述至少一个优化目标方面的资源成本。

9.根据权利要求1至8中任一项所述的方法，其中对所述当前的网络配置集合的更新被执行为使得被更新的网络配置集合只包含来自所述当前的网络配置集合和来自所选择的网络配置的那些网络配置，所述那些网络配置关于所述预测误差和所述一个或多个优化目标中的至少一个优化目标方面比其余的网络配置中的任何一个都更好。

10.根据权利要求1至9中任一项所述的方法，其中以如下方式来执行对所述当前的网络配置集合的更新：向所述当前的网络配置集合添加所选择的网络配置，以便获得经扩展的网络配置集合，并且紧接着从所述经扩展的网络配置集合中除去如下那些网络配置，所述那些网络配置关于所述预测误差和所述一个或多个优化目标中的所有优化目标方面都比其余的网络配置中的至少一个网络配置更差，以便获得被更新的网络配置集合。

11.用于提供具有网络配置的神经网络的方法，所述网络配置是利用根据权利要求1至10中任一项所述的方法来创建的，其中所述神经网络尤其被设计用于实现技术系统、尤其是机器人、车辆、工具或工作机的功能。