[发明专利]图像分类神经网络

摘要

一种神经网络系统，其包括子网络，所述子网络包括第一子网络，所述第一子网络包括多个第一模块，每个第一模块包括：直通卷积层，所述直通卷积层处理子网络输入以生成直通输出；神经网络层的平均汇集堆栈，其处理所述第一子网络的所述子网络输入以生成平均汇集输出；卷积神经网络层的第一堆栈，其处理所述子网络输入以生成第一堆栈输出；卷积神经网络层的第二堆栈，其处理所述子网络输入以生成第二堆栈输出；以及级联层，其级联所述生成的输出以生成第一模块输出。通过将模块子网络包括在深度神经网络中，所述深度神经网络可以更好地执行图像处理任务，并且可以更快且更有效地来训练，同时维持所述图像处理任务的改进性能。

主权项

1.一种由一个或多个计算机实现的神经网络系统，其中所述神经网络系统被配置来接收图像并且生成输入图像的分类输出，并且其中所述神经网络系统包括：多个子网络，所述多个子网络堆叠布置在彼此之上，其中每个子网络被配置来处理子网络输入以生成子网络输出并且将所述子网络输出作为输入提供给堆栈中的所述子网络上方的另一个子网络，并且其中所述多个子网络包括：第一子网络，所述第一子网络包括多个第一模块，每个第一模块包括：直通卷积层，所述直通卷积层被配置来处理所述第一子网络的子网络输入以生成直通输出；神经网络层的平均汇集堆栈，其中所述平均汇集堆栈中的各层被配置来共同处理所述第一子网络的子网络输入以生成平均汇集输出；卷积神经网络层的第一堆栈，其中所述第一堆栈中的各层被配置来共同处理所述第一子网络的子网络输入以生成第一堆栈输出；卷积神经网络层的第二堆栈，其中所述第二堆栈中的各层被配置来共同处理所述第一子网络的子网络输入以生成第二堆栈输出；以及级联层，所述级联层被配置来级联所述直通输出、所述平均汇集输出、所述第一堆栈输出和所述第二堆栈输出，以生成所述第一模块的第一模块输出。