[发明专利]用于卷积神经网络的超像素方法有效
申请号: | 201710570292.6 | 申请日: | 2017-07-13 |
公开(公告)号: | CN107622302B | 公开(公告)日: | 2021-03-19 |
发明(设计)人: | 雷吉纳尔德·克利福德·扬;乔纳森·罗斯 | 申请(专利权)人: | 谷歌有限责任公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 周亚荣;安翔 |
地址: | 美国加利*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 卷积 神经网络 像素 方法 | ||
1.一种用于更有效率地执行卷积神经网络层的计算的计算机实现的方法,所述卷积神经网络层被配置来接收X乘Y乘Z输入张量并且使用一个或多个卷积神经网络层权重矩阵处理所接收的输入张量来生成U乘V乘W输出张量,所述方法包括:
接收所述X乘Y乘Z输入张量,所述输入张量包括深度Z的XY个第一输入,其中,X和Y表示空间范围,并且Z表示深度范围;
生成X’乘Y’乘Z’经修改的输入张量,其中,X’小于或等于X,Y’小于或等于Y,并且Z’大于或等于Z,包括:
将两个或更多个所述第一输入聚组在一起;以及
通过将所聚组的第一输入的空间范围转换成深度范围来生成X’Y’个超级输入,从而所述深度范围换得所述空间范围以增加所述卷积神经网络层的计算效率;
获得一个或多个经修改的卷积神经网络层权重矩阵,其中(i)经修改的权重矩阵对所述X’乘Y’乘Z’经修改的输入张量进行运算以生成U’乘V’乘W’经修改的输出张量,并且(ii)所述U’乘V’乘W’经修改的输出张量是经变换的U乘V乘W输出张量,其中,U’小于或等于U,V’小于或等于V,并且W’大于或等于W;以及
对所述经修改的输入执行具有所述经修改的权重矩阵的经修改的卷积神经网络层的计算以生成所述U’乘V’乘W’经修改的输出张量。
2.根据权利要求1所述的方法,其中,X’等于第一最小整数,所述第一最小整数大于或等于X除以自然数N,Y’等于第二最小整数,所述第二最小整数大于或等于Y除以自然数M,并且Z’等于Z乘以NM。
3.根据权利要求1所述的方法,其中,获得所述一个或多个经修改的卷积神经网络层权重矩阵包括:
接收一个或多个卷积神经网络层权重矩阵,所述卷积神经网络层矩阵包括对所述XY个第一输入进行运算的第一数量的内核元素;
生成所述一个或多个经修改的卷积神经网络层权重矩阵,包括减少所述卷积神经网络层权重矩阵中的所述第一数量的内核元素,以生成对所述X’Y’个超级输入进行运算的第二数量的内核元素,其中,所述经修改的权重矩阵对所述X’乘Y’乘Z’经修改的输入张量进行运算以生成所述U’乘V’乘W’经修改的输出张量,U’小于等于U,V’小于等于V,并且W’大于等于W。
4.根据权利要求3所述的方法,其中,所述多个第一输入的数目等于NM个输入。
5.根据权利要求1所述的方法,其中,所述经修改的权重矩阵对所述X’乘Y’乘Z’输入张量的运算等同于所述卷积神经网络层权重矩阵对所述X乘Y乘Z输入张量的运算。
6.根据权利要求1所述的方法,其中,所述经修改的权重矩阵的元包括一个或多个卷积神经网络层权重矩阵。
7.根据权利要求1所述的方法,其中,所述经修改的权重矩阵包括具有带状结构的矩阵。
8.根据权利要求1所述的方法,其中,U’等于大于或等于U除以自然数P的最小整数,V’等于大于或等于V除以自然数Q的最小整数,并且W’等于W乘以PQ。
9.根据权利要求8所述的方法,其中,所述卷积神经网络层包括X维度上的步幅S和Y维度上的步幅T,并且其中,步幅S、步幅T、输出张量U乘V乘W以及经变换的输出张量U’乘V’乘W’之间的关系为:U’=ceiling(U/NS)和V’=ceiling(V/MT),其中,ceiling(A)表示大于或等于A的最小整数。
10.根据权利要求8所述的方法,其中,所述U乘V乘W输出张量表示UV个第一输出并且所述U’乘V’乘W’经修改的输出张量表示U’V’个超级输出,其中每个超级输出包括多个第一输出。
11.根据权利要求10所述的方法,其中,所述多个第一输出等于PQ个输出。
12.根据权利要求1所述的方法,其中,所述卷积神经网络层包括池化子层。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于谷歌有限责任公司,未经谷歌有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710570292.6/1.html,转载请声明来源钻瓜专利网。