[发明专利]使用全连接层的神经网络执行块在审
| 申请号： | 202080045677.0 | 申请日： | 2020-05-19 |
| 公开（公告）号： | CN114761967A | 公开（公告）日： | 2022-07-15 |
| 发明（设计）人： | D·卡波夫;B·奥列什金 | 申请（专利权）人： | 现时加拿大有限公司 |
| 主分类号： | G06N3/04 | 分类号： | G06N3/04 |
| 代理公司： | 重庆智鹰律师事务所 50274 | 代理人： | 唐超尘 |
| 地址： | 加拿大魁北*** | 国省代码： | 暂无信息 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 使用 连接 神经网络 执行 | ||
1.一种用于神经网络系统的执行块，所述执行块包括：
-神经网络节点的全连接层的堆栈，所述堆栈的输出由第一并行分支和第二并行分支并行接收；
-所述第一并行分支包括：
神经网络节点的接收所述输出的第一全连接层和接收所述第一全连接层的输出的第一波形发生器子单元；
-所述第二并行分支包括：
神经网络节点的接收所述输出的第二全连接层和接收所述第二全连接层的输出的第二波形发生器子单元；
其中
-所述第一并行分支的输出是所述执行块的基函数的合成；
-所述第二并行分支的输出用于形成对所述执行块的输入的残差。
2.根据权利要求1所述的执行块，其中，所述波形发生器实施将时域中的一组点映射到预测值域中的一组点的函数。
3.根据权利要求1所述的执行块，其中，所述执行块用于预测时间序列输出。
4.根据权利要求3所述的执行块，其中，所述执行块的输入是详细说明时间序列的值的历史回溯窗口的输入信号。
5.根据权利要求2所述的执行块，其中，所述波形发生器的输出基于一组参数。
6.根据权利要求3所述的执行块，其中，所述第二并行分支的输出是所述执行块对于所述输入的估计。
7.根据权利要求3所述的执行块，其中，所述波形发生器的输出对归纳偏差进行编码，以正则化和约束时间序列问题的可行解的结构。
8.根据权利要求3所述的执行块，其中，所述波形发生器的输出基于多个时变波形。
9.根据权利要求8所述的执行块，其中，所述波形是基于为所述波形发生器选择的一组参数来选择的。
10.根据权利要求2所述的执行块，其中，所述执行块在神经网络系统中用于时间序列预测。
11.一种用于时间序列预测的神经网络系统，所述系统包括：
-多个基本堆栈，所述基本堆栈与包括至少一个执行块的每个基本堆栈依次耦合，每个基本堆栈的输出被添加到所述神经网络系统的累积输出中；
其中，
-至少一个执行块包括：
-神经网络节点的全连接层的堆栈，所述堆栈的输出由第一并行分支和第二并行分支并行接收；
-所述第一并行分支包括：
神经网络节点的接收所述输出的第一全连接层和接收所述第一全连接层的输出的第一波形发生器子单元；
-所述第二并行分支包括：
神经网络节点的接收所述输出的第二全连接层和接收所述第二全连接层的输出的第二波形发生器子单元；
并且，其中，
-所述第一并行分支的输出是所述执行块的基函数的合成；
-所述第二并行分支的输出用于形成对所述执行块的输入的残差。
12.根据权利要求11所述的神经网络系统，其中，所述波形发生器实现将时域中的一组点映射到预测值域中的一组点的函数。
13.根据权利要求12所述的神经网络系统，其中，所述神经网络系统的输入是详细描述时间序列的值的历史回溯窗口的输入信号。
14.根据权利要求12所述的神经网络系统，其中，所述波形发生器的输出基于一组参数。
15.根据权利要求11所述的神经网络系统，其中，所述第二并行分支的输出是所述执行块对所述输入的估计。
16.根据权利要求12所述的神经网络系统，其中，所述波形发生器的输出对归纳偏差进行编码，以正则化和约束时间序列问题的可行解的结构。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于现时加拿大有限公司，未经现时加拿大有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/202080045677.0/1.html，转载请声明来源钻瓜专利网。
