[发明专利]具有条件计算的注意力神经网络在审
申请号: | 202180034041.0 | 申请日: | 2021-06-30 |
公开(公告)号: | CN115516461A | 公开(公告)日: | 2022-12-23 |
发明(设计)人: | 德米特里·列皮欣;黄彦平;奥尔汉·菲拉特;马克西姆·克里昆;陈德颢;诺姆·M·沙泽尔;李赫中;徐元仲;陈智峰 | 申请(专利权)人: | 谷歌有限责任公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 邓聪惠;周亚荣 |
地址: | 美国加利*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 用于对网络输入执行机器学习任务以生成网络输出的方法、系统和装置,包括在计算机存储介质上编码的计算机程序。在一个方面中,系统中的一个包括注意力神经网络,所述注意力神经网络被配置为执行机器学习任务,注意力神经网络包括一个或多个注意力层,每个注意力层包括注意力子层和前馈子层。注意力层中的一些或全部具有前馈子层,所述前馈子层将条件计算应用于对子层的输入。 | ||
搜索关键词: | 具有 条件 计算 注意力 神经网络 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于谷歌有限责任公司,未经谷歌有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202180034041.0/,转载请声明来源钻瓜专利网。