[发明专利]存算一体芯片及其操作方法在审
申请号: | 202310728596.6 | 申请日: | 2023-06-19 |
公开(公告)号: | CN116882462A | 公开(公告)日: | 2023-10-13 |
发明(设计)人: | 章锦腾;熊大鹏;李涛;周兵 | 申请(专利权)人: | 苏州亿铸智能科技有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/045;G06N3/0464;G06N3/08;G06F15/78;G06F17/16 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 215011 江苏省苏州市高新*** | 国省代码: | 江苏;32 |
权利要求书: | 暂无信息 | 说明书: | 暂无信息 |
摘要: | 本申请公开了一种存算一体芯片,存算一体芯片包括多个由片上网络连接的块,每个块均包括存算模块和向量处理模块,存算一体芯片用于根据网络模型的配置参数获取注意力头的数量,并根据注意力头的数量将神经网络的注意力权重存储在多个块的存算模块中,多个块的存算模块中均存储所有类型的注意力权重;将输入数据与注意力权重卷积运算得到多个特征向量,每个特征向量包括多个特征向量矩阵;以及将每个特征向量对应的多个特征向量矩阵中的一个发送至每个块的向量处理模块中进行多头注意力运算得到多个注意力头矩阵。本申请还提供一种存算一体芯片的操作方法,可以实现注意力机制的多头并行运算,提高计算效率,减小推理过程的延迟时间。 | ||
搜索关键词: | 一体 芯片 及其 操作方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州亿铸智能科技有限公司,未经苏州亿铸智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202310728596.6/,转载请声明来源钻瓜专利网。
- 上一篇:一种铝模板焊接流水线
- 下一篇:一种基于深度学习的器件表面缺陷检测系统