[发明专利]处理装置和用于信息处理的方法有效
申请号: | 202010617337.2 | 申请日: | 2020-06-30 |
公开(公告)号: | CN111860773B | 公开(公告)日: | 2023-07-28 |
发明(设计)人: | 严小平;田超 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06N3/045 | 分类号: | G06N3/045;G06N3/0442;G06N3/0464;G06N3/084;G06N3/063;G06F15/78;G06N20/00 |
代理公司: | 北京市金杜律师事务所 11256 | 代理人: | 赵林琳;张鹏 |
地址: | 100094 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 处理 装置 用于 信息处理 方法 | ||
本公开的实施例提出了一种处理装置、用于信息处理的方法、电子设备和计算机可读存储介质,涉及人工智能领域。该处理装置包括:至少一个通用处理核心,被配置为生成卷积神经网络中的卷积层的中间计算结果;至少一个深度学习专用处理核心,被配置为基于通用处理核心的中间计算结果,执行卷积神经网络中除卷积层以外的其他层的计算;和存储管理装置,分别与至少一个通用处理核心和至少一个深度学习专用处理核心连接,并且被配置为存储通用处理核心的中间计算结果,以实现通用处理核心和深度学习专用处理核心之间的数据交互。这样的处理装置能够显著提高卷积神经网络的计算效率,在计算速度和耗能方面均能得到改进。
技术领域
本公开的实施例概括地涉及数据处理领域和深度学习领域,并且更具体地,涉及人工智能领域。
背景技术
近年来随着人工智能领域硬件和软件的不断提升,深度学习技术得到了飞速发展。深度学习技术可以运用在各个领域,比如计算机视觉、自然语言处理、音频分析等。卷积神经网络(CNN)是深度学习技术中具有影响力的网络模型,特别适合于涉及图像、语音、文本数据的应用。卷积神经网络所涉及的计算主要包括卷积计算、激活计算、池化计算、全连接(FC)计算、柔性最大值(SoftMax)计算等,其中卷积计算的计算量和功耗最为巨大。在卷积神经网络的训练过程中,为实现模型优化,在利用训练数据执行前向计算外,还会利用后向传播方式实现模型的参数优化。
在卷积神经网络的使用过程中涉及卷积层的大量分组操作和卷积操作。在一些卷积神经网络架构中,分组操作和卷积操作可能占据整个架构运算的大多数计算资源和时间。因此,期望处理器能够更快速、高效地处理分组操作和/或卷积操作,这将有助于加速整个深度学习网络、特别是卷积神经网络的使用和训练。
发明内容
根据本公开的示例实施例,提供了一种基于异构多核的处理器方案。
在本公开的第一方面,提供了一种处理装置。该处理装置包括:至少一个通用处理核心,被配置为生成卷积神经网络中的卷积层的中间计算结果;至少一个深度学习专用处理核心,被配置为基于至少一个通用处理核心的中间计算结果,执行卷积神经网络中除卷积层以外的其他层的计算;和存储管理装置,分别与至少一个通用处理核心和至少一个深度学习专用处理核心连接,并且被配置为存储至少一个通用处理核心的中间计算结果,以实现至少一个通用处理核心和至少一个深度学习专用处理核心之间的数据交互。
在本公开的第二方面,提供了一种用于信息处理的方法。该方法包括:借助于至少一个通用处理核心,生成卷积神经网络中的卷积层的中间计算结果;借助于存储管理装置,存储至少一个通用处理核心的中间计算结果;和借助于至少一个深度学习专用处理核心,基于从存储管理装置获取的至少一个通用处理核心的中间计算结果,执行卷积神经网络中除卷积层以外的其他层的计算。
在本公开的第三方面,提供了一种电子设备。该电子设备包括:根据第一方面的处理装置;和语音输入设备,用于采集用户的语音输入信号并传输至该处理装置。
在本公开的第四方面,提供了一种计算机可读存储介质。该计算机可读存储介质上存储有计算机程序,该程序被处理器执行时实现根据本公开的第二方面的方法。
在本公开的第五方面,提供了一种计算机程序产品。该计算机程序产品包括计算机程序,该计算机程序在被处理器执行时实现根据本公开的第二方面的方法。
应当理解,发明内容部分中所描述的内容并非旨在限定本公开的实施例的关键或重要特征,亦非用于限制本公开的范围。本公开的其他特征将通过以下的描述变得容易理解。
附图说明
结合附图并参考以下详细说明,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。在附图中,相同或相似的附图标记表示相同或相似的元素,其中:
图1示意性示出了示例卷积神经网络的结构的框图;
图2示意性示出了根据一些实施例的处理装置架构的框图;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010617337.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:输出极片及电池模组
- 下一篇:一种基于多识别参量的网上银行服务系统