[发明专利]异构计算系统及计算方法

说明书

本发明公开了一种异构计算系统，包括多个异构计算核心、片外存储部分、总线系统以及多个节点，每个节点对应一个异构计算核心，不同节点可根据具体应用场景的不同配置为不同异构计算核心，节点之间从纵向和横向分别交叉连接，形成交叉总线。本发明提供的系统以具备易编程、可扩展、高性能、低功耗特性的神经网络智能芯片板卡MLU为基础搭建异构计算平台，以充分发挥智能芯片在高性能、低功耗、可扩展性等诸多方面的优势，整体能够提供的负载功率有限，同时面对数据量大，对速度要求高的复杂场景，同时对安全性和可靠性有需求，在部分出现故障的情况下，系统依然可以运行。

技术领域

本发明属于芯片技术应用领域。涉及一种支撑人工智能的应用的异构计算体系，尤其涉及一种基于人工智能的推理运算的异构计算系统及计算方法。

背景技术

目前单一的商用芯片难以适应需求。不足以快速、高效、低功耗地支撑人工智能的应用，需要一套异构的计算体系，来支持异构计算的需求。传统应用，某些特殊场景的应用除了具有数据量大、难以快速处理等问题之外，同时对安全性以及可靠性有较大的需求。。

发明内容

为了克服现有技术的缺陷，本发明需要解决的技术问题是既要满足不同载荷数据处理应用的特殊需求，又要具有一定的通用性，具有标准化、模块化、可扩展的特点，还要具有可重构、可容错能力，满足特殊空间环境应用需求。构建的处理平台能够通过简单的模块组合就可以快速实现不同的类型的数据处理应用需求。

针对现有技术中的缺陷，本发明提出了一种异构计算系统，包括多个异构计算核心、片外存储部分、总线系统以及多个节点，每个节点对应一个异构计算核心，不同节点可根据具体应用场景的不同配置为不同异构计算核心，节点之间从纵向和横向分别交叉连接，形成交叉总线，整个交叉总线的纵向和横向的节点数量主要由具体应用场景和系统整体性能、功耗指标所确定；

任意一个节点可完成单独一个子任务或一个完整任务，基于所述异构计算系统的人工智能应用划分为若干子任务，映射至不同计算节点中，网格中各个计算核心使用交叉总线连接；所述每个计算核心从临近的交叉总线节点获取待计算数据，计算的结果通过临近节点返回。

优选的，上述异构计算核心包括但不限于CPU、FPGA、IPU、DSP。

优选的，上述系统具备协议层和物理层协议，采用SRIO总线实现系统内各高速模块间的双星型点对点高速数据交互。

优选的，上述SRIO总线采用三层分级体系结构，分别为逻辑层、传输层和物理层，所述逻辑层定义了端口的全部协议、包的格式，为端点发起和完成事务提供必要信息；所述传输层定义了地址空间和在端点之间传输包所需要的路由信息和寻址机制；所述物理层描述了器件级端口信息，包括传输机制、初级流量控制、电气特性和低级错误管理等。

优选的，上述SRIO的操作基于请求和影响事务，发起端产生一个请求事务，请求事务被传送到目标端，目标端随之产生一个响应事务并返回发起端，以结束本次操作。

优选的，上述片外存储部分主要由DDR Memory、内存控制器、数据传输模块和频率调节模块组成。

优选的，上述DDR Memory作为异构计算单元计算数据的片外存储空间，同时也作为不同计算单元数据交互的中间站，内存控制器和数据传输模块负责完成数据在CPU主机端的内存与异构计算单元的片外DDR Memory之间的数据传输和DDR Memory与异构计算单元的片上存储空间的数据传输。频率调节模块负责调节异构计算核心的频率和DDR Memory的运行频率。

优选的，上述系统还包括一内存管理模块，负责片外内存的管理，通过页表结构完成虚拟地址空间到物理地址空间的转换；当异构计算核心或者数据传输总线需要片外板载内存时，所述页表结构提供一个地址给内存管理部件。