[发明专利]用于实现多个推理计算引擎的方法和装置在审
| 申请号： | 202010547189.1 | 申请日： | 2020-06-16 |
| 公开（公告）号： | CN112395246A | 公开（公告）日： | 2021-02-23 |
| 发明（设计）人： | 以色列·迪亚曼德;罗尼·罗斯纳;拉维·文卡泰桑;什洛米·舒瓦;奥兹·希特里特;海瑞塔·贝兹布罗兹;亚历山大·亨德勒;奥哈德·法利克;齐吉·沃尔特;迈克尔·贝阿尔;什洛米·阿卡雷 | 申请（专利权）人： | 英特尔公司 |
| 主分类号： | G06F15/78 | 分类号： | G06F15/78;G06F13/42;G06N5/04 |
| 代理公司： | 北京东方亿思知识产权代理有限责任公司 11258 | 代理人： | 宗晓斌 |
| 地址： | 美国加利*** | 国省代码： | 暂无信息 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 用于 实现 推理 计算 引擎 方法 装置 | ||
1.一种装置，包括：
第一推理计算引擎；
第二推理计算引擎；以及
一致结构加速器(ACF)，所述ACF用于将所述第一推理计算引擎和所述第二推理计算引擎耦合到片上系统的聚合式一致性结构，所述ACF用于对来自所述第一推理计算引擎和所述第二推理计算引擎的请求进行仲裁以利用单个管芯内互连端口。
2.根据权利要求1所述的装置，还包括：第三推理计算引擎和第四推理计算引擎，所述第三推理计算引擎和所述第四推理计算引擎与第二ACF相关联。
3.根据权利要求1-2中任一项所述的装置，还包括：
所述聚合式一致性结构；以及
输入/输出设备系统，所述输入/输出设备系统通过所述聚合式一致性结构通信地耦合到所述ACF。
4.根据权利要求3所述的装置，还包括：存储器系统，所述存储器系统通过所述聚合式一致性结构耦合到所述ACF。
5.根据权利要求4所述的装置，还包括：处理器核心，所述处理器核心通过所述聚合式一致性结构耦合到所述ACF。
6.根据权利要求1-2中任一项所述的装置，其中，所述聚合式一致性结构包括末级缓存，所述末级缓存通过所述ACF与所述第一推理计算引擎和所述第二推理计算引擎相关联。
7.根据权利要求6所述的装置，其中，所述末级缓存通过环形网络耦合到倒数第二级缓存。
8.根据权利要求1-2中任一项所述的装置，其中，所述ACF以第一时钟速率接收来自所述第一推理计算引擎的请求，并且以第二时钟速率向所述聚合式一致性结构发送请求。
9.根据权利要求1-2中任一项所述的装置，其中，所述ACF包括转换器，所述转换器用于将使用高级可扩展接口协议的通信转换为管芯内互连协议。
10.根据权利要求9所述的装置，其中，所述转换器包括高级可扩展接口请求接受器，所述高级可扩展接口请求接受器用于使用所述高级可扩展接口协议来接收来自所述第一推理计算引擎和所述第二推理计算引擎的请求。
11.根据权利要求9所述的装置，其中，所述转换器包括高级可扩展接口请求发送器，所述高级可扩展接口请求发送器用于使用所述高级可扩展接口协议向所述第一推理计算引擎和所述第二推理计算引擎发送请求。
12.一种方法，包括：
在一致结构加速器(ACF)处通过高级可扩展接口协议来接收来自第一推理计算引擎的第一请求；
在所述ACF处通过所述高级可扩展接口协议来接收来自第二推理计算引擎的第二请求；
在所述ACF处将所述第一请求转换为管芯内互连接口协议；以及
将所述管芯内互连接口协议的第一请求传输到聚合式一致性结构。
13.根据权利要求12所述的方法，还包括：在所述ACF处将所述第二请求转换为管芯内互连接口协议。
14.根据权利要求13所述的方法，其中，所述第一请求是用于访问输入/输出设备系统中的设备的请求，所述输入/输出设备系统通过所述聚合式一致性结构通信地耦合到所述ACF。
15.根据权利要求12-14中任一项所述的方法，还包括：以第一时钟速率接收来自所述第一推理计算引擎的请求，并且以第二时钟速率向所述聚合式一致性结构发送请求。
16.根据权利要求12-14中任一项所述的方法，还包括：将使用高级可扩展接口协议的通信转换为管芯内互连协议。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于英特尔公司，未经英特尔公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/202010547189.1/1.html，转载请声明来源钻瓜专利网。
