[发明专利]一种人工智能芯片、数据传输方法及数据传输系统有效
申请号: | 202310877938.0 | 申请日: | 2023-07-18 |
公开(公告)号: | CN116614433B | 公开(公告)日: | 2023-10-24 |
发明(设计)人: | 李晓帅;王梦嘉;赵鹏程;王煇;严涵;华孙山;刘静雯 | 申请(专利权)人: | 太初(无锡)电子科技有限公司 |
主分类号: | H04L45/00 | 分类号: | H04L45/00;H04L41/16 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 岳晓萍 |
地址: | 214000 江苏省无锡市滨*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 人工智能 芯片 数据传输 方法 系统 | ||
本发明公开了一种人工智能芯片、数据传输方法及数据传输系统,涉及芯片技术领域,该芯片包括:控制引擎模块,用于将待搬运的第一目标数据组装得到至少一个第一数据包,并将至少一个第一数据包发送给路由功能模块;其中,第一数据包附加有第一目标地址;路由功能模块,用于根据与当前数据传输模式匹配的路由策略,在全部通信接口中确定至少一个第一通信接口,并通过第一通信接口发出第一数据包。本发明实施例的技术方案,使得AI芯片本身具备了路由转发功能,进而以多样化网络模式互联的AI芯片可以满足不同业务场景下的数据搬运需求,避免了构建数据传输系统时对数据交换芯片的依赖,提高了构建完成的数据传输系统的数据搬运速度。
技术领域
本发明涉及芯片技术领域,尤其涉及一种人工智能芯片、数据传输方法及数据传输系统。
背景技术
随着多节点大规模并行计算需求的产生,AI(Artificial Intelligence,人工智能)芯片之间的高速互联通信,成为了芯片技术领域的重要研究课题。
传统的AI芯片的互联方案如图1所示,一个中央处理器下的各个AI芯片,通过PCIe(peripheral component interconnect express,高速串行计算机扩展总线标准)总线的Switch(转换)芯片连接;如图2所示,英伟达(NVIDIA)也提供了基于专用转换芯片(即NV_Switch芯片)的互联方案;如图3所示,寒武纪提供一种基于MLU-Link桥接卡的8芯片互联方案。
然而,图1所示的互联方案,受限于PCIe总线协议以及PCIe拓扑结构的限制,数据带宽往往无法满足实际的负载需求;而图2所示的互联方式,同样需要配置专用转换芯片,不但需要耗费较高的硬件成本,而且大部分芯片系统的互联规模达不到上述规模,常常发生芯片功能冗余现象;图3所示的互联规模只能在8芯片以内,扩展性不足,进而影响芯片系统的性能。
发明内容
本发明提供了一种人工智能芯片、数据传输方法及数据传输系统,以解决人工智能芯片在构建大规模网络时对数据交换芯片的依赖问题。
根据本发明的一方面,提供了一种人工智能芯片,包括:控制引擎模块、路由功能模块以及用于与其他硬件设备互联的多个通信接口;
所述控制引擎模块,用于将待搬运的第一目标数据组装得到至少一个第一数据包,并将所述至少一个第一数据包发送给所述路由功能模块;其中,所述第一数据包附加有第一目标地址;
所述路由功能模块,用于根据与当前数据传输模式匹配的路由策略,在全部通信接口中确定至少一个第一通信接口,并通过所述第一通信接口发出所述第一数据包。
根据本发明的另一方面,提供了一种数据传输方法,应用于本发明任一实施例所述的人工智能芯片,包括:
控制引擎模块将待搬运的第一目标数据组装得到至少一个第一数据包,并将所述至少一个第一数据包发送给路由功能模块;其中,所述第一数据包附加有第一目标地址;
所述路由功能模块基于交叉开关矩阵模式,通过拥塞算法获取匹配的至少一个第一通信接口,并通过所述第一通信接口发出所述第一数据包。
根据本发明的另一方面,提供了一种数据传输方法,应用于本发明任一实施例所述的人工智能芯片,包括:
控制引擎模块将待搬运的第一目标数据组装得到至少一个第一数据包,并将所述至少一个第一数据包发送给路由功能模块;其中,所述第一数据包附加有第一目标地址;
所述路由功能模块基于无线网络网格模式,根据所述第一目标地址和当前人工智能芯片的地址信息获取第一传输路径,并获取所述第一传输路径中第一相邻人工智能芯片对应的第一通信接口;
所述路由功能模块通过所述第一通信接口向所述第一相邻人工智能芯片发出所述第一数据包。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于太初(无锡)电子科技有限公司,未经太初(无锡)电子科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310877938.0/2.html,转载请声明来源钻瓜专利网。