[发明专利]一种优化数据流架构访存延迟的方法及其系统

权利要求书

1.一种优化数据流架构访存延迟的方法，其特征在于，包括以下步骤：

S1：上游节点对下游节点反馈空闲状态的时间进行预测，并将得到的预测时间与一阈值进行比较；当所述预测时间小于所述阈值时，执行推测模式进行数据访存；当所述预测时间大于所述阈值时，执行三段式握手模式进行数据访存；

S2：所述推测模式的执行步骤为：所述上游节点向片上缓存节点发送带有令牌信息的数据包，并同时向下游节点发送令牌信息；所述片上缓存节点将所述带有令牌信息的数据包发送给下游节点；所述下游节点将从所述片上缓存节点中收到的数据包中的令牌信息与从所述上游节点收到的令牌信息进行比较；如果两个令牌信息的比较结果一致且所述下游节点的指令槽为空闲状态，则所述下游节点向所述上游节点发送确认信息；

S3：如果两个令牌信息的比较结果不一致或者所述下游节点的指令槽不为空闲状态，则所述下游节点丢弃来自片上缓存节点的数据包和来自上游节点的令牌信息，不向所述上游节点反馈任何信息；待所述下游节点的指令槽为空闲状态时，执行三段式握手模式进行数据访存。

2.根据权利要求1所述的优化数据流架构访存延迟的方法，其特征在于，每个数据访存指令需要单独计算预测时间。

3.根据权利要求1所述的优化数据流架构访存延迟的方法，其特征在于，所述阈值是通过软件profiling的方式得到的。

4.一种优化数据流架构访存延迟的系统，其特征在于，在数据流架构的每个节点上包括以下部件：

访存计数器：用于计算当上游节点发出数据访存指令时，从下游节点的源操作数空闲状态到上游节点的目的操作数空闲状态之间的时间差；

阈值存储器，用于保存一预设的时间阈值；

预测位，与所述访存计数器和所述阈值存储器相连，根据所述时间差和所述时间阈值的比较结果来确定执行推测模式或三段式握手模式进行数据访存；

令牌管理部件，与所述预测位相连，当所述预测位确定执行推测模式时，所述令牌管理部件用于分别向上游节点和下游节点发送令牌信息；

令牌确认部件，与所述令牌管理部件相连，用于将所述下游节点接收到的令牌信息与来自片上缓存节点的访存数据包中包含的令牌信息进行比较，如果两个令牌信息的比较结果一致且所述下游节点的指令槽为空闲状态，则所述下游节点向所述上游节点发送确认信息；如果两个令牌信息的比较结果不一致或者所述下游节点的指令槽不为空闲状态，则所述下游节点丢弃来自片上缓存节点的数据包和来自上游节点的令牌信息，不向所述上游节点反馈任何信息；待所述下游节点的指令槽为空闲状态时，执行三段式握手模式进行数据访存。

5.根据权利要求4所述的优化数据流架构访存延迟的系统，其特征在于，每个数据访存指令需要单独计算预测时间。

6.根据权利要求4所述的优化数据流架构访存延迟的系统，其特征在于，所述阈值是通过软件profiling的方式得到的。