[发明专利]平衡负载与性能的硬件优先级队列实现方法

摘要

本发明公开了一种平衡负载与性能的硬件优先级队列实现方法。是通过结合两种当前硬件优先级队列较为普遍的实现方法：平移型硬件优先级队列以及传递行硬件优先级队列，解决了负载与性能的矛盾问题，充分发挥了硬件并行化的性能优势以及减少了并行化所带来的负载增加问题。本发明采样模块化设计，使得优先级队列的扩展性好，无论是需要增加优先级还是增加目录项，都相对独立，无须改变整个队列的结构。利用下层处理单元的并行移项队列，提高了优先级队列的并行性以及响应速度。利用上层队列的逐项传递队列，使得新实体的插入，仅仅需要与第一级的上层队列中所有目录项进行比较，降低了负载。

主权项

1. 一种平衡负载与性能的硬件优先级队列实现方法，其特征在于：1)下层处理单元由若干目录项组成：每个下层处理单元，由若干相同的目录项组成，每个目录项为一个硬件单元，包括读写口，控制信号以及实体信息输入/输出口。相邻项之间，通过与数据位宽相同的数据通路，以及一位宽的比较结果信号连接。每一项记录了实体信息，包括实体优先级以及其他信息；2)下层处理单元新实体插入，按照并行移项队列模式，采用并行比较的方式实现：当有新的实体到来时，该实体的实体信息将同时被传送到每个目录项的实体输入口，同时，控制信号告知每个目录项有新实体到来。目录项发现有新实体到来时，立即比较自己当前记录的实体优先级与新实体的优先级，若新实体的优先级高于当前记录的实体，且上一级目录项输出的比较结果为新实体优先级高于其记录的当前实体，则本目录项将上一级目录项当前实体信息记录内容读入，作为当前实体信息，同时将原有实体信息，输出到与下一级目录项连接的数据通路上，并且将自身比较结果输出到比较结果信号上，作为下一级目录的输入；若新实体的优先级高于当前记录实体，且上一级目录项输出的比较结果为新实体优先级低于其记录的当前实体，则本目录项将新实体信息读入，作为当前实体信息，同时将原有实体信息，输出到与下一级目录项连接的数据通路上，并且将自身比较结果输出到比较结果信号上，作为下一级目录项的输入；若新实体优先级低于当前记录实体，则保持原有实体信息不变，同时将自身比较结果输出到比较结果信号上，作为下一级目录项的输入。一次插入操作，总共需要的周期数为3拍，第一拍输入新实体，第二拍产生比较结果，第三拍，根据比较结果，整个优先级队列进行上述规则的平移，以达到优先级的顺序排列；3)上层队列由传递优先级模型实现，每个上层队列，包括了一个的下层处理单元，上层队列之间，按照优先级，顺序排列：上层队列按照传递优先级模型实现，每一级之间，由数据通路，控制信号，连接，且按照优先级高低顺序排列。其内部为一个下层处理单元；4)上层队列之间的实体传递，发生在前一级上层队列内部下层处理单元的目录项耗尽时：当新实体需要插入时，若新实体插入位置的下层处理单元中，优先级队列目录项未满，则按照上文中提到的下层处理单元新实体插入方法插入，上层队列之间无须任何动作。当新实体插入位置的下层处理单元中，优先级队列目录项已满，则需要在上层队列之间传递实体信息，此时，将新实体插入需要插入的位置，同时，将溢出队列的最低优先级的目录项，迁移到下一级上层队列中。实体信息以及控制信号由当前上层队列输出，下一级上层队列收到信号，其内部下层处理单元开始新实体的插入，若下层处理单元的目录项未满，则插入成功，操作停止；若由于下层处理单元的目录项已满，则需要继续与再下一级的上层队列发生实体传递，依次进行，直到操作停止；5)整条优先级队列，由1条或多条上层队列组成：整条优先级队列，由1条或多条上层队列，按照优先级顺序，串联而成，各个上层队列内，包括了一个下层处理单元，下层处理单元，包括了多个目录项。6)常数时间的最高优先级实体出队列：最高优先级的实体信息，总是存放在最高级上层队列中的下层处理单元最高级目录项中，当该实体出队列时，所有后续的目录项向上级平移，上层队列直接，下一级上层队列中的最高优先级目录项将被迁移到上一级的上层队列中，完成这一过程所需要的时间为常数；7)平衡负载与性能的优先级目录插入：当新实体插入时，由于其只需送给第一级上层队列中下层处理单元的所有目录项，因此负载较同时送给整条队列的情况降低；同时，实体的插入，采用了局部并行比较多方法，较传递优先级方式，节省了比较传递的时间以及诸项比较所需的暂存硬件资源，性能上得到了提升；