[发明专利]用于确定张量元素的越界状态的方法和电子装置

说明书

本文描述了一种用于确定张量元素的越界状态的方法和电子装置。该方法包括基于针对张量段中的第一张量元素的越界查询指令，确定第一张量元素在张量段的多个维度的第一偏移量集合。该方法还包括基于张量段的段属性，确定张量段在多个维度中的每个维度上的元素数目集合。该方法还包括基于第一偏移量集合和元素数目集合，确定针对第一张量元素的第一越界状态指示。通过使用越界查询命令，可以将偏移量与张量段范围进行比较。一旦超出，则可以确定该逻辑地址越界，即超出了张量段的边界。继而，可以从诸如谓词寄存器之类的电路单元获得越界状态指示，例如特定值。这样，可以对诸如程序调试或动态检测之类的后续程序操作带来便利。

技术领域

本公开的实施例一般地涉及电子领域，更具体而言涉及一种用于确定张量元素的越界状态的方法和电子装置。

背景技术

诸如图形处理器(GPU)之类的并行高性能多线程多核处理系统处理数据的速度比过去快得多。这些处理系统可以将复杂的计算分解为较小的任务，并且由多核并行处理以增加处理效率并且减少处理时间。

在一些情形下，诸如GPU之类的多核处理器对具有大量相同或相似形式的数据的张量的处理尤为有利。张量元素在计算机领域通常表示一维或多维数组的数据，例如灰度图像数据就是一种常规的二维张量元素，其可以由二维数组表示。对图像数据进行处理时，可以由多核处理器对图像数据中的不同部分并行处理以减少处理时间。

常规的张量元素在存储器中通常以一维数组形式进行存储，因此程序的编程人员在设计程序时，需要考虑程序加载张量元素的情形下张量元素在一维数组中的正确地址。通常，常规的寻址方法无法提供对于张量元素的访问是否超出张量边界的信息。例如，在一些常规方案中，对于读操作，如果检测出地址越界，则直接返回0值或者其他预设的默认值，而对于写操作，如果检测出地址越界，则丢弃此次写操作。但是对于用户或设计人员而言，其无法通过读操作的返回值0来明确判断存储是否越界，因为张量元素的值有可能为0。同时，用户也无法得知写操作是否越界。这给设计人员在编程过程中的后续一些操作带来不便利。

发明内容

本公开的实施例提供了一种用于确定张量元素的越界状态的方法和电子装置。

在第一方面，提供了一种用于确定张量元素的越界状态的方法。该方法包括基于针对张量段中的第一张量元素的越界查询指令，确定第一张量元素在张量段的多个维度的第一偏移量集合。该方法还包括基于张量段的段属性，确定张量段在多个维度中的每个维度上的元素数目集合。该方法还包括基于第一偏移量集合和元素数目集合，确定针对第一张量元素的第一越界状态指示。通过使用越界查询命令，可以将逻辑地址在张量段内对应的偏移量与张量段范围进行比较。一旦任一维度上的偏移量超出了张量段在该维度上的范围，则可以确定该逻辑地址越界，即超出了张量段的边界。继而，可以从诸如谓词寄存器之类的电路单元获得越界状态指示，例如特定值。这样，可以对诸如程序调试或动态检测之类的后续程序操作带来便利。此外，由于该越界查询指令并不涉及从存储器中返回所存储的具体数据或向其写入数据，而仅是给出越界状态的指示(例如逻辑1或0)，这可以避免从存储器中读取数据或写入数据所带来的时间延迟和大的操作功耗。

在本公开的第一方面的一种实现方式中，越界查询指令包括第一张量元素的逻辑地址表示，逻辑地址表示包括段基址寄存器表示、偏移寄存器表示和立即数。确定第一张量元素在张量段中的第一偏移量集合包括：基于段基址寄存器表示、偏移寄存器表示和立即数，计算第一偏移量集合。

在本公开的第一方面的一种实现方式中，该方法还包括：基于模式表示，确定段基址寄存器表示。通过使用模式表示，可以针对不同的模式，例如长模式或默认模式(非长模式)，来确定逻辑地址在张量段内的偏移量。这样，可以兼容不同模式下的张量越界确定方案，以适配更多的张量情形。

在本公开的第一方面的一种实现方式中，该方法还包括基于越界查询指令确定与立即数对应的维度。