[发明专利]用于机器学习的系统和方法

说明书

本发明提供一种用于机器学习的系统和方法。系统包含具有图形处理单元存储器的图形处理单元，以及连接到图形处理单元存储器的密钥值存储器件。方法包含：利用图形处理单元将密钥值请求写入到图形处理单元存储器的输入‑输出区域中的密钥值请求队列，密钥值请求包含密钥。方法还包含利用密钥值存储器件从密钥值请求队列中读取密钥值请求，以及响应于密钥值请求而利用密钥值存储器件将值写入到图形处理单元存储器的输入‑输出区域，所述值与密钥值请求的密钥相对应。

相关申请案的交叉参考

本申请案要求2018年2月2日提交的名为“利用密钥值SSD进行GPU机器学习训练的数据路径优化(DATA PATH OPTIMIZATION FOR GPU MACHINE LEARNING TRAINING WITHKEY VALUE SSD)”的美国临时申请案第62/625,532号的优先权和权益，所述临时申请案的全部内容以引用的方式并入本文中。

技术领域

根据本公开的实施例的一或多个方面涉及机器学习，且更具体地说，涉及一种用于避免机器学习系统中的串行化密钥值存取的系统和方法。

背景技术

在一些具有块接口的现有技术固态驱动器(solid state drive；SSD)中，对存储在SSD中的数据进行密钥值存取需要涉及中央处理单元(central processing unit；CPU)以在对整个训练数据的子集进行随机采样的随机机器学习训练期间提供密钥值接口。主机CPU执行文件索引查找和文件系统存取，以识别导致串行化密钥值存取的数据的位置。这类串行化密钥值存取可能限制性能。

因此，需要一种改进的系统和方法，所述系统和方法用于执行涉及对数据的密钥值存取的机器学习。

发明内容

根据本发明的一实施例，提供一种用于机器学习的方法，所述方法包含：利用第一图形处理单元将第一密钥值请求写入到第一存储器的第一输入-输出区域中的密钥值请求队列，所述第一存储器连接到第一图形处理单元，所述第一密钥值请求包含密钥；利用连接到第一存储器的第一密钥值存储器件从密钥值请求队列中读取第一密钥值请求；以及响应于第一密钥值请求而利用第一密钥值存储器件将第一值写入到第一存储器的第一输入-输出区域，所述第一值与第一密钥值请求的密钥相对应。

在一个实施例中，方法包含：利用第一密钥值存储器件来在第一密钥值存储器件中执行密钥查找以检索第一值。

在一个实施例中，第一密钥值请求包含返回值区域，所述返回值区域是分配给第一值的区域。

在一个实施例中，将第一值写入到第一存储器的第一输入-输出区域包含将第一值写入到返回值区域。

在一个实施例中，将第一值写入到第一存储器的第一输入-输出区域包含将第一值写入到第一存储器的第一输入-输出区域中的返回值队列。

在一个实施例中，方法包含：利用连接到第一密钥值存储器件且连接到第一图形处理单元的主机来配置：第一密钥值存储器件存取第一存储器的第一输入-输出区域以接收密钥值请求，并响应于密钥值请求而写入值；以及第一图形处理单元将密钥值请求存储在第一存储器的第一输入-输出区域中，并从第一存储器的第一输入-输出区域中读取值。

在一个实施例中，方法包含：利用连接到主机的第二图形处理单元将第二密钥值请求写入到第二存储器的输入-输出区域中的密钥值请求队列，所述第二存储器连接到第二图形处理单元，所述第二密钥值请求包含密钥；利用连接到主机且连接到第二存储器的第二密钥值存储器件从密钥值请求队列中读取第二密钥值请求；以及响应于第二密钥值请求而利用第二密钥值存储器件将第二值写入到第二存储器的输入-输出区域，所述第二值与第二密钥值请求的密钥相对应。