[发明专利]一种基于深度学习模型的推理方法、系统和装置

权利要求书

1.一种基于深度学习模型的推理方法，其中，所述方法包括：

获取第一输入数据以及第二输入数据，所述第一输入数据与实体对象相关，所述第二输入数据与目标用户的属性信息和/或历史行为相关；

利用深度学习模型对所述第一输入数据与第二输入数据进行处理，确定反应所述实体对象与所述目标用户的关联关系的推理结果；其中，所述处理至少包括矩阵运算和/或指数运算，所述深度学习模型包括至少一个基于运算优化库实现的网络层，以实现所述矩阵运算和/或指数运算。

2.根据权利要求1所述的方法，其中，所述利用深度学习模型对所述第一输入数据与第二输入数据进行处理，确定反应所述待推荐对象与所述目标用户匹配度的推理结果，包括：

确定所述第一输入数据对应的第一嵌入向量，以及所述第二输入数据对应的第二嵌入向量；

针对所述第一嵌入向量，利用第一网络层组处理所述第一嵌入向量，获得第四嵌入向量；

针对所述第二嵌入向量，利用第二网络层组处理所述第二嵌入向量，获得第五嵌入向量；

基于所述第四嵌入向量以及所述第五嵌入向量，获取第六嵌入向量；

利用第三网络层组处理所述第六嵌入向量，获得所述推理结果；

所述第一网络层组、第二网络层组以及第三网络层组对相应嵌入向量的处理分别包括矩阵运算和/或指数运算。

3.根据权利要求2所述的方法，其中，确定所述第一嵌入向量，以及所述第二嵌入向量，包括：

利用输入处理层处理所述第一输入数据以及第二输入数据，确定所述第一嵌入向量以及所述第二嵌入向量；所述输入处理层包括嵌入层，所述第一嵌入向量以及所述第二嵌入向量以矩阵形式表示。

4.根据权利要求2所述的方法，其中，确定第六嵌入向量，包括：

利用拼接网络层处理所述第四嵌入向量以及所述第五嵌入向量，确定第六嵌入向量，所述第六嵌入向量以矩阵形式表示。

5.根据权利要求2所述的方法，所述利用第三网络层组处理所述第六嵌入向量，获得所述推理结果，包括：

基于所述第六嵌入向量，确定第七嵌入向量；

利用softmax网络层处理所述第七嵌入向量，确定所述推理结果。

6.根据权利要求5所述的方法，其中，所述softmax网络层中的指数运算基于AVX512指令集的Intrinsic Exp算子函数实现。

7.根据权利要求1或2所述的方法，其中，所述运算优化库包括以下库中的一种或多种的组合：OneDNN优化库、AVX512指令集以及Libxsmm优化库。

8.根据权利要求7所述的方法，其中，所述第一网络层组中的矩阵运算基于OneDNN优化库实现，指数运算基于AVX512指令集的Intrinsic Exp算子函数实现。

9.根据权利要求7所述的方法，其中，所述第二网络层组中的矩阵运算基于Libxsmm优化库实现，指数运算基于AVX512指令集的Intrinsic Exp算子函数实现。

10.根据权利要求7所述的方法，其中，所述第三网络层组中的矩阵运算基于OneDNN优化库实现，指数运算基于AVX512指令集的Intrinsic Exp算子函数实现。

11.一种基于深度学习模型的推理系统，其中，所述系统包括：

获取模块，用于获取第一输入数据以及第二输入数据，所述第一输入数据与实体对象相关，所述第二输入数据与目标用户的属性信息和/或历史行为相关；

处理模块，用于利用深度学习模型对所述第一输入数据与第二输入数据进行处理，确定反应所述待推荐对象与所述目标用户的关联关系的推理结果；其中，所述处理至少包括矩阵运算和/或指数运算，所述深度学习模型包括至少一个基于运算优化库实现的网络层，以实现所述矩阵运算和/或指数运算。