[发明专利]一种基于深度学习模型的推理方法、系统和装置

说明书

本说明书实施例公开了一种基于深度学习模型的推理方法、系统及装置，其中，所述方法包括：获取第一输入数据以及第二输入数据，所述第一输入数据与实体对象相关，所述第二输入数据与目标用户的属性信息和/或历史行为相关；利用深度学习模型对所述第一输入数据与第二输入数据进行处理，确定反应所述待推荐对象与所述目标用户的关联关系的推理结果；其中，所述处理至少包括矩阵运算和/或指数运算，所述深度学习模型包括至少一个基于运算优化库实现的网络层，以实现所述矩阵运算和/或指数运算。以加速机器学习模型的推理速度，满足高并发需求，提升用户体验，降低机器部署成本。

技术领域

本说明书涉及机器学习技术领域，特别涉及一种基于深度学习模型的推理方法、系统和装置。

背景技术

近年来，随着深度学习技术不断发展，越来越多的推理系统也开始采用深度学习模型。而推理场景要求高并发，快速度。因此，对用于推荐的深度学习模型进行加速已成为一种需求。

发明内容

本说明书实施例之一提供一种基于深度学习模型的推理方法。所述方法包括：获取第一输入数据以及第二输入数据，所述第一输入数据与实体对象相关，所述第二输入数据与目标用户的属性信息和/或历史行为相关；利用深度学习模型对所述第一输入数据与第二输入数据进行处理，确定反应所述待推荐对象与所述目标用户的关联关系的推理结果；其中，所述处理至少包括矩阵运算和/或指数运算，所述深度学习模型包括至少一个基于运算优化库实现的网络层，以实现所述矩阵运算和/或指数运算。

本说明书实施例之一提供一种基于深度学习模型的推理系统。所述系统包括：获取模块，用于获取第一输入数据以及第二输入数据，所述第一输入数据与实体对象相关，所述第二输入数据与目标用户的属性信息和/或历史行为相关；处理模块，用于利用深度学习模型对所述第一输入数据与第二输入数据进行处理，确定反应所述待推荐对象与所述目标用户的关联关系的推理结果；其中，所述处理至少包括矩阵运算和/或指数运算，所述深度学习模型包括至少一个基于运算优化库实现的网络层，以实现所述矩阵运算和/或指数运算。

本说明书实施例之一提供一种装置，包括处理器，所述处理器用于执行以上所述的基于深度学习模型的推理方法。

附图说明

本说明书将以示例性实施例的方式进一步说明，这些示例性实施例将通过附图进行详细描述。这些实施例并非限制性的，在这些实施例中，相同的编号表示相同的结构，其中：

图1是根据本说明书一些实施例所示的基于深度学习模型的推理系统的应用场景示意图；

图2是根据本说明书一些实施例所示的基于深度学习模型的推理方法的示例性流程图；

图3是根据本说明书一些实施例所示的用于推荐的深度学习模型的结构示意图；

图4是根据本说明书一些实施例所示的基于深度学习模型的推理系统的模块图。

具体实施方式

为了更清楚地说明本说明书实施例的技术方案，下面将对实施例描述中所需要使用的附图作简单的介绍。显而易见地，下面描述中的附图仅仅是本说明书的一些示例或实施例，对于本领域的普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图将本说明书应用于其它类似情景。除非从语言环境中显而易见或另做说明，图中相同标号代表相同结构或操作。

应当理解，本文使用的“系统”、“装置”、“单元”和/或“模组”是用于区分不同级别的不同组件、元件、部件、部分或装配的一种方法。然而，如果其他词语可实现相同的目的，则可通过其他表达来替换所述词语。