[发明专利]模型服务的更新方法、装置及存储介质

说明书

本公开涉及一种模型服务的更新方法、装置及存储介质，上述方法包括：通过管理中心接收业务请求，并对所述业务请求进行解析处理，得到请求标识，其中，所述请求标识用于指示所述业务请求对应的会话；使用一致性哈希算法，根据所述请求标识确定所述会话对应的模型服务；通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务，其中，每个业务请求均包括音频流片段；将多个音频流片段组成完整音频流，使用所述完整音频流更新所述模型服务。采用上述技术手段，解决现有技术中，只可以基于业务请求更新模型服务，不能基于会话更新模型服务的问题。

技术领域

本公开涉及互联网技术领域，尤其涉及一种模型服务的更新方法、装置及存储介质。

背景技术

随着人工智能技术的广泛应用，算法模型工程化工作的重要性正在日益突出。在语音人工智能领域中，随着电话系统作为整个语音服务输入端的接入案例越来越多，实现语音模型服务的无损上线，成为整个语音工程的重要课题。传统技术是基于业务请求更新模型服务，但是更新模型服务需要记录当前语音流所属的会话和上下文信息，每个上下文信息会记录当前所属的会话在整个请求过程中的语音流片段和配置信息。而对于每一个会话存在多次业务请求，并且每次请求会上传整个语音流的不同片段信息，所以更新模型服务应该基于会话的维度，而不是基于业务请求的维度。

在实现本公开构思的过程中，发明人发现相关技术中至少存在如下技术问题：只可以基于业务请求更新模型服务，不能基于会话更新模型服务的问题。

发明内容

为了解决上述技术问题或者至少部分地解决上述技术问题，本公开的实施例提供了一种模型服务的更新方法、装置及存储介质，以至少解决现有技术中，只可以基于业务请求更新模型服务，不能基于会话更新模型服务的问题。

本公开的目的是通过以下技术方案实现的：

第一方面，本公开的实施例提供了一种模型服务的更新方法，包括：通过管理中心接收业务请求，并对所述业务请求进行解析处理，得到请求标识，其中，所述请求标识用于指示所述业务请求对应的会话；使用一致性哈希算法，根据所述请求标识确定所述会话对应的模型服务；通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务，其中，每个业务请求均包括音频流片段；将多个音频流片段组成完整音频流，使用所述完整音频流更新所述模型服务。

在一个示例性实施例中，所述通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务，包括：在接收到模型上线请求的情况下，在所述管理中心与备用缓存服务之间建立第二通道，其中，所述备用缓存服务与所述模型服务存在对应关系；通过所述第一通道将属于当前会话的多个业务请求发送到所述模型服务；通过所述第二通道将属于所述当前会话之后的回话的多个业务请求发送到所述备用缓存服务。

在一个示例性实施例中，所述通过所述第一通道将属于当前会话的多个业务请求发送到所述模型服务之后，所述方法还包括：断开所述第一通道；将所述当前会话的多个业务请求携带的所述多个音频流片段组成所述完整音频流，使用所述完整音频流更新所述模型服务。

在一个示例性实施例中，所述使用所述完整音频流更新所述模型服务之后，所述方法还包括：在所述管理中心与所述模型服务之间重新建立所述第一通道；通过所述第二通道将属于所述当前会话的多个业务请求发送到所述备用缓存服务；通过所述第一通道将属于所述当前会话之后的回话的多个业务请求发送到所述模型服务。

在一个示例性实施例中，所述通过所述第二通道将属于所述当前会话的多个业务请求发送到所述备用缓存服务之后，所述方法还包括：断开所述第二通道；在下一次更新所述模型服务时，根据所述备用缓存服务中的数据更新所述模型服务。

在一个示例性实施例中，所述在下一次更新所述模型服务时，根据所述备用缓存服务中的数据更新所述模型服务，包括：将所述备用缓存服务中的多个业务请求携带的所述多个音频流片段组成所述完整音频流；使用所述完整音频流更新所述模型服务。