[发明专利]模型服务的更新方法、装置及存储介质在审
申请号: | 202111081195.3 | 申请日: | 2021-09-15 |
公开(公告)号: | CN113793612A | 公开(公告)日: | 2021-12-14 |
发明(设计)人: | 崔午阳 | 申请(专利权)人: | 京东科技信息技术有限公司 |
主分类号: | G10L15/26 | 分类号: | G10L15/26;G10L15/30;G10L15/06;H04L29/06 |
代理公司: | 北京华夏泰和知识产权代理有限公司 11662 | 代理人: | 孙剑锋 |
地址: | 100176 北京市大兴区经济*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 服务 更新 方法 装置 存储 介质 | ||
1.一种模型服务的更新方法,其特征在于,包括:
通过管理中心接收业务请求,并对所述业务请求进行解析处理,得到请求标识,其中,所述请求标识用于指示所述业务请求对应的会话;
使用一致性哈希算法,根据所述请求标识确定所述会话对应的模型服务;
通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务,其中,每个业务请求均包括音频流片段;
将多个音频流片段组成完整音频流,使用所述完整音频流更新所述模型服务。
2.根据权利要求1所述的方法,其特征在于,所述通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务,包括:
在接收到模型上线请求的情况下,在所述管理中心与备用缓存服务之间建立第二通道,其中,所述备用缓存服务与所述模型服务存在对应关系;
通过所述第一通道将属于当前会话的多个业务请求发送到所述模型服务;
通过所述第二通道将属于所述当前会话之后的回话的多个业务请求发送到所述备用缓存服务。
3.根据权利要求2所述的方法,其特征在于,所述通过所述第一通道将属于当前会话的多个业务请求发送到所述模型服务之后,所述方法还包括:
断开所述第一通道;
将所述当前会话的多个业务请求携带的所述多个音频流片段组成所述完整音频流,使用所述完整音频流更新所述模型服务。
4.根据权利要求3所述的方法,其特征在于,所述使用所述完整音频流更新所述模型服务之后,所述方法还包括:
在所述管理中心与所述模型服务之间重新建立所述第一通道;
通过所述第二通道将属于所述当前会话的多个业务请求发送到所述备用缓存服务;
通过所述第一通道将属于所述当前会话之后的回话的多个业务请求发送到所述模型服务。
5.根据权利要求4所述的方法,其特征在于,所述通过所述第二通道将属于所述当前会话的多个业务请求发送到所述备用缓存服务之后,所述方法还包括:
断开所述第二通道;
在下一次更新所述模型服务时,根据所述备用缓存服务中的数据更新所述模型服务。
6.根据权利要求5所述的方法,其特征在于,所述在下一次更新所述模型服务时,根据所述备用缓存服务中的数据更新所述模型服务,包括:
将所述备用缓存服务中的多个业务请求携带的所述多个音频流片段组成所述完整音频流;
使用所述完整音频流更新所述模型服务。
7.根据权利要求1所述的方法,其特征在于,所述使用一致性哈希算法,根据所述请求标识确定所述会话对应的模型服务,包括:
根据所述请求标识计算所述业务请求的第一哈希值;
获取多个模型服务的节点信息,并根据所述节点信息计算所述多个模型服务的第二哈希值;
根据所述第一哈希值和所述第二哈希值从所述多个模型服务中确定所述会话对应的模型服务。
8.根据权利要求1所述的方法,其特征在于,所述将多个音频流片段组成完整音频流,使用所述完整音频流更新所述模型服务,包括:
根据所述模型服务接收所述多个业务请求的顺序或者所述多个音频流片段的标识信息,将所述多个音频流片段组成所述完整音频流;
使用所述完整音频流更新所述模型服务内的一个或者多个模型。
9.一种模型服务的更新装置,其特征在于,包括:
接收模块,用于通过管理中心接收业务请求,并对所述业务请求进行解析处理,得到请求标识,其中,所述请求标识用于指示所述业务请求对应的会话;
确定模块,用于使用一致性哈希算法,根据所述请求标识确定所述会话对应的模型服务;
发送模块,用于通过第一通道将属于同一个所述会话的多个业务请求发送到所述模型服务,其中,每个业务请求均包括音频流片段;
更新模块,用于将多个音频流片段组成完整音频流,使用所述完整音频流更新所述模型服务。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至8中任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于京东科技信息技术有限公司,未经京东科技信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111081195.3/1.html,转载请声明来源钻瓜专利网。