[发明专利]NLP模型训练发布识别系统

权利要求书

1.NLP模型训练发布识别系统，其特征是，所述系统包括：

至少两台GPU服务器，所述GPU服务器用于机器学习计算；

NLP识别模型，所述NLP识别模型为业务文本语料进行算法拟合后获得的用于启动NLP语意识别服务的模型文件；

NLP语意识别服务进程，所述NLP语意识别服务进程为以业务文本语料训练完成后的NLP识别模型文件为基础、用于对外提供NLP语意识别服务的服务器系统进程；

至少一个NLP网关，所述NLP网关用于将业务方调用的请求根据预设规则进行路由转发到已经启动成功正在对外提供NLP语意识服务进程所在的服务器上，并由对应的NLP语意识别服务提供识别服务；

至少两台GPU服务器资源调度指令执行器，所述GPU服务器资源调度指令执行器用于执行资源调度中心模块发起的调度指令；

至少一个资源调度中心模块，所述资源调度中心模块用于NLP识别模型的训练、NLP识别模型发布以及NLP识别模型与业务数据关系的同步变更过程中产生以下操作指令和编排模式，包括：训练指令、服务启动指令、服务关停指令以及关系同步指令；训练编排模式、模型发布编排模式、模型关停编排模式以及关系同步模式；

训练指令产生于训练编排模式中，由资源调度中心模块对NLP识别模型训练进行分配GPU服务器后，调用对应GPU服务器资源调度指令执行器，进行模型训练；

服务启动指令以及服务关停指令用于模型发布编排模式，资源调度中心模块根据单次调度请求发布的方式，生成GPU服务器上进程维度的服务启动指令或者服务关停指令，对具体GPU服务器上的NLP语意识别服务进程进行启动或关停操作，其中，服务关停指令也用于模型关停编排模式，用于关停GPU服务器上正在提供服务的进程；

关系同步指令产生于关系同步模式下，用于关停对应的NLP语意识别服务进程；

至少一个服务注册中心模块，所述服务注册中心模块用于NLP语意识别服务进程启停的同时将服务信息从注册中心记录以及删除，并用于NLP网关自发现服务进程。

2.根据权利要求1所述的NLP模型训练发布识别系统，其特征是，所述NLP网关通过服务注册中心模块动态发现已经可以对外提供服务的NLP语意识别服务进程。

3.根据权利要求1所述的NLP模型训练发布识别系统，其特征是，所述NLP语意识别服务进程依赖于NLP识别模型训练完成后的模型文件。

4.根据权利要求1所述的NLP模型训练发布识别系统，其特征是，所述资源调度中心模块对NLP语意识别服务进程关停包括：

生成NLP语意识别服务进程关停调度记录表，状态为创建；

根据请求关停调度的NLP语意识别服务进程的ip、port查询对应的NLP语意识别服务进程，状态以及NLP语意识别服务进程运行的业务概念上行业id；

当NLP语意识别服务进程处于运行状态时，抢占NLP语意识别服务进程的ip、port对应的GPU服务器资源操作锁；

根据查询到NLP语意识别服务进程运行的行业id、NLP语意识别服务进程的ip和NLP语意识别服务进程的port移除注册中心对应注册的NLP语意识别服务进程；

调用CPU服务器资源调度指令执行器执行关闭NLP语意识别服务进程的操作；

调用成功时，释放GPU服务器资源操作锁并更新关停调度记录状态为成功，标记NLP服务进程资源为空闲。

5.根据权利要求4所述的NLP模型训练发布识别系统，其特征是，所述资源调度中心模块对NLP语意识别服务进程关停还包括以下步骤：当调用CPU服务器资源调度指令执行器失败时，释放GPU服务器资源操作锁，并更新关停调度记录表状态为失败，附加失败原因。