[发明专利]轻量化语义智能服务适配训练演化方法及系统有效
申请号: | 202110334447.2 | 申请日: | 2021-03-29 |
公开(公告)号: | CN113094482B | 公开(公告)日: | 2023-10-17 |
发明(设计)人: | 张玉清;郭智宸;周长兵 | 申请(专利权)人: | 中国地质大学(北京) |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F40/30 |
代理公司: | 北京华清迪源知识产权代理有限公司 11577 | 代理人: | 杜立军 |
地址: | 100083*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请实施例公开了轻量化语义智能服务适配训练演化方法及系统,所述方法包括:对Generator模型进行遮罩语言模型MLM任务训练;将训练文本数据输入生成器Generator模块以生成伪造字;使用伪造文本对恢复器Restorer模块进行还原替换标记RTR任务训练;将所述伪造文本作为输入、原文本和被伪造的位置作为预测标签,输入所述恢复器Restorer模块,以使得所述Restorer模块还原文本中被替换的字,并对伪造文本中的伪造字进行识别;基于Dynamic self‑adjustment动态自适配方法对所述Restorer模块的识别结果进行监控和调整。一方面增强了预训练模型的语义理解能力,另一方面减少了微调阶段模型的计算量和参数,使模型能够在边缘设备上进行微调和分布式动态适应训练。 | ||
搜索关键词: | 量化 语义 智能 服务 训练 演化 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国地质大学(北京),未经中国地质大学(北京)许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110334447.2/,转载请声明来源钻瓜专利网。