[发明专利]标注任务的处理方法、装置、电子设备及存储介质有效

专利信息
申请号: 202110518094.1 申请日: 2021-05-12
公开(公告)号: CN113255339B 公开(公告)日: 2023-09-19
发明(设计)人: 刘思彦;丁彧;张唯;陶凯伦;刘柏;范长杰;李仁杰;程龙;胡志鹏 申请(专利权)人: 网易(杭州)网络有限公司
主分类号: G06F40/258 分类号: G06F40/258;G06V40/16;G06Q30/0208;G06T7/00
代理公司: 北京超凡宏宇知识产权代理有限公司 11463 代理人: 钟扬飞
地址: 310052 浙江省杭州*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 标注 任务 处理 方法 装置 电子设备 存储 介质
【权利要求书】:

1.一种标注任务的处理方法,其特征在于,所述方法包括:

响应用户发起的标注任务接取请求,获取标注任务;所述标注任务为游戏任务形式,包括已分配真值标签的第一类型标注题和未分配标注标签的第二类型标注题;

向所述用户发送所述标注任务,以使所述用户针对所述标注任务进行标注操作;

接收所述用户发送的所述标注任务对应的标注结果;其中,所述标注结果包括:所述第一类型标注题对应的第一标注结果和所述第二类型标注题对应的第二标注结果;

根据预设的标注任务激励规则,向所述用户反馈所述标注任务的任务激励;

所述方法还包括:

获取预设任务周期内或指定数量的标注任务中的有效任务组成的任务集合;其中,所述有效任务为任务评价指标值超过阈值的标注任务;所述任务评价指标值基于所述第一类型标注题对应的已分配真值标签和第一标注结果确定;

根据任务集合中的每个所述有效任务中的第二类型标注题对应的第二标注结果,判断每个所述第二类型标注题是否达到预设的一致性要求;其中,所述一致性要求用于表征第二类型标注题的标注结果的可信度;可信度超过阈值的第二类型标注题达到预设的一致性要求;所述可信度为:在第二类型标注题的总标注结果数量超过阈值的情况下,具有相同标注标签的最大标注结果数量与所述总标注结果数量的比值;

将达到所述一致性要求的第二类型标注题添加至标注数据库中。

2.根据权利要求1所述的方法,其特征在于,所述标注任务激励规则包括:根据所述第一类型标注题对应的已分配真值标签和第一标注结果的异同情况确定所述任务激励。

3.根据权利要求1所述的方法,其特征在于,获取标注任务的步骤,包括:

从包含有第一类型标注题的第一标注题库中提取第一预设数量的第一类型标注题;

从包含有第二类型标注题的第二标注题库中提取第二预设数量的第二类型标注题;

根据提取到的所述第一类型标注题和所述第二类型标注题确定标注任务。

4.根据权利要求3所述的方法,其特征在于,所述第二标注题库采用以下方式生成:

获取图像集;

对所述图像集中的图像进行数据清洗操作;

根据数据清洗操作后的图像生成第二标注题库。

5.根据权利要求4所述的方法,其特征在于,根据数据清洗操作后的图像生成第二标注题库的步骤,包括:

提取每个所述数据清洗操作后的图像对应的特征值;

根据每个所述图像对应的特征值,计算两两图像间的相似度;所述相似度用于表征两个图像对应的特征距离;

根据所述两两图像间的相似度,生成多个三元组标注题;

将多个三元组标注题添加至第二标注题库。

6.根据权利要求1所述的方法,其特征在于,所述有效任务的确定过程如下:

根据所述第一类型标注题对应的已分配真值标签和第一标注结果,确定所述标注任务的任务评价指标值;所述任务评价指标值至少包括以下之一:标注正确率和任务得分;

判断所述任务评价指标值是否大于所述指标值对应的阈值;

如果是,确定所述标注任务为有效任务。

7.根据权利要求6所述的方法,其特征在于,根据所述第一类型标注题对应的已分配真值标签和第一标注结果,确定所述标注任务的任务评价指标值的步骤,包括:

统计所述第一类型标注题对应的第一标注结果中,与所述第一类型标注题对应的已分配真值标签一致的第一目标标注结果数量;

根据所述第一目标标注结果数量确定所述标注任务的任务评价指标值。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于网易(杭州)网络有限公司,未经网易(杭州)网络有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110518094.1/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top