[发明专利]数据标记方法及装置、智能问答方法及系统有效
申请号: | 201710861110.0 | 申请日: | 2017-09-21 |
公开(公告)号: | CN110019703B | 公开(公告)日: | 2022-09-30 |
发明(设计)人: | 张雨洵 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F16/35;G06F16/951;G06N3/08 |
代理公司: | 北京三友知识产权代理有限公司 11127 | 代理人: | 李辉 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 标记 方法 装置 智能 问答 系统 | ||
本申请实施例公开了数据标记方法及装置、智能问答方法及系统,该数据标记方法包括:依据预先设置的关键词从原始数据中提取出待标记数据;采用基于密度的聚类算法对待标记数据进行聚类,得到聚类后的各聚类集;其中,聚类后的各聚类集与待标记数据的大小比值不大于预设大小比值;获取对各聚类集进行人工标记的标记结果;依据标记结果对待标记数据中还未标记的剩余数据进行标记。采用本申请实施例,不仅可以用更少的人力物力成本来实现人工标注,而且使得聚类集中的数据可以获得精确的标注结果。进一步的,对于待标注数据中剩余未被标记的数据,还可以依据对聚类集的人工标注结果进行标注,还能提高未被标注过的剩余数据的标注结果的精确度。
技术领域
本申请涉及互联网数据处理技术领域,特别涉及一种对互联网业务中的问句数据标记方法及装置,一种基于数据标记的智能问答方法及系统,一种基于数据标记的答案获取方法及客户端,以及,一种服务器。
背景技术
目前,很多公司都存在一定数量的工单,例如:对于互联网交易来说,用户会向客服提问,客服会针对客户的问题进行回复,而用户向客户提问可以理解为求助工单。这些工单对于产品的改进和自主服务机器人的训练都可以起到很重要的作用。但是,这些工单中原始数据的存在形式都是自然语言形式,因而无法被机器所使用,例如:工单中的原始数据无法直接作为机器学习的训练样本被使用。因此,需要对这些原始数据进行标注,从而生成机器可以使用的数据。
发明内容
发明人在研究过程中发现,在现有技术中,由于工单中的原始数据涉及到用户的隐私等,因此,一般都是通过技术人员对所有原始数据人工进行标注,这样不仅会耗费大量的人力和财力,而且标记效率和准确度都很低。
基于此,本申请提供了一种数据标记方法,用以采用基于密度的聚类算法,对原始数据进行聚类,得到大小小于原始数据的预设大小比值的聚类集,这类聚类集采用人工标注得到标注结果,从而利用聚类集的标注结果再对其他原始数据进行标记。因为人工标注的数据不需要覆盖全部原始数据,只需要对小于原始数据的预设大小比值的聚类集中的问句数据进行标记,从而减少了人力物力财力的消耗,也提高了标记数据的效率和准确度。
本申请还提供了一种数据标记装置,用以保证上述方法在实际中的实现及应用。
为了解决上述问题,本申请公开了一种数据标记方法,该方法包括:
依据预先设置的关键词从原始数据中提取出待标记数据;
采用基于密度的聚类算法对所述待标记数据进行聚类,得到聚类后的各聚类集;其中,聚类后的各聚类集与所述待标记数据的大小比值不大于预设大小比值;
获取对所述各聚类集进行人工标记的标记结果;
依据所述标记结果对所述待标记数据中还未标记的剩余数据进行标记。
其中,所述依据预先设置的关键词从原始数据中提取出待标记数据,包括:
从数据源获取原始数据,所述原始数据包括:用户标识、客服标识、各条原始数据的数据标识和各原始数据的内容;所述用户标识为提出问题的提问用户的标识,所述客服标识为回答问题的客服的标识;
按照预设的问句关键词,从所述原始数据中抽取出各提问用户的问句数据;
判断各问句数据的长度是否大于预设的长度阈值,如果是,则从大于所述长度阈值的各问句数据中,删除满足预设删除条件的问句数据,得到所述待标记数据;所述预设删除条件为:涉及用户的账号、密码和/或无意义的独立字符。
其中,所述删除满足预设删除条件的问句数据之后,还包括:
将各删除后的问句数据转化成相同维度的各问句向量,并将所述各问句向量作为所述待标记数据。
其中,所述采用基于密度的聚类算法对所述待标记数据进行聚类,得到聚类后的各聚类集,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710861110.0/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置