[发明专利]数据标记方法及装置、智能问答方法及系统有效
申请号: | 201710861110.0 | 申请日: | 2017-09-21 |
公开(公告)号: | CN110019703B | 公开(公告)日: | 2022-09-30 |
发明(设计)人: | 张雨洵 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F16/35;G06F16/951;G06N3/08 |
代理公司: | 北京三友知识产权代理有限公司 11127 | 代理人: | 李辉 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 标记 方法 装置 智能 问答 系统 | ||
1.一种数据标记方法,其特征在于,应用于服务器上,该方法包括:
依据预先设置的关键词从原始数据中提取出待标记数据;
采用基于密度的聚类算法对所述待标记数据进行聚类,得到聚类后的各聚类集;其中,聚类后的各聚类集与所述待标记数据的大小比值不大于预设大小比值;
获取对所述各聚类集进行人工标记的标记结果;
依据所述标记结果对所述待标记数据中还未标记的剩余数据进行标记,
其中,所述采用基于密度的聚类算法对所述待标记数据进行聚类,得到聚类后的各聚类集的步骤包括:
设置基于密度的聚类算法的距离阈值和密度阈值,所述预设大小比值由所述距离阈值和所述密度阈值确定,所述距离阈值用于表示聚类后每一类聚类集中各待标记数据之间的最大距离,所述密度阈值用于表示:每一类聚类集中各待标记数据的总个数的最大值;以及
依据设置了距离阈值和密度阈值的聚类算法,对所述待标记数据进行聚类,得到聚类后的各聚类集。
2.根据权利要求1所述的方法,其特征在于,所述依据预先设置的关键词从原始数据中提取出待标记数据,包括:
从数据源获取原始数据,所述原始数据包括:用户标识、客服标识、各条原始数据的数据标识和各原始数据的内容;所述用户标识为提出问题的提问用户的标识,所述客服标识为回答问题的客服的标识;
按照预设的问句关键词,从所述原始数据中抽取出各提问用户的问句数据;
判断各问句数据的长度是否大于预设的长度阈值,如果是,则从大于所述长度阈值的各问句数据中,删除满足预设删除条件的问句数据,得到所述待标记数据;所述预设删除条件为:涉及用户的账号、密码和/或无意义的独立字符。
3.根据权利要求2所述的方法,其特征在于,所述删除满足预设删除条件的问句数据之后,还包括:
将各删除后的问句数据转化成相同维度的各问句向量,并将所述各问句向量作为所述待标记数据。
4.根据权利要求1所述的方法,其特征在于,所述依据所述标记结果对所述待标记数据中还未标记的剩余数据进行标记,包括:
依据所述标记结果训练数据标记模型,所述数据标记模型为递归神经网络模型,训练样本为:所述各聚类集中的各问句数据及每个问句所属的聚类集对应的各标记结果;
依据训练好的数据标记模型,对所述待标记数据中还未标记的剩余数据进行标记。
5.根据权利要求4所述的方法,其特征在于,所述依据所述训练好的数据标记模型,对所述待标记数据中还未标记的剩余数据进行标记,包括:
将待标记数据中还未标记的剩余数据作为所述数据标记模型的输入,获取所述数据标记模型输出的、各剩余数据关于标记结果的概率分布值;
判断各剩余数据的概率分布值是否大于预设概率阈值,如果是,则针对概率分布值大于预设概率阈值的剩余数据,直接依据该概率分布值对应的标记结果标记该剩余数据。
6.根据权利要求5所述的方法,其特征在于,还包括:
针对概率分布值小于或等于预设概率阈值的剩余数据,获取该剩余数据在输入所述数据标记模型后且输出概率分布值之前,对应的内部状态向量数据;
将所述内部状态向量数据作为待标记数据,执行所述采用基于密度的聚类算法对所述待标记数据进行聚类,得到聚类后的各聚类集的步骤,以便对所述内部状态向量数据进行标记。
7.一种基于根据权利要求1至6中的任一项所述的数据标记方法的智能问答方法,其特征在于,该方法应用于智能问答系统中的服务器上,所述服务器对应保存有:各个聚类集、标记结果和答案,所述标记结果表示一个聚类集归属的一类问题;该方法包括:
响应于客户端发送的、需要客服回答的待回答问句,基于密度的聚类算法对所述待回答问句进行聚类,得到所述待回答问句所属的目标聚类集;
将所述目标聚类集对应的标记结果,确定为所述待回答问句的目标标记结果;
将所述目标标记结果对应的答案确定为所述待回答问句的目标答案,并将所述目标答案发送至客户端以便显示。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710861110.0/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置