[发明专利]结合预训练模型及模板生成的气象服务交互方法及系统

说明书

本发明公开了一种结合预训练模型及模板生成的气象服务交互方法及系统，首先通过模板结合网络爬取的数据生成训练数据集，之后通过预训练模型识别用户问题中气象服务实体，并基于词向量的文本相似度将识别的实体链接至气象图谱，确定用户问题中的服务场景，进而查询面向场景的气象服务数据库中与该场景相关的建议组，并依据气象建议与用户问题的语义相似度，选择合适的气象建议填回模板，生成气象服务语句返回给用户。本发明提供的气象服务交互系统可以为用户提供个性化的场景服务，并生成灵活多样化的服务语句。

技术领域

本发明属于人工智能技术领域，具体涉及一种结合预训练模型及模板生成的气象服务交互系统。

背景技术

随着移动互联网的发展，人们可以便捷地从各类网站和应用上获取到有关气象的种种服务，进而规划之后的出行、居家等各项安排，极大地提高了人们的生活品质。但是，现阶段的气象服务往往只能为用户提供简单、通用的服务内容，不能满足用户的精细化场景服务需求，且无法对用户的自主提问进行回答。另一方面，随着人们物质精神生活的不断发展，新的气象服务场景层出不穷。然而，现阶段的气象服务内容依赖专家人工编辑，一旦出现新的气象服务场景，均需要专业人员重新设计服务语句，十分耗时耗力。因此，传统气象服务一是无法满足不同用户定制个性化气象服务场景的需求，二是无法实现气象服务的自动化编辑。从现实生活来看，设计一种能为用户提供个性化气象场景服务，且能自动更新服务语句的交互系统十分必要。

现有的交互问答系统主要分为两类。第一类模型依赖于槽填充的方式寻找问题的答案，如用于订餐或机票预订的交互问答系统。这种系统依赖于专业人员设计的一系列模板和规则完成回答，可以为用户提供语法完整、功能精确的服务。如果出现新场景，需要专业人员编写新的规则。第二类模型依靠问题和回答之间的语义相关性生成回答内容，即使用户的问题不在预先定义的数据集中，模型往往也能输出满意的答案。然而，在气象服务中，用户的问题和系统需要提供的回答的语义相关性难以体现，如下雨天提醒交互的用户带伞，及时收衣服等。此外，此类模型的语法往往存在一些微小错误(如容易生成重复内容下雨雨天注意保暖)。由此可知，设计一种可以结合两类模型优点的交互问答模型十分重要。

发明内容

本发明提供了一种结合预训练模型及模板生成的气象服务交互方法及系统，帮助用户获得个性化定制的气象服务。

本发明的方法所采用的技术方案是：一种结合预训练模型及模板生成的气象服务交互方法，包括以下步骤：

步骤1：编写气象服务问答模板，使用预定义的服务用户实例、天气类别实例、事件实例及建议实例，填入模板，生成训练数据集；

步骤2：使用基于预训练模型的CRF实体识别模型完成对用户问题的实体识别，包括问题中涉及的用户、天气及事件类别；

步骤3：使用词向量关联步骤2中识别的实体关联至气象服务气象图谱；

步骤4：根据步骤3中的关联后的实体，查询整理中国气象网气象服务相关文章形成的数据库，确定用户问题中涉及的具体气象服务场景，并根据气象服务场景组成元素选择适用的具体建议组，生成候选建议集；

步骤5：使用文本相似性结合随机扰动对候选建议集排序；

步骤6：根据步骤3关联的实体以及步骤4确定的气象服务场景，选择合适的回答模板，根据步骤5中排序，依次将候选建议填入模板，生成最终答案，传送给用户。

作为优选，步骤1中，采用专家法为气象服务交互问答编写模板，所述模板包括用户、天气、事件及建议类占位符；并通过替换模板中的用户、天气、事件及建议类占位符为具体实例，生成适用于气象服务交互问答的训练数据集。

作为优选，步骤2中，使用步骤1中生成的训练数据集对预训练模型结合 BCE损失函数进行微调，获得训练好的基于气象服务问答数据微调的预训练结合CRF的实体识别模型。