[发明专利]基于Self-Attention机制的煤矿物资管理对话方法、系统及其一体机

说明书

本发明公开了基于Self‑Attention机制的煤矿物资管理对话方法、系统及其一体机，方法应用于服务器，服务器利用用户终端输入的问题和答案通过Self Attention机制建立模型，当服务器接收到用户终端发送的查询煤矿剩余物资的语音请求后，服务器将语音请求转化为文字请求，并将文字请求通过模型输出对应的查询答案发送给用户终端；本发明以企业现有的信息管理系统为依托，利用自注意力机制实现语音分析及意图识别，实现煤矿剩余物资的供应商查询、区队领用查询等信息的语音交互查询，提高了现有物资供应系统的智能化和管理效率，实现了信息共享，改变了效率低下的工作方式，改变了现有物资人工查询的繁琐操作方式，通过人机对话即可获得相关查询信息提高企业效益。

【技术领域】

本发明属于煤矿物资的智能管理领域领域，尤其涉及基于Self-Attention机制的煤矿物资管理对话方法、系统及其一体机。

【背景技术】

近年来，注意力(Attention)机制被广泛应用到基于深度学习的自然语言处理(NLP)各个任务中。Attention机制的本质来自于人类视觉注意力机制。人们视觉在感知东西的时候一般不会是一个场景从到头看到尾每次全部都看，而往往是根据需求观察注意特定的一部分。而且当人们发现一个场景经常在某部分出现自己想观察的东西时，人们会进行学习在将来再出现类似场景时把注意力放到该部分上。随着注意力机制的深入研究，各式各样的attention被研究者们提出。在2017年6月google机器翻译团队在arXiv上放出的《Attention is all you need》论文受到了大家广泛关注，自注意力(self-attention)机制开始成为神经网络attention的研究热点，在各个任务上也取得了不错的效果。

煤矿物资管理是一项庞大的系统工程，因其数目庞大、种类繁多、管理复杂、存储困难等多重特点，煤矿物资的使用管理一直是煤矿经营者的重点工作。特别是对物资管理人员来讲，各类煤矿物资在管理时，都进行了信息化建设，通过建设物资管理系统，以人工输入的方式从物资管理系统中查询物资的存储、种类、数量和使用情况非常繁琐，浪费物资管理人员时间的同时，影响物资使用效率，造成物资管理的各种浪费。

【发明内容】

本发明的目的是提供基于Self-Attention机制的煤矿物资管理对话方法、系统及其一体机，以解决现有物资供应系统中人工查询效率和管理效率低下、无法智能化并实现快速输出所需信息的问题。

本发明采用以下技术方案：基于Self-Attention机制的煤矿物资管理对话方法，方法应用于服务器，服务器利用用户终端输入的问题和答案通过SelfAttention机制建立模型，当服务器接收到用户终端发送的查询煤矿剩余物资的语音请求后，服务器将语音请求转化为文字请求，并将文字请求通过模型输出对应的查询答案发送给用户终端。

进一步地，其中Self-attention机制的对话模型的训练方法由以下步骤组成：

创建并存储每个煤矿剩余物资的多个问题q_m和每个煤矿剩余物资的答案y_n，其中，m≥n，且每个y_n都有对应的q_m，一个或多个q_m对应一个y_n；

将所有的q_m形成文件Q，将所有的y_n形成文件Y；

将文件Q中的每一个问题基于self-attention的卷积神经网络，得到每一个问题的答案预测值特征向量i，文件Q中的所有问题的答案预测值特征向量i的集合为I；

将文件Y中的每一个答案构建一个字典，按照每一个单词在字典中的顺序，得到该答案的特征编码向量r_i，文件Y中的所有答案的特征编码向量r_i的集合为r；

通过式(1)计算出集合I中的第i项的预测分布概率；