[发明专利]基于卷积神经网络的药化实体识别方法及系统在审
申请号: | 201811511754.8 | 申请日: | 2018-12-11 |
公开(公告)号: | CN109815478A | 公开(公告)日: | 2019-05-28 |
发明(设计)人: | 张亮仁;杨波;刘振明;胡建星;宗晓琳 | 申请(专利权)人: | 北京大学 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G16H50/70;G16H70/40;G06N3/04;G06N3/08 |
代理公司: | 北京君尚知识产权代理事务所(普通合伙) 11200 | 代理人: | 邱晓锋 |
地址: | 100871 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 卷积神经网络 药化 分类识别 实体词识别 并行计算 仿射变换 全局特征 人工设计 人为设计 实体识别 特征表示 文本内容 解码 词向量 词转换 自动地 省略 降维 卷积 解析 输出 分类 概率 学习 | ||
1.一种基于卷积神经网络的药化实体词识别方法,其特征在于,包括以下步骤:
(1)采用词向量训练算法将待识别药化实体的文献中的每一个词转换成向量形式,得到词向量;
(2)对文献中的每个词进行解析,通过字符级卷积神经网络提取每个词的字符级特征,将提取的字符级特征与词向量拼接组成词级扩张卷积神经网络的输入;
(3)通过词级扩张卷积神经网络识别文献中的药化实体词,包括叠加不同扩张卷积提取全局特征的过程;
(4)通过解码层计算词级扩张卷积神经网络的输出的仿射变换,进而计算药化实体词属于某一分类的概率。
2.根据权利要求1所述的方法,其特征在于,步骤(2)所述字符级卷积神经网络的输入是字符向量层,将字符序列转换为向量化形式的字符向量,输出是捕获文本内容中字符向量的组合语义特征并压缩这些信息到输出向量。
3.根据权利要求2所述的方法,其特征在于,步骤(2)将各个词的每一个字符与预先形成的字典即预定义字典的索引相关联,预定义字典是一个随机初始化而成的低维的实数向量组,每一向量对应一个字符,称为字符向量;字符向量作为字符级卷积神经网络的输入,通过卷积、池化过程提取每个药化实体词特有特征向量作为字符级卷积层输出。
4.根据权利要求1所述的方法,其特征在于,步骤(3)通过叠加的扩张卷积神经网络获得文本内容中词向量的全局特征并压缩这些信息到输出向量。
5.根据权利要求1所述的方法,其特征在于,步骤(4)中最终药化实体的分类结果通过仿射变换然后利用softmax函数产生类别的概率分布,并在softmax层采用“dropout”作为正则化的方法防止过拟合。
6.根据权利要求1所述的方法,其特征在于,所述字符级卷积神经网络包括:卷积层,用于捕获文本内容中字符向量的组合语义特征并压缩这些信息到特征图;池化层,用于采用池化函数降低每个特征图的维度和待估计的参数。
7.根据权利要求6所述的方法,其特征在于,所述池化层为最大池化层。
8.根据权利要求1所述的方法,其特征在于,所述词级扩张卷积神经网络包括:不同扩张卷积层,用于捕获文本内容中组合向量的全局特征并组合这些信息到一起形成该层输出向量。
9.一种基于卷积神经网络的药化实体识别系统,其特征在于,包括:
药化文献内容提取模块,用于提取药化文献中的文本内容,并将文本内容进行分句、分词处理;
药化文献内容解析模块,用于对文本内容进行解析,通过开源词向量训练算法将文本内容中的词转换为二进制词向量化的形式;
药化实体词识别模块,用于通过字符级卷积神经网络对文本内容中的字符向量进行卷积、池化、提取局部特征,并通过词级扩张卷积神经网络对整句词向量提取全局特征,实现对药化实体词的识别;
分类模块,用于通过解码层计算词级扩张卷积神经网络的输出的仿射变换,进而计算药化实体词属于某一分类的概率。
10.根据权利要求9所述的系统,其特征在于,所述药化文献内容解析模块还负责将各个词的每一个字符与预先形成的字典即预定义字典的索引相关联,预定义字典是一个随机初始化而成的低维的实数向量组,每一向量对应一个字符,称为字符向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京大学,未经北京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811511754.8/1.html,转载请声明来源钻瓜专利网。