[发明专利]资讯文本的获取方法、装置、电子设备及可读存储介质在审
申请号: | 202111177872.1 | 申请日: | 2021-10-09 |
公开(公告)号: | CN113869030A | 公开(公告)日: | 2021-12-31 |
发明(设计)人: | 邹俊逸 | 申请(专利权)人: | 广东博智林机器人有限公司 |
主分类号: | G06F40/205 | 分类号: | G06F40/205;G06F40/216;G06F40/14;G06F16/951;G06N3/04;G06N3/08 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 蒋姗 |
地址: | 528000 广东省佛山市顺德区北滘镇碧桂园社*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 资讯 文本 获取 方法 装置 电子设备 可读 存储 介质 | ||
1.一种资讯文本的获取方法,其特征在于,所述方法包括:
对获取到的HTML资讯页面进行解析,得到Dom树有向图结构;所述HTML资讯页包括多个HTML节点;
将所述Dom树有向图结构中的数据输入至预设的图神经网络深度学习模型,以使所述图神经网络深度学习模型预测每个HTML节点属于正文内容的概率,得到与多个HTML节点一一对应的多个预测概率;
获取与所述多个预测概率中前N个最大的指定概率一一对应的多个HTML指定节点;N为预设数;
获取与所述多个HTML指定节点对应的资讯正文文本。
2.根据权利要求1所述的资讯文本的获取方法,其特征在于,所述对获取到的HTML资讯页面进行解析,得到Dom树有向图结构的步骤包括:
对获取到的HTML资讯页面进行解析,得到Dom树;
对所述Dom树进行数据结构转化,得到Dom树有向图结构。
3.根据权利要求1所述的资讯文本的获取方法,其特征在于,所述获取与所述多个HTML指定节点对应的资讯正文文本的步骤包括:
获取所述多个HTML指定节点对应的最小公共父节点;
调取所述最小公共父节点下的字符内容,并标记所述字符内容为资讯正文文本。
4.根据权利要求1所述的资讯文本的获取方法,其特征在于,所述图神经网络深度学习模型预测每个HTML节点属于正文内容的概率,得到与多个HTML节点一一对应的多个预测概率的步骤包括:
所述图神经网络深度学习模型根据所述数据包括的所述多个HTML节点和所述多个HTML节点之间的相互连接信息,预测每个HTML节点属于正文内容的概率,得到与多个HTML节点一一对应的多个预测概率。
5.一种图神经网络深度学习模型的训练方法,用于权利要求1至4中任一项所述的资讯文本的获取方法中,其特征在于,所述方法包括:
根据3~6个叠加的图卷积层和1个全连接层,构建基于图神经网络的特征抽取模型;
获取与HTML训练页面对应的训练用Dom树有向图结构,并获取与HTML训练页面对应的标注数据集;
分割所述训练用Dom树有向图结构中的数据为训练集和测试集;所述训练集和所述测试集的数量比值为预设比值;
根据所述标注数据集、所述训练集和所述测试集对所述特征抽取模型进行训练,得到图神经网络深度学习模型;其中,
每一个图卷积层的结构为:
H(l+1)=D-1AH(l);
D用于表示所述训练用Dom树有向图结构包括的度信息矩阵;
A用于表示所述训练用Dom树有向图结构包括的边信息矩阵;
H(l)用于表示所述训练用Dom树有向图结构包括的节点信息;
l用于表示所述特征抽取模型中的第l层图卷积层;
H(l+1)用于表示经过特征抽取和变换得到的节点特征信息矩阵。
6.根据权利要求5所述的图神经网络深度学习模型的训练方法,其特征在于,所述获取与HTML训练页面对应的训练用Dom树有向图结构的步骤包括:
对所述预设浏览器对HTML训练页面进行渲染,并构建对应的Dom树;
将所述HTML训练页面中的html节点确定为根节点;
根据所述根节点和预设遍历规则进行遍历解析,得到所述根节点包括的多个子节点;
将所述根节点和所有子节点确定为多个HTML节点,记录每个HTML节点包括字符内容;
获取所述每个HTML节点的CSS属性值和所述每个HTML节点在预设个不同特征维度下的数值特征;
根据所述每个HTML节点在预设个不同特征维度下的数值特征生成训练用Dom树有向图结构;其中,所述Dom树的有向图结构包括由矩阵表示的节点信息、由矩阵表示的边信息以及由矩阵表示的度信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东博智林机器人有限公司,未经广东博智林机器人有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111177872.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种高强度粉体加固材料
- 下一篇:戈氏梭菌联合肿瘤血管生成抑制剂的应用