[发明专利]一种结构化数据的自适应关系建模方法

摘要

本发明涉及一种结构化数据的自适应关系建模方法，属于人工智能预测技术领域。使用K×o个指数神经元建模结构化数据属性间的特征交互关系，K为注意头的个数，o为每个注意头的指数神经元数目；每个注意头的所有指数神经元共享双线性注意函数权重矩阵Watt；每个注意头的第i个指数神经元yi表示为动态特征交互权重wi由公式wi＝zi⊙vi给出，zi作为门，通过双线性注意对齐得分动态生成，表示为α‑entmax(·)为稀疏softmax，稀疏性随α的增大而增大。对比现有技术，本发明无需输入必须为正，提升了交叉特征建模的有效性；遵循白盒设计，建模过程更加透明；根据输入数据动态并有选择性地建模任意阶的交叉特征，提升了准确性和效率；通过注意权值及门控机制提升了模型全局/局部可解释性。