[发明专利]一种基于知识发现的技术竞争及专利预警分析方法

权利要求书

1.一种基于知识发现的技术竞争及专利预警分析方法，其特征在于，具体步骤包括:

步骤1数据提取阶段，建立专题数据库，对知识产权数据库和产业领域知识进行抽取分析，得到专利专题数据库。

步骤2数据预处理阶段，其步骤包括：

采用向量空间模型(VSM),基本思想是将特征词从专利文件中抽取出来，不考虑专利文件结构和词序语义。首先提取专利的标题和摘要,再进行中文分词、词性标注、合并同义词、去停用词。专利文件由特征词组成的一个特征向量表示，记作V_i＝(d_i1,d_i2,...,d_im)，其中d_i1表示第一个特征词在专利文件i中的权重。对于n个专利文件，形成一个m×n专利特征矩阵D,D＝[d_ij]_m×n。由于专利文本和特征词数量大，而在某个确定的专利文件中出现的特征词有限，所以这里d_ij的计算采用TF-IDF方法，其中f_ij表示第i个特征词出现在第j个专利文件中的频度，p_i表示含有第i个特征词的专利文件数量。

$d_{ij}=\frac{f_{ij}\×{\log }_2(n/p_i+0.01)}{\sqrt{\underset{j=1}{\overset{m}{\Σ}}{(f_{ij}\×{\log }_2(n/p_i+0.01\left)\right)}^2}}$

步骤3数据挖掘阶段：对形成的专利特征矩阵，应用SOM神经网络方法和GMM混合高斯模型相结合的方法进行聚类，得到聚类结果，聚类得到的专利集合对应着不同主题的专利文件。

步骤3.1对专利向量文本进行SOM自组织学习训练，得到输出结点向量集Y。SOM神经网络，将高维向量映射为低维向量时保持向量内部拓扑结构不变的特性，将高维的专利文本数据映射到二维平面空间。

SOM神经网络模型由输入层和输出层组成，输出层即竞争层。输入层神经元个数对应专利文件的维度即特征词数量m,输出层神经元个数这里定义为a，这里将竞争层神经元排列成二维阵列形式。输入与输出层为全连接，输出层之间为侧向交互连接以相互作用。SOM模型实现步骤为五步：初始化，竞争层神经元相互竞争，竞争层神经元相互合作，神经元权值自适应，迭代直至收敛。

(1)初始化：输入与输出层为全连接，需要对每个突触赋初始权值，通常选择[0,1]内的小随机数，以实现无监督映射，得到权值矩阵W＝[w_ij]_m×a。

(2)竞争层神经元相互竞争：对于输入向量Vi,竞争层神经元根据判别函数产生获胜神经元。这里设置判别函数为余弦相似度度量函数，对于竞争层神经元b,相似度Sb为:

$s_b=\frac{\underset{j=1}{\overset{m}{\Σ}}{V}_j\×w_{bj}}{\sqrt{\underset{j=1}{\overset{m}{\Σ}}{\left(V_j\right)}^2\×\underset{j=1}{\overset{m}{\Σ}}{\left(w_{bj}\right)}^2}}$

计算得S＝[s1,...,sa],选取S中最小值，其对应的即为获胜神经元。

(3)竞争层神经元相互合作：获胜神经元邻近的神经元容易被激活，所以需要定义激活的领域范围，μ表示被激活的神经元，i表示获胜神经元，σ表示邻域宽度(随时间增加而减小)，τ1是时间常数，t是离散时间变量(0,1,2，...)。邻域公式定义如下：

${\mathrm{\δ}}_{\mathrm{\μ},i}=\exp (-\frac{s_{\mathrm{\μ},i}}{2{\mathrm{\σ}}^2\left(t\right)}),\mathrm{\σ}\left(t\right)={\mathrm{\σ}}_0\exp (-\frac{t}{\mathrm{\τ}1})$

(4)神经元权值自适应：η(t)表示学习率参数(随时间t增加而减小)，η0为初始值，τ2是时间常数。权值向量W的更新公式定义如下：

w_j(t+1)＝w_j(t)+η(t)δ_μ,i(x(t)-w_j(t)),

(5)迭代直至收敛:不断选取新的专利特征向量重复以上步骤，迭代训练直至达到指定迭代次数或者输出的二维映射趋于稳定。最后得到输出层为保持高维内部拓扑结构的二维平面上的n个点X(x_i,y_i)，具有低维可视化性能。

步骤3.2用GMM混合高斯模型对X进行直接聚类，将其划分为K类。GMM模型实现步骤为四步：初始化GMM模型，E步求数据点由各个高斯成分生成的概率，M步更新GMM模型参数，迭代直至收敛。

(1)初始化GMM模型：有n个样本点，划分为K类。则GMM模型由K个高斯分布组成，每一个高斯分布称为一个高斯成分，由他们线性组合成GMM混合模型，这里μ_k为均值向量初始化零，∑_k为协方差向量初始化为一个任意大的正数乘以单位矩阵，π_k初始化为1/n,概率密度函数和最大似然函数公式如下：

$p\left(x\right)=\underset{k=1}{\overset{K}{\Σ}}p\left(k\right)p\left(x\right|k)=\underset{k=1}{\overset{K}{\Σ}}{\mathrm{\π}}_{k}N\left(x\right|{\mathrm{\μ}}_k,{\mathrm{\Σ}}_k)$

$\underset{i=1}{\overset{n}{\Σ}}\log \left\{\underset{k=1}{\overset{K}{\Σ}}{\mathrm{\π}}_{k}N\left(x\right|{\mathrm{\μ}}_k,{\mathrm{\Σ}}_k)\right\}$

(2)E步已知μ_k，∑_k，π_k，求样本点由各个高斯成分生成的概率：

$\mathrm{\γ}(i,k)=\frac{{\mathrm{\π}}_{k}N\left(x_i\right|{\mathrm{\μ}}_k,{\mathrm{\Σ}}_k)}{\underset{j=1}{\overset{K}{\Σ}}{\mathrm{\π}}_{j}N\left(x_i\right|{\mathrm{\μ}}_j,{\mathrm{\Σ}}_j)}$

(3)M步已知γ(i,k)，更新GMM模型参数：

${\mathrm{\μ}}_k=\frac{1}{N_k}\underset{i=1}{\overset{n}{\Σ}}\mathrm{\γ}(i,k)x_i,{\mathrm{\Σ}}_k=\frac{1}{N_k}\underset{i=1}{\overset{n}{\Σ}}\mathrm{\γ}(i,k)(x_i-{\mathrm{\μ}}_k){(x_i-{\mathrm{\μ}}_k)}^T$

$N_k=\underset{i=1}{\overset{n}{\Σ}}\mathrm{\γ}(i,k),{\mathrm{\π}}_k=\frac{N_k}{n}$

(4)迭代(2)(3)步骤，至最大似然函数收敛或者达到最大收敛次数。GMM最终得到每个样本点被分到所有类别的概率，选取概率最大的作为其分类k。

步骤4结果解释分析阶段，对聚类之后的专利进行分析，每一类专利代表着不同的主题，专利主题内部相似度高。具体包括：专利预警、专利主题战略坐标分析、专利主题生命周期分析。专利预警：用户设定参数，具体有检索式、待预警的文件、接收预警的联系方式、预警阈值。待预警的文件：是企业的研发或者产品技术特征说明书；被检专利即通过检索式在对知识产权数据库和产业领域知识库中检索到的已公开专利和文献。