[发明专利]信息处理装置、信息处理方法和程序

说明书

技术领域

本技术涉及信息处理装置、信息处理方法和程序，更具体地，涉及能够在基于数据估计概率函数时，在没有设置参数等的情况下估计最佳概率函数的信息处理装置、信息处理方法和程序。

背景技术

存在使用通过学习预先给定数据所获得的分类规则，对随后获得的数据进行分类的已知技术。在这种技术中，估计数据背后的数据产生源的真实概率分布或者与该真实概率分布接近的概率分布。为了估计概率分布，已经研究了诸如混合高斯分布、隐马尔可夫模型和贝叶斯网络之类的许多模型。

发明内容

在1992年东京大学出版社出版的东京大学文理学院的统计课文“Scientific Statistics”中，当基于数据估计概率函数时，根据相对频率计算出概率函数。然而，在这种方法中，当数据量小时出现过多学习。因此，根据冗余的实验已经明显的是，这种估计不是具有鲁棒性的估计。

在C.P.Robert所著的“The Bayesian Choice:From Decision-Theoretic Foundations to Computational Implementation”，Springer-Verlag,New York,NY，第二版,2007中，公开了使用先验分布的贝叶斯（Bayesian）统计，其中将不是数据的分析者的先验信念(也称作先验频率或虚拟频率)添加至一频率。根据这种方法，可以避免过多的学习。然而，当分析者没有先验知识或需要进行客观的分析时，难以量化地设置客观的先验信念或客观的先验频率。

在S.Yang和K.C.Chang所著的“Comparison of Score Metrics for Bayesian Network Learning”，IEEE Transactions on Systems,Man,and Cybernetics Part A,Systems and Humans,Vol.32,No.3,页数419~428,2002中，公开了在多变量贝叶斯网络结构的干扰的方面推荐特定值的方法。然而，对于S.Yang和K.C.Chang所著的“Comparison of Score Metrics for Bayesian Network Learning”，IEEE Transactions on Systems,Man,and Cybernetics Part A,Systems and Humans,Vol.32,No.3,页数419~428,2002中推荐的值，不存在理论上的基础。进一步，由于没有充分地检查数据的各种集合，因此最佳性尚不清楚。

在这些参数中，在多变量的情况下存在理论的不一致。为此原因，推荐称作等效样本大小（ESS）的另一参数。根据T.Silander P.Kontkane和P.Myllymaki所著的“On sensitivity of the map Bayesian Network structure to the equivalent sample size parameter”，Proceedings of Conference on Uncertainty in Artificial Intelligence,页数360~367,2007，参数的最佳值对于数据的每个集合而言相当大地改变，并且优化是困难的。在H.Steck所著的“Learning the Bayesian Network structure:Dirichlet prior versus data”，Proceedings of Conference on Uncertainty in Artificial Intelligence,页数511~518,2008中建议了这种优化方法。H.Steck所著的“Learning the Bayesian Network structure:Dirichlet prior versus data”，Proceedings of Conference on Uncertainty in Artificial Intelligence,页数511~518,2008将称作BDeu的贝叶斯统计的方法与称作AIC的非贝叶斯统计的方法相组合，由此缺少理论的连贯性。然而，因为精度由于小的数据量而恶化，因此难以通过使用小的数据量来执行最佳估计。进一步，因为这种方法专于多变量网络结构的估计并且由此可能不能用于一般概率函数的估计，因此一般不使用这种方法。