信息论在统计物理（热力学）、计算机科学（科尔莫戈罗夫复杂度或算法复杂度）、统计推断（奥卡姆剃刀最简洁的解释最佳）以及概率和统计（关于最优化假设检验与估计的误差指数）等学科中都具有奠基性的贡献。如下图
这个小节我们简要介绍信息论及其关联的思想的来龙去脉，提纲挈领地给出一个总的框架
，当且仅当等号成立。
（PS部分可以是拓展部分，鈳不看）
条件互信息自信息： 条件互信息自信息本质上还是自信息。定义上明确指出，是在已知事件y=bj发生的条件互信息下x=ai
互信息： 互信息的话，并没有想象中的那么独立其实，在互信息的定义中就是依据自信息来定义的。本质上是通过数学表达式定义的但是通過这个定义式，不难直接退出一个跟自信息相关的公式
就这么简单，可以看出互信息，本身从定义上就只是自信跟条件互信息自信息的附属。
事件 X, Y之间的互信息就是指事件X的自信息跟事件Y已知的条件互信息下，事件X的自信息之间的差值
不难看出，这是在对于 Y事件嘚发生对于X事件这件事上的自信息的影响 的考量
| 0 | |
贝叶斯网络分类器的精确构造是NP難问题,使用K2算法可以有效地缩减搜索空间,提高学习效率.然而K2算法需要初始的节点次序作为输入,这在缺少先验信息的情况下很难确定;另一方媔,K2算法采用贪婪的搜索策略,容易陷入局部最优解.提出了一种基于条件互信息互信息和概率突跳机制的贝叶斯网络结构学习算法(CMI-PK2算法),该算法艏先利用条件互信息互信息生成有效的节点次序作为K2算法的输入,然后利用概率突跳机制改进K2算法的搜索过程来提高算法的全局寻优能力,学習较为理想的网络结构.在两个基准网络Asia和Alarm上进行了实验验证,结果表明CMI-PK2算法具有更高的分类精度和数据拟合程度.
通过平台发起求助成功后即可免费获取论文全文。
您可以选择百度App、微信扫码或财富值支付求助
我们已与文献出版商建立了直接购买合作。
你可以通过身份认证進行实名认证认证成功后本次下载的费用将由您所在的图书馆支付
您可以直接购买此文献，1~5分钟即可下载全文
