贝叶斯网络中 Kullback-Leibler 散度的计算,Entropy

link之家

链接快照平台

输入网页链接，自动生成快照
标签化管理网页链接

相关文章推荐

开朗的野马 · OptiXstar ...· 1 年前 ·

怕老婆的铅笔 · 2023年江苏省苏州市木渎高级中学自主招生简章· 1 年前 ·

高大的红薯 · 关于2的补码 - 阮一峰的网络日志· 1 年前 ·

小眼睛的皮带 · PolarDB处理TPC-H查询有哪些挑战和 ...· 2 年前 ·

冷静的米饭 · QWinWidget下载地址 - CSDN文库· 2 年前 ·

Kullback-Leibler 散度

钾 升 (磷, q)

是当我们有一个与概率分布 q 近似的真实概率分布 p 时的标准误差度量 . 它的高效计算在许多任务中都是必不可少的，例如在近似计算中或作为学习概率时的误差度量。在高维概率中，作为与贝叶斯网络相关的概率，直接计算可能是不可行的。本文考虑了有效计算两个概率分布的 Kullback-Leibler 散度的情况，每个分布都来自不同的贝叶斯网络，这些网络可能具有不同的结构。该论文基于辅助删除算法来计算必要的边缘分布，但使用具有潜力的操作缓存，以便在需要时重用过去的计算。这些算法使用来自 bnlearn 存储库的贝叶斯网络进行测试。 Python 中的计算机代码以 pgmpy 为基础提供，这是一个用于处理概率图形模型的库。 Kullback–Leibler divergence

K L (p, q)

is the standard measure of error when we have a true probability distribution p which is approximate with probability distribution q . Its efficient computation is essential in many tasks, as in approximate computation or as a measure of error when learning a probability. In high dimensional probabilities, as the ones associated with Bayesian networks, a direct computation can be unfeasible. This paper considers the case of efficiently computing the Kullback–Leibler divergence of two probability distributions, each one of them coming from a different Bayesian network, which might have different structures. The paper is based on an auxiliary deletion algorithm to compute the necessary marginal distributions, but using a cache of operations with potentials in order to reuse past computations whenever they are necessary. The algorithms are tested with Bayesian networks from the bnlearn repository. Computer code in Python is provided taking as basis pgmpy , a library for working with probabilistic graphical models.