概念界定

贝叶斯公式描述如何在观察到证据后更新某个假设的概率。它把先验、似然、证据和后验连接起来,是理解概率推断和不确定性更新的基础。

定义与记号

贝叶斯公式:

p(H | E) = p(E | H) p(H) / p(E)

其中:

  • H:假设。
  • E:观察到的证据。
  • p(H):先验概率。
  • p(E | H):似然。
  • p(H | E):后验概率。
  • p(E):证据概率或归一化常数。

直观解释

贝叶斯公式表达的是:看到新证据后,应该如何调整对某个假设的相信程度。如果某个证据在假设成立时更容易出现,那么观察到该证据后,这个假设的后验概率会上升。

示例

在分类任务中,可以把类别看作假设 Y,输入文本看作证据 X

p(Y | X) ∝ p(X | Y) p(Y)

现代神经网络通常不显式这样分解,但贝叶斯公式仍然是理解条件概率和概率推断的重要背景。

相关概念