8.2 贝叶斯法则与分类器
贝叶斯分类基于如下贝叶斯定理
P(h|D)=
(8.2.1)
其中,D为训练数据;h∈H,而H为候选假设集合;P(h|D)称为h的后验概率(posterior probability),因为它反映了在看到训练数据D后h成立的置信度;P(h)称为h的先验概率(prior probability),它反映了关于h是一正确假设的机会的背景知识;P(D)代表将要观察的训练数据D的先验概率;P(D|h)代表假设h成立的情形下观察到数据D的概率。贝叶斯定理是贝叶斯学习方法的基础,因为它提供了从先验概率P(h)、P(D) 以及P(D|h)计算后验概率P(h|D)的方法。
对于候选的假设h∈H,具有最大可能性的假设称为极大后验(maximum a posteriori,MAP)假设
hMAP≡
=
(8.2.2)
=P(D|h)P(h)
注意,在最后一步我们去掉了P(D),因为 ...... (共1646字) [阅读本文]>>