后验概率
定义
后验概率是在给定观测数据或证据的条件下，某个假设、参数或事件成立的概率，通常记作 $P(A|B)$ 或 $p(\theta|x)$[1]。其中 $A$ 或 $\theta$ 是待判断的对象，$B$ 或 $x$ 是已经观测到的数据[1]。它与先验概率相对：先验概率反映在收集数据之前对未知量的认识，后验概率则是补充数据之后更新过的认识[1]。
在随机变量的情形下，后验概率表现为一个分布，即后验分布，它给出未知参数在观测数据条件下的完整概率分布[2]。科普中国收录的资料指出，贝叶斯推断的关键在于任何推断都只依据后验分布，而不再涉及样本原本的分布[2]。
原理
后验概率由贝叶斯定理计算。对事件 $A$ 与 $B$，定理给出 $P(A|B) = \frac{P(B|A)P(A)}{P(B)}$，其中 $P(A)$ 是先验概率，$P(B|A)$ 是似然，$P(B)$ 起归一化作用[1]。由于分母不随 $A$ 变化，关系常简写为 $P(A|B) \propto P(B|A)P(A)$，即后验正比于似然与先验的乘积[1]。对连续参数则写作 $p(\theta|x) = \frac{p(\theta)p(x|\theta)}{\int p(\theta)p(x|\theta)\,d\theta}$，分母上的积分保证后验分布的积分为 1[1]。
把假设记作 $H$、数据记作 $D$，四类量的对应关系是：$p(H)$ 为先验概率，$p(D|H)$ 为似然，$p(H|D)$ 为后验概率，$p(D)$ 为预测概率[3]。当数据与假设相互独立时，观测不提供任何关于假设的信息，此时后验概率与先验概率相等[4]。
flowchart LR
A[先验概率 p(θ)] --> C{贝叶斯定理}
B[似然函数 p(x|θ)] --> C
C --> D[后验概率 p(θ|x)]
D --> E[作为新的先验]
E --> C
计算可以逐次进行：上一轮得到的后验分布可以直接充当下一轮的先验分布，新数据到来时无须重算全部历史[5]。取对数后，似然比的对数可以看作一份证据所携带的权重，支持假设的证据为正、反对的为负，多条证据的权重可以相加[6]。这种逐次更新只有在各次观测在给定假设下条件独立时才严格成立[6]。
发展历程
后验概率的思想源于 18 世纪对逆概率问题的研究。英国学者托马斯·贝叶斯(Thomas Bayes，1702—1761)最早得到相关结果，论文《机遇理论中一个问题的解》(An Essay towards solving a Problem in the Doctrine of Chances)于 1763 年发表，其时作者已经去世，并由其友人理查德·普莱斯整理补充[7]。该文研究的是在已知若干次成败试验结果后，未知成功概率 $p$ 的条件分布，用今天的语言即为参数的后验分布[8]。
1774 年，法国数学家皮埃尔-西蒙·拉普拉斯重新总结并推广了这些结果，把逆概率方法用于天文测量误差等问题，贝叶斯公式这一名称也由他确立[7]。20 世纪前半叶，以频率学派为主导的统计学家对先验分布的选取持保留态度，认为其过于主观，贝叶斯方法一度处于边缘地位[9]。
20 世纪后半叶，随着马尔可夫链蒙特卡洛等数值计算方法的发展，原本难以求解的后验积分得以近似计算，贝叶斯推断在统计学与应用领域重新获得重视[10]。此后贝叶斯公式衍生出朴素贝叶斯算法等一批机器学习方法[7]。
应用
在医学诊断中，后验概率用于把检验结果换算成患者实际患病的可能性。检验的阳性预测值与阴性预测值同时取决于检验的敏感度、特异度以及疾病在人群中的患病率，其中患病率即先验概率[11]。这种换算可以避免把检验准确率直接等同于患病概率[11]。
在可靠性工程中，先验失效概率与似然函数结合可得到后验失效概率，用于部件或系统的风险评估[1]。当先验取共轭分布时，例如先验为贝塔分布、数据为二项观测，后验仍属于同一分布族，计算大为简化[1]。
在统计学实践中，研究者先设定先验，再结合样本观测得到后验分布，然后从后验中提取点估计、可信区间或概率陈述，用来替代传统的显著性检验[12]。后验分布给出的是关于未知量的完整分布，因此可以直接回答参数落在某个区间的概率是多少[13]。
在自然语言处理与文本分类中，贝叶斯公式被用来由上下文词汇反推词义或词性标注，朴素贝叶斯算法即在此基础上加入上下文条件独立的假设[14]。在认知建模中，后验概率被用于刻画学习者如何根据少量样例对假设空间中的候选概念进行加权[15]。
在科学模型比较中，某模型的贝叶斯证据是其似然函数在参数先验下的积分，模型的后验概率与证据和模型先验的乘积成正比，两个模型证据之比称为贝叶斯因子[16]。
局限
后验概率依赖先验分布的选择，不同的人基于各自的背景知识可能给出不同的先验，从而得到不同的后验结果[4]。先验的设定带有主观性，这一点长期是频率学派批评贝叶斯方法的主要理由[15]。当先验信念缺乏可靠证据支撑时，它可能使后验结果几乎不随新数据改变[11]。
计算上的困难也构成限制。后验的归一化因子需要对整个参数空间求积分，在高维问题中难以直接计算，通常只能借助数值近似方法[10]。此外，在复合假设检验中，不仅需要指定假设成立与否的先验概率，还要指定假设不成立时参数的先验分布，后者难以客观确定[17]。
逐次更新后验的做法依赖条件独立假设。若假设对观测只起间接影响，或某一命题混合了多个互斥情形，这一假设便不成立，简单相乘的更新方式随之失效[6]。
参见
参考资料
- Posterior Probability - Chapters and Articles [引用日期2026-10-14]
- [科普中国]-后验分布 [引用日期2026-10-14]
- eth-23250-02(PDF) [引用日期2026-10-14]
- High_Energy_Physics_Proc_web(PDF) [引用日期2026-10-14]
- \[P(J\mid W)=\frac{P(W\mid J)P(J)}{P(W)}\] [引用日期2026-10-14]
- Positive Weight - P(H|e)=P(e|H)P(H)P(e), [引用日期2026-10-14]
- 贝叶斯公式 [引用日期2026-10-14]
- epfl.ch 上的网页 [引用日期2026-10-14]
- 2026UPSLD003(PDF) [引用日期2026-10-14]
- arxiv.org 上的网页 [引用日期2026-10-14]
- Clinical medicine and the legacy of the reverend Bayes [引用日期2026-10-14]
- bayes-factor [引用日期2026-10-14]
- S1438887118003746 [引用日期2026-10-14]
- Bayes' Rule - Chapters and Articles [引用日期2026-10-14]
- arxiv.org 上的网页 [引用日期2026-10-14]
- HDR_martino_preliminary2(PDF) [引用日期2026-10-14]
- For the special case of simple vs [引用日期2026-10-14]