後驗概率

「posterior probability」的各地常用名稱
「posterior probability」的各地常用名稱
中國大陸	後驗概率
臺灣	事後機率
港澳	後驗概率
日本、韓國漢字	事後確率

在貝氏統計中，一個隨機事件或者一個不確定事件的後驗概率（Posterior probability）是在考慮和給出相關證據或數據後所得到的條件概率。同樣，後驗概率分佈是一個未知量（視為隨機變量）基於試驗和調查後得到的概率分佈。「後驗」在本文中代表考慮了被測試事件的相關證據。

定義

後驗概率是在給定證據 $X$ 後，參數 $\theta$ 的概率： $p(\theta |X)$ 。

與似然函數相對，其為在給定了參數 $\theta$ 後，證據 $X$ 的概率： $p(X|\theta )$ 。

兩者有以下聯繫：

首先定義先驗概率服從以下概率分佈函數， $p(\theta )$ ，則樣本 $x$ 的似然性為 $p(x|\theta )$ ，那麼後驗概率可以定義為

p(\theta |x)={\frac {p(x|\theta )p(\theta )}{p(x)}}

^[1]

此處 $p(x)$ 為標準化常數，對於連續的 $\theta$ ，按如下方法計算

$p(x)=\int p(x|\theta )p(\theta )d\theta$

對於離散的 $\theta$ ，應對所有可能的 $\theta$ 取值求和 $p(x|\theta )p(\theta )$ 。

因此，後驗概率與似然性和先驗概率的乘積是成比例的。

假設一個學校裏有60％男生和40%女生。女生穿褲子的人數和穿裙子的人數相等，所有男生穿褲子。一個人在遠處隨機看到了一個穿褲子的學生。那麼這個學生是女生的概率是多少？

使用貝氏定理，事件A是看到女生，事件B是看到一個穿褲子的學生。我們所要計算的是P(A|B)。

P(A)是忽略其它因素，看到女生的概率，在這裏是40%

P(A')是忽略其它因素，看到不是女生（即看到男生）的概率，在這裏是60%

P(B|A)是女生穿褲子的概率，在這裏是50%

P(B|A')是男生穿褲子的概率，在這裏是100%

P(B)是忽略其它因素，學生穿褲子的概率，P(B) = P(B|A)P(A) + P(B|A')P(A')，在這裏是0.5×0.4 + 1×0.6 = 0.8.

根據貝氏定理，我們計算出後驗概率P(A|B)

P(A|B)={\frac {P(B|A)P(A)}{P(B)}}={\frac {0.5\times 0.4}{0.8}}=0.25

。

可見，後驗概率實際上就是條件概率。

根據貝氏定理，一個隨機變量在給定另一隨機變量值之後的後驗概率分佈可以通過先驗概率分佈與似然函數相乘並除以歸一化常數求得

f_{X\mid Y=y}(x)={f_{X}(x)L_{X\mid Y=y}(x) \over {\int _{-\infty }^{\infty }f_{X}(u)L_{X\mid Y=y}(u)\,du}}

上式為給出了隨機變量 $X$ 在給定數據 $Y=y$ 後的後驗概率分佈函數，式中

後驗概率是考慮了一系列隨機觀測數據的條件概率。對於一個隨機變量來說，量化其不確定性非常重要。其中一個實現方法便是提供其後驗概率的置信區間。