條件獨立

機率論統計學中,兩事件RB 在給定的另一事件Y 發生時條件獨立,類似於統計獨立性,就是指當事件Y 發生時,R 發生與否和B 發生與否就條件機率分布而言是獨立的。換句話講,RB 在給定Y 發生時條件獨立,若且唯若已知Y 發生時,知道R 發生與否無助於知道B 發生與否,同樣知道B 發生與否也無助於知道R 發生與否。

定義

 
兩個說明條件獨立的例子。每個小方格都表示一種等機率的可能結果。事件RBY分別用紅色、藍色、黃色陰影部分表示。事件RB的重疊部分用紫色表示。這些事件發生的機率等於相應陰影部分面積和圖形總面積的比值。在這兩個例子中,事件RB在給定Y時都是條件獨立的,這是因為  [註 1]
但給定Y不發生時,它們不是條件獨立的,這是因為 :  

RB在給定Y發生時條件獨立,用機率論的標準記號表示為

 

也可以等價地表示為

 

因為當事件Y發生時,R發生與否和B發生與否就條件機率分布而言是獨立的。

兩個隨機變數XY在給定第三個隨機變數Z的情況下條件獨立若且唯若它們在給定Z時的條件機率分布互相獨立,也就是說,給定Z的任一值,X的機率分布和Y的值無關,Y的機率分布也和X的值無關。

法則

從基本定義可導出一套描述條件獨立的重要法則。[1][2]

因這些推論在任何機率空間中都成立,因此也對所有變量關於另一變量的條件機率分布成立,只需考慮相應子空間即可。譬如說 也就意味著 

註:位於算式下方的逗號意為「和」。

對稱性

 

分解

 

證明:

  •        ( 的定義)
  •        (對B積分以消去B)
  •       

同理可證XB條件獨立。

微弱的聯合

 

證明:

  • 藉由定義 
  • 由於分解的屬性 ,  
  • 結合兩個等式得 ,其中確認  第二個條件可以類似地被證明。

註釋

  1. ^ 這個等式證明如下:Pr(RB | Y)是RBY中的重合部分(用紫色表示)面積占Y面積的比值。左圖中,有兩個RB重合的方格位於Y內,而Y有12個方格,所以Pr(RB | Y) = 2/12 = 1/6。同理,Pr(R | Y) = 4/12 = 1/3,Pr(B | Y) = 6/12 = 1/2

參考資料

  1. ^ Dawid, A. P. Conditional Independence in Statistical Theory. Journal of the Royal Statistical Society, Series B. 1979, 41 (1): 1–31. JSTOR 2984718. MR 0535541. 
  2. ^ J Pearl, Causality: Models, Reasoning, and Inference, 2000, Cambridge University Press

參見