ベイズの定理

条件付き確率(conditional probability)

  • 事前確率P(B)が生起したあとに、事後確率P(A)が生起する確率

$$ P(A|B) = \frac{P(A \cap B)}{P(B)} $$

同時確率(joint probability)

  • 確率P(A)と確率P(B)が同時に起きる確率
  • 乗法定理(multiplication theorem of probability)でもある

$$ P(A \cap B) = P(X,Y)=P(X \mid Y)P(Y)=P(Y \mid X)P(X) \\ $$

  • 事象が独立の時の同時確率

$$ A \cap B = \phi \\ \therefore P(A,B) = P(A) \cdot P(B) $$

周辺確率(marginal probability)

  • ある事象についての確率
  • 同時確率を足し合わせることを、周辺化(Marginalization)とも

$$ P(X) = \sum_{Y}P(X,Y) $$

同時確率、周辺確率、条件付き確率の意味

  • グー、チョキー、パーをランダムで出すジャンケンマシーンを2回動かしたときの、同時確率の表。
  • X:グーを出した回数
  • Y:チョキを出した回数

確率
周辺確率(横)$P(X=0)=\sum_{y=0}^2P(X=0,Y=y) = \frac{1+2+1}{9} = \frac{4}{9}$
同時確率(点)$P(X=2,Y=2)= \frac{1}{9}$
条件付き確率(縦)$P(X|Y=1) = \frac{2+2+0}{9} = \frac{4}{9}$

ベイズの定理 (Bayes' theorem)

  • 原因から結果(過去->未来)の確率ではなく 結果から原因(未来->過去)の確率を出すこと。
  • 基本的に確率は現象の未来の結果を予測するので、時間の流れが逆になっている。
  • 結果を$Y$、原因を$X$とすると、

$$ P(X|Y)=\dfrac{P(X)P(Y|X)}{P(Y)} $$

  • この時、
    • $(P(X)$ を事前確率(prior probability)、
    • \(P(X|Y)\)を事後確率(posterior probability)という

その他

  • モンティホール問題(Monty Hall problem)

REFERENCES:

  • https://ja.wikipedia.org/wiki/%E3%83%A2%E3%83%B3%E3%83%86%E3%82%A3%E3%83%BB%E3%83%9B%E3%83%BC%E3%83%AB%E5%95%8F%E9%A1%8C
  • https://www.iwanttobeacat.com/entry/2018/02/06/220000
  • https://mathwords.net/doujibunpu
  • https://bellcurve.jp/statistics/course/6444.html