条件付き確率とベイズの定理

Pocket
LinkedIn にシェア
LINEで送る

この記事では「2つの現象が同時に起こる確率」について議論し、その中で現象の独立性条件付き確率について解説する。これらの議論からは、各種検査や機械学習などにおける確率的推論の基礎となる「ベイズの定理」が導ける。

記号の定義

この記事では、以下のような記号を使用する。

  • \(A,B,C,\cdots\):事象(確率変数)
    • それぞれの文字が、「サイコロで6の目が出る」「明日、雨が降る」「検査で陽性が出る」などの事象を表現する。
  • \(P(A)\):事象\(A\)が発生する確率
  • \(P(A,B)\):事象\(A\)と事象\(B\)が同時に発生する確率

確率変数と確率密度関数

独立性と条件付き確率

事象\(A\)の発生が事象\(B\)の発生に依存せず、またその逆も成り立つとき、事象\(A\)と事象\(B\)は互いに独立であるという。例えば、

  • \(A\):サイコロで6の目が出る
  • \(B\):明日、雨が降る

とおくと、事象\(A\)と事象\(B\)は互いに独立である。この場合、事象\(A\)と事象\(B\)が同時に発生する確率\(P(A,B)\)は、それぞれが発生する確率の積で表される。すなわち、

$$P(A,B)=P(A)P(B)$$

である。

しかし、事象\(A\)と事象\(B\)は互いに独立でない場合には、上の議論が成り立たない。このとき\(P(A,B)\)を求めるためには、例えば、「まず事象\(A\)が発生し、」「事象\(A\)が生じている影響下で事象\(B\)が発生する」というように、現象を2分割する必要がある。ここで、「事象\(A\)が生じている影響下で事象\(B\)が発生する」確率を\(P(B|A)\)とおくと、

$$P(A,B)=P(B|A)P(A)$$

が成り立つ。この\(P(B|A)\)のように「事象〇が生じている影響下で事象△が発生する」確率のことを条件付き確率という。条件付き確率を用いると、事象\(A\)と事象\(B\)の独立性は以下のように定義される。

\(P(B|A)=P(B)\)が成り立つとき、事象\(A\)と事象\(B\)は統計的に独立である。

ベイズの定理

前述の例では、事象\(A\)と事象\(B\)が同時に発生する確率を求める際に、事象\(A\)が先に発生したと考えた。しかし、「まず事象\(B\)が発生し、」「事象\(B\)が生じている影響下で事象\(A\)が発生する」と考えても問題ない。したがって、

$$P(A,B)=P(B|A)P(A)=P(A|B)P(B)$$

である。この式の中辺と右辺より、以下のベイズの定理が得られる。

【ベイズの定理】

$$P(B|A)=\frac{P(A|B)P(B)}{P(A)}$$

式の形からは、\(P(A),P(B)\)を用いて、\(P(A|B)\)を\(P(B|A)\)に変換する定理と捉えることができる。しかし、ベイズの定理はその単純さからは想像もできないほど壮大なベイズ統計学という学問体系を作りあげた。また、量子論との関係からはQBismという解釈が生まれた。

ベイズ理論の身近な応用例としては以下を参照のこと。

ベイズの定理に基づく尤度比計算の導出

Pocket
LinkedIn にシェア
LINEで送る

神経科学を研究している博士学生。Rust, Python, C/C++, Unityを活用して、世界の様々な現象を分析・シミュレートしています。理系分野だけでなく、政治学や社会学も、もちろん分析対象です。

コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です