ベイズの定理とは – 初心者へ向けて分かりやすく解説します

2018年3月21日

この記事ではこんなことを書いています

ベイズの定理を理解するために、一つひとつ順を追って丁寧に解説していきます。

少しずつ丁寧に、例題を交えながら進めていくので、一歩ずつ理解しながら読み進めていってくださいね。

この記事を読み終わったときには、必ずベイズの定理を理解できているはずですよ。

スポンサーリンク

ベイズの定理のイメージはこんな感じ

ベイズの定理は数学の確率の分野に属してしますが、普通の確率と少し違うポイントがあります。

まずは、その違いについてイメージを持つことからはじめましょう。

 

例えば、普段の生活で確率という言葉がよく登場するものの一つに天気予報がありますね。

「明日の降水確率は80%です。」

といったものです。

このように、一般的な確率の概念は、

未来のことに対して、その事柄(事象)が起こる期待度を数値化したもの

です。

確率は未来の予想に使うのが一般的ですね。

 

しかし、ベイズの定理では、時間軸が逆になります。

ある事象が起こった。この事象が起きるような原因はいくつかあるが、これがその原因である確率は何パーセントである

のように、既に起こったことから過去の原因の確率を導いていくのがベイズの定理です。

 

例えばある犯罪が起きたとして、

「このような手口の犯罪が発生したが、このようなケースが起こる原因は〇〇〇の可能性が高い」

といった感じです。

 

では、以下からベイズの定理の理解へ向けて、必要なことを学んでいきましょう。

一つずつ確実に理解していけば、この記事を読み終わるときには、ベイズの定理とは何かを理解して、実際に使えるようになっているはずですよ!

 

スポンサーリンク

条件付き確率 – ベイズの定理への第一歩

まず、ベイズの定理を理解する上での第一歩として、”条件付き確率”を理解する必要があります

条件付き確率とは、言葉でいうと、

”ある事象Aが起こったという条件のもとで、事象Bが起こる確率”

ということですが、初めて聞いた人はいまいちイメージが湧かないかもしれません。

 

実際に、例を使って説明しましょう。

条件付き確率の例題

いま袋の中に赤い玉と青い玉が三つずつ入っているとします。

さらに、玉にはそれぞれ1,2と番号が振ってあります。下の画像のような感じです。

赤い玉には(1,1,2)と青い玉には(1,2,2)があります。

 

この中から一つの玉をランダムで取り出したところ、赤い玉でした。

この赤い玉の数字が1である確率はなんでしょう。

これが、条件付き確率です。

 

言葉にすると、

取り出した玉が赤い玉がであったという条件のもとで、数字が1である確率はなんでしょう

ということですね。

このように、”という条件のもとで”というフレーズが入るのが条件付き確率の特徴です。

 

このような条件付き確率を解くときには、以下の公式を使います。

$$Pr(B|A) = \frac{Pr(A \cap B)}{Pr(A)}$$

\(Pr(B|A)\)は、

$$Pr(B|A) = \text{事象Aが起こったという条件のともで、事象Bが起こる確率}$$

を表現しています。

\(Pr(A)\)と\(Pr(A \cap B)\)は、

\begin{align}
Pr(A) & = \text{事象Aが起こる確率} \\
Pr(A \cap B) & = \text{事象Aと事象Bが同時起こる確率}
\end{align}

を表しています。

 

では、例題を解いてみましょう。

いま、事象Aは赤い玉を取り出したということです。これが起こる確率\(Pr(A)\)は、

$$Pr(A) = \frac{3}{6} = \frac{1}{2}$$

です。

次に、事象Aと事象Bが同時に起こるというのは、赤い玉でなおかつ数字が1の玉を取り出すということです。

よって、この確率\(Pr(A \cap B)\)は、

$$Pr(A \cap B) = \frac{2}{6} = \frac{1}{3}$$

ですね、

 

これで、\(Pr(A)\)と\(Pr(A \cap B)\)が分かりました。

これを、条件付き確率の公式、

$$Pr(B|A) = \frac{Pr(A \cap B)}{Pr(A)}$$

に代入すると、

\begin{align}
Pr(B|A) & = \frac{Pr(A \cap B)}{Pr(A)} \\
& = \frac{\frac{1}{3}}{\frac{1}{2}} \\
& = \frac{2}{3}
\end{align}

となります。

よって、

取り出した玉が赤い玉がであったという条件のもとで、数字が1である確率は\(\frac{2}{3}\)

であるとなります。

 

この問題は公式を使わなくても感覚的に、”取り出した玉が赤いときは、その数字が1である確率が\(\frac{2}{3}\)”であることが分かったかもしれません。

この例題のように単純な問題は、感覚的に解くこともできますが、少し複雑な問題になると、感覚では解けなくなるので、この例題のような簡単な問題で条件付き確率の公式を使うことに慣れておきましょう。

 

ここで学んだ条件付き確率の詳しい解説は、以下のページで行っています。

不安な人は、一読しておきましょう。

 

乗法定理 – ベイズの定理を構成する重要な要素

ベイズの定理への第一ステップは、上で解説した条件付き確率でした。

次に、第二ステップは”乗法定理”です。安心してください。まったく難しくありません。

これは、条件付き確率の式をちょっとだけ変形したものです。

ベイズの定理を構成する重要な要素となりますので、ここもしっかりと理解して先へ進みましょう。

 

条件付き確率の式は、

$$Pr(B|A) = \frac{Pr(A \cap B)}{Pr(A)}$$

と表現することができました。

この式は、

”事象Aが起こったという条件のともで、事象Bが起こる確率”

を表現しているのでしたね。

 

ここから両辺に\(Pr(A)\)を掛けて、以下のように式を変形しましょう。

$$Pr(A \cap B) = Pr(B|A) \times Pr(A)$$

あるいは、事象Aと事象Bを入れ替えても何も問題ないはずですので、

$$Pr(A \cap B) = Pr(B \cap A) =Pr(A|B) \times Pr(B)$$

とも書けます。

これが、乗法定理です。

 

この式は、何を表しているのでしょうか?

それぞれの\(Pr\)は、

\begin{align}
Pr(A \cap B) & = \text{事象Aと事象Bが同時に起こる確率} \\
Pr(B|A) & = \text{事象Aが起こったという条件のもと、事象Bが起こる確率} \\
Pr(A) & = \text{事象Aが起こる確率} \\
\end{align}

です。

つまり、乗法定理は、

事象Aと事象Bが同時に起こる確率\(Pr(A \cap B)\)は、事象Aが起こったという条件のもと事象Bが起こる確率\(Pr(B|A)\)に事象Aが起こる確率\(Pr(A)\)を掛けたものである

ということです。

以下は乗法定理を使った例題です。

乗法定理を使った例題

袋の中に赤い玉と青い玉が三つずつ入っているとします。

ここから、Aさんが一つ玉を取り出します。玉の色を確認した後、その玉を袋に戻します。

次に、Bさんが同じように一つ玉を取り出します。

このとき、AさんもBさんも赤い玉を取り出す確率を求めましょう。

という問題です。

 

ここで、乗法定理を考えてみましょう。

$$Pr(A \cap B) = Pr(B|A) \times Pr(A)$$

事象Aと事象Bを、

  • 事象A:Aさんが赤い玉を取り出す
  • 事象B:Bさんが赤い玉を取り出す

とすれば、\(Pr(A \cap B)\)は、

$$Pr(A \cap B) = \text{AさんとBさんがどちらも赤い玉を取り出す確率}$$

となります。

 

また\(Pr(B|A)\)は、

$$Pr(B|A) = \text{Aさんが取り出したのは赤い玉だったという条件のもとBさんが赤い玉を取り出す確率}$$

です。

しかし、Aさんは取り出した玉を袋に戻すため、Bさんが赤い玉を取り出す確率はAさんの結果に左右されません。(※一方の結果に、もう一方の結果が左右されない(依存しない)ということを”独立である”と言います)

なので、\(Pr(B|A)\)は単に、\(Pr(B)\)と同じことですので、

$$Pr(B|A) = Pr(B) = \frac{3}{6} = \frac{1}{2}$$

となります。

 

最後に、Aさんが赤い玉を取り出す確率\(Pr(A)\)も、

$$Pr(A) = \frac{3}{6} = \frac{1}{2}$$

ですので、これらを乗法定理に代入して、

$$Pr(A \cap B) = Pr(B|A) \times Pr(A) = \frac{1}{2} \times \frac{1}{2} = \frac{1}{4}$$

です。

よって、

$$\text{AさんとBさんがどちらも赤い玉を取り出す確率} = \frac{1}{4}$$

となります。

 

これが、乗法定理の使い方です。

もっと詳しい説明で、乗法定理に慣れたい方は、以下の記事をご覧ください。

[ブログカード]

 

スポンサーリンク

ベイズの定理

いよいよベイズの定理の説明です。

まずは、ベイズの定理を導出してみましょう。

ベイズの定理の導出

ここまでに学んできた式の整理をしましょう。

まず、第一ステップでは、条件付き確率の式を学びました。

$$Pr(B|A) = \frac{Pr(A \cap B)}{Pr(A)}$$

です。

それぞれの確率\(Pr\)の意味は、

\begin{align}
Pr(B|A) & = \text{事象Aが起こったという条件のもとで、事象Bが起こる確率} \\
Pr(A \cap B) & = \text{事象Aと事象Bが同時に起こる確率} \\
Pr(A) & = \text{事象Aが起こる確率}
\end{align}

ですね。

 

第二ステップでは、乗法定理です。

この式は、条件付き確率の式を少し変形して、

$$Pr(A \cap B) = Pr(A|B) \times Pr(B)$$

と書けました。

 

ここで、乗法定理を条件付き確率の式に代入しましょう。すると、

$$Pr(B|A) = \frac{Pr(A|B) \times Pr(B)}{Pr(A)}$$

と書けます。

ただし、事象Bは事象Aが起こるという条件のもとで、複数の事象(\(B_1, B_2, B_3, \cdots\, B_k\))が起こる可能性があるとします。

 

例えば、サイコロを二回振ることを考えましょう。

サイコロを一回振って3の目が出た(事象A)という条件のもと、次にサイコロを振ったときに起こる事象Bは、サイコロの目が1,2,3,4,5,6の六パターンあり、複数事象あります。※一回目に振ったサイコロは二回目のサイコロの目になんの影響も及ぼしません(独立)

なので、ここで複数の事象の中のある一つの事象という意味で、事象\(B\)を事象\(B_i\)とします。すると、上式は、

$$Pr(B_i|A) = \frac{Pr(A|B_i) \times Pr(B_i)}{Pr(A)}$$

と書けます。

 

さらに、右辺の分母\(Pr(A)\)は、

$$Pr(A) = Pr(A \cap B_1)+Pr(A \cap B_2)+ \cdots Pr(A \cap B_k)$$

と書けます。

事象\(A\)が起こる確率は、事象\(B_i\)が起こったという条件のもとで事象\(A\)が起こる確率をすべて足し合わせたものであるという式です(下のイメージ図)。

 

例えば、サイコロを考えます。

事象\(A\)を”1の目が出る確率”とすれば、確率\(Pr(A)\)は、

$$Pr(A) = \frac{1}{6}$$

というのは、すぐに分かるでしょう。

事象\(B_i\)はサイコロの場合、六パターンあり、

  • \(B_1\):サイコロで一の目が出る確率
  • \(B_2\):サイコロで二の目が出る確率
  • \(B_3\):サイコロで三の目が出る確率
  • \(B_4\):サイコロで四の目が出る確率
  • \(B_5\):サイコロで五の目が出る確率
  • \(B_6\):サイコロで六の目が出る確率

となります。

\(Pr(A \cap B_1)\)であれば、事象\(A\)と事象\(B_1\)が同時に起こる確率であり、この場合はどちらも一の目が出る確率となります。

よって、

$$Pr(A \cap B_1) = \frac{1}{6} \times \frac{1}{6} = \frac{1}{36}$$

となります。

これは、\(B_i\)の\(i=1,2,3,4,5,6\)についてすべて同じ確率ですので、

$$Pr(A \cap B_1)+Pr(A \cap B_2)+ \cdots Pr(A \cap B_6) = \frac{1}{36} \times 6 = \frac{1}{6}$$

ですね。

よって、

$$Pr(A) = Pr(A \cap B_1)+Pr(A \cap B_2)+ \cdots Pr(A \cap B_k)$$

が成り立つことが分かったと思います。

 

では、この\(Pr(A)\)を、

$$Pr(B_i|A) = \frac{Pr(A|B_i) \times Pr(B_i)}{Pr(A)}$$

に代入すると、

$$Pr(B_i|A) = \frac{Pr(A|B_i) \times Pr(B_i)}{Pr(A \cap B_1)+Pr(A \cap B_2)+ \cdots Pr(A \cap B_k)}$$

となり、さらに乗法定理(\(Pr(A \cap B_i) = Pr(B_i) Pr(A|B_i)\))を使うと、

$$Pr(B_i|A) = \frac{Pr(A|B_i) \times Pr(B_i)}{Pr(B_1) Pr(A|B_1)+Pr(B_2) Pr(A|B_2)+ \cdots Pr(B_k) Pr(A|B_k)}$$

です。

 

最後に、シグマ記号を使って表現すると、

$$Pr(B_i|A) = \frac{Pr(A|B_i) Pr(B_i)}{\sum_{j=1}^{k} Pr(A|B_j) Pr(B_j)}$$

となります。

これがベイズの定理です。

例題に挑戦しよう

公式だけではイメージが掴めません。ベイズの定理を実際に使ってみましょう。

以下の例題を解いてみましょう。

 

ベイズの定理を使った例題

以下のように三つの袋の中に、赤い玉と白い玉が入っています。

袋1,2,3に入っている玉は、

  • 袋1:白い玉1つ、赤い玉4つ
  • 袋2:白い玉3つ、赤い玉3つ
  • 袋3:白い玉4つ、赤い玉2つ

です。

 

この袋の中から玉を一つ取り出したとき、その玉の色は白でした。※どの袋から取り出されたものかは分かりません。

このとき、この袋2から取り出された確率はいくらでしょうか?

まず、ベイズの定理を思い出しましょう。

$$Pr(B_i|A) = \frac{Pr(A|B_i) Pr(B_i)}{\sum_{j=1}^{k} Pr(A|B_j) Pr(B_j)}$$

この左辺\(Pr(B_i|A)\)は事象\(A\)が起こったという条件のもとで、事象\(B\)が起こる確率を表していますので、事象\(A\)と事象\(B_2\)は次のように設定できます。

  • 事象\(A\):白い玉が取り出される
  • 事象\(B_2\):袋2から玉を取り出す

つまり、\(Pr(B_2|A)\)は、

取り出された玉が白だったとき、その玉が袋2から取り出された確率

ということになります。

 

次にベイズの定理の右辺ですが、事象\(B_i\)を袋\(i\)から玉を取り出すという行為に設定すると、いま袋は1,2,3の三つですので、\(i=1,2,3\)のみとなります。

よって、ベイズの定理は、

$$Pr(B_2|A) = \frac{Pr(A|B_2) Pr(B_2)}{Pr(A|B_1) Pr(B_1) + Pr(A|B_2) Pr(B_2) + Pr(A|B_3) Pr(B_3)}$$

となります。

 

まずは、右辺の\(Pr(B_1), Pr(B_2), Pr(B_3)\)を考えてみましょう。

これは、袋1,2,3から玉が取り出された確率ですが、どの袋が選ばれるかはランダムと考えてよいので、

$$Pr(B_1)=Pr(B_2)=Pr(B_3)=\frac{1}{3}$$

とどの袋も確率は平等です。

 

次に、\(Pr(A|B_1)\)ですが、事象\(B_1\)が起こった(袋2から玉が取り出された)という条件のもと、事象Aが起こる(白い玉が取り出される)確率は、袋2に入っている玉の色を考えると、

$$Pr(A|B_1) = \frac{1}{5}$$

です。

同様に、

\begin{align}
Pr(A|B_2) & = \frac{3}{6} = \frac{1}{2} \\
Pr(A|B_3) & = \frac{4}{6} = \frac{2}{3}
\end{align}

です。

 

これらをベイズの定理に代入して、

\begin{align}
Pr(B_2|A) & = \frac{Pr(A|B_2) Pr(B_2)}{Pr(A|B_1) Pr(B_1) + Pr(A|B_2) Pr(B_2) + Pr(A|B_3) Pr(B_3)} \\
& = \frac{\frac{1}{2} \frac{1}{3}}{\frac{1}{5} \frac{1}{3} + \frac{1}{2} \frac{1}{3} + \frac{2}{3} \frac{1}{3}} \\
& = \frac{15}{41} \simeq 0.366 = 36.6\%
\end{align}

よって、取り出された玉が白だったとき、その玉が袋2から取り出された確率は\(36.6\%\)となります。

 

まとめ

  • ベイズの定理とは、既に起こったことからその原因の確率を求める手法である
  • ベイズの定理を理解するには、以下のことをまず理解しよう
    1. 条件付き確率
    2. 乗法定理
  • ベイズの定理に慣れるために、例題にたくさん触れておこう

※コメントの反映には少し時間がかかります

スポンサーリンク