ベイズの定理

ベイズの定理（ベイズのていり、英: Bayes' theorem）とは、条件付き確率に関して成り立つ定理で、トーマス・ベイズによって示された。

なおベイズ統計学においては基礎として利用され、いくつかの未観測要素を含む推論等に応用される。

ベイズの定理

一般に、確率および条件付き確率に関して、P(A) > 0 のとき次が成り立つ^[1]。

P(B|A)={\frac {P(A|B)P(B)}{P(A)}}

この定理はイギリスの牧師トーマス・ベイズ（c. 1701–1761^[2]）によって発見され、彼の死後にリチャード・プライスによって(Bayes & Price 1763)で発表された。その後ピエール＝シモン・ラプラスによって再発見・発展され、その存在が広く認識されるようになった。

確率および条件付き確率に関する定理であり、頻度主義統計学、ベイズ統計学のどちらでも成立する^[要出典]。

ベイズ推定

詳細は「ベイズ推定」を参照

ベイズの定理と組み合わせて確率的推論を行う方法がラプラスによって始められ、現在言うところのベイズ統計学の端緒となった。事象の確率という考え方を採用する特徴がある。

現在は例えば、迷惑メールの発見・分類といった作業のコンピュータを用いた自動化（フィルタリング）等のふるい分けにも利用されている。

概要

事象Bのベイズ確率について、

P(B) = 事象 A が起きる前の、事象 B の確率（事前確率, prior probability）
P(B|A) = 事象 A が起きた後での、事象 B の確率（事後確率，条件付き確率, posterior probability，conditional probability）

とする。ベイズの定理を使えば、事後確率 P(B|A) は下記に従って計算される。

P(B|A)={\frac {P(A|B)P(B)}{P(A)}}

すなわち、事象Aに関するある結果（データ）が得られたとすると、それを反映し、尤度 P(A|B) の乗算によって、事象 B の確率は事前確率から事後確率へと更新される。なお事象 B の確率の観点からは、P(A) は規格化定数としての意味しかないため、しばしば省略される。つまり事後確率は事前確率と尤度の積に比例する：

P(B|A)\propto P(A|B)P(B)=P(A,B).

ベイズ統計学（およびベイズ決定理論）は上記の手続きにその基礎をおき、名前の由来ともなっている^[要出典]。

批判

ベイズ統計学では、事象の確率という考え方を採用し、必ずしも頻度には基づかない確率を「確率」として見なす。

またベイズの定理を用い、事前確率及び尤度を仮定した下で事後確率を与える、という相対的なメカニズムを主張している。したがって事後確率の計算結果の信憑性や有用性は、事前分布と尤度の設定にかかっており、慎重を期すことが必要である。これはベイズ統計学が、不確実性を含む問題を人によって異なる確率を用いて定式化することを許容する主観確率 (subjective probability) という立場をとっていることによる。この立場はまだ解析対象となっていない新たな問題へのアプローチを可能にするという利点がある一方で、確率の決め方について客観性に欠けるという批判もある（客観確率）。

応用例

薬物検査

ある薬物の検査が感度99％かつ特異度99%だとしよう——つまり検査によって薬物の使用者のうち99%が陽性となり、非使用者のうち99%が陰性となると仮定する。さらに社会の0.5%が薬物使用者であるとする。無作為に選ばれた個人がこの検査で陽性だったとき、薬物使用者である確率はいくつか？ベイズの定理（と全確率の公式（英語版））から

{\begin{aligned}P({\text{U}}|{\text{+}})&={\frac {P({\text{+}}|{\text{U}})P({\text{U}})}{P(+)}}\\&={\frac {P({\text{+}}|{\text{U}})P({\text{U}})}{P({\text{+}}|{\text{U}})P({\text{U}})+P({\text{+}}|{\bar {\text{U}}})P({\bar {\text{U}}})}}\\&={\frac {0.99\times 0.005}{0.99\times 0.005+0.01\times 0.995}}\\&\approx 0.332\end{aligned}}

個人の検査が陽性であるときでさえ、非使用者である可能性が使用者である可能性よりも高い。（それでも検査結果が陽性であったという情報を反映して、事後確率 $P({\text{U}}|{\text{+}})\approx 0.332$ は事前確率 $P({\text{U}})=0.005$ よりも大幅に上昇している。）つまり偽陽性の数は真陽性の数より多い。これは非使用者が使用者に比べて多いからである。たとえば、もし無作為に1000人が検査されるならば、995人の非使用者と5人の使用者がいると期待される。995人の非使用者からは0.01 × 995 ≈ 10 人の偽陽性が期待される。5人の使用者からは 0.99 × 5 ≈ 5人の真陽性が期待される。よって陽性であると期待される15人のうち、5人のみが薬物使用者である。

この例における特異度の重要性が次の計算からわかる。仮に感度が100%に上がり特異度が99%のままであれば陽性的中率は33.2%から33.4％に微増するに留まるが、感度が99%のままで特異度が99.5%に上がれば陽性的中率は49.9%に増加する。

脚注

参考文献

Bayes, Thomas; Price, Richard (1763). “An Essay towards solving a Problem in the Doctrine of Chance. By the late Rev. Mr. Bayes, communicated by Mr. Price, in a letter to John Canton, M. A. and F. R. S.” (PDF). Philosophical Transactions of the Royal Society of London (Royal Society) 53 (0): 370–418. doi:10.1098/rstl.1763.0053.
Gelman, Andrew; Carlin, John B.; Stern, Hal S.; Dunson, David B.; Vehtari, Aki; Rubin, Donald B. (2014). Bayesian Data Analysis. Texts in Statistical Science Series (Third ed.). CRC Press. ISBN 978-1-4398-4095-5. MR3235677. Zbl 1279.62004
Stigler, Stephen M. (1986). The History of Statistics. The Belknap Press of Harvard University Press. ISBN 0-674-40340-1. MR0852410. Zbl 0656.62005

外部リンク

世界大百科事典第2版『ベイズの定理』 - コトバンク
Weisstein, Eric W. "Bayes' Theorem". mathworld.wolfram.com (英語).

[FOOTNOTEGelman_et_al.2014(1.1)-1] Gelman et al. 2014, (1.1).

[FOOTNOTEStigler1986The_date_of_Bayes&#039;s_birth_is_unknown,_but_it_was_probably_in_1701;_he_died_7_April_1761-2] Stigler 1986, The date of Bayes's birth is unknown, but it was probably in 1701; he died 7 April 1761.

[1]

[2]