カーネル密度推定

出典: フリー百科事典『ウィキペディア(Wikipedia)』
移動先: 案内検索
正規分布の100個の乱数と異なる平滑化帯域幅によるカーネル密度推定。

カーネル密度推定(カーネルみつどすいてい、: Kernel density estimation)は、統計学において、確率変数確率密度関数推定するノンパラメトリック手法のひとつ。エマニュエル・パルツェンの名をとってパルツェン窓: Parzen window)とも。大まかに言えば、ある母集団標本のデータが与えられたとき、カーネル密度推定を使えばその母集団のデータを外挿できる。

ヒストグラムは、一様なカーネル関数によるカーネル密度推定量と見ることもできる。

定義[編集]

x1, x2, ..., xn を(未知の)確率密度関数 ƒ を持つ独立分布からの標本とする。カーネル関数 K、バンド幅(平滑化パラメータ)hカーネル密度推定量: kernel density estimator)とは

のことである[1]。カーネル関数としては、標準的なガウス関数

平均がゼロで分散が1)を採用することが多い。

直観的説明[編集]

あまり平滑でない推定器(例えばヒストグラム密度推定器)は漸近的に一致させられるが、他の推定器は不連続であるか、カーネル密度推定より収束が遅い。カーネル密度推定器は、標本を一定幅の箱に入れて数えるのではなく、カーネル関数から決定されたコブを各標本に与えるものと見ることができる。つまり、「コブの総和」によって推定が形成されるため、結果として非常に滑らかになる(下図参照)。

6つのガウス曲線(赤)とそれらの総和(青)。パルツェン窓密度推定 f(x) は、この総和を6(元のガウス曲線の数)で割ることで得られる。ガウス関数の分散は 0.5 に設定されている。見ての通り、標本点が稠密にあるほど、密度推定値は大きくなる。

特性[編集]

確率密度関数 ƒ の L2 リスク関数 とする。確率密度関数 ƒ とカーネル関数 K に関する弱い仮定から次が得られる。

理論的リスク関数を最小化することで、最適なバンド幅は以下のように示される。

ここで



である。最適なバンド幅を選択したとき、リスク関数は であり c4 > 0 はある定数である。弱い仮定の下で、カーネル推定器より早く収束するノンパラメトリックな推定器は存在しないことが示される。なお、n−4/5 という収束レートは、パラメトリックな手法での典型である n−1 という収束レートよりも遅い。

実装例[編集]

  • MATLAB - カーネル密度推定は ksdensity 関数で実装されている。
  • Stata - kdensity で実装されている。例えば、histogram x, kdensity
  • R言語 - density 関数で実装されている。
  • SAS - proc kde は1変量または2変量のカーネル密度推定に使われる。
  • PAST - Plot項目の中のHistogramで,カーネル曲線が描ける。

脚注[編集]

参考文献[編集]

  • Duda, R. and Hart, P. (1973). Pattern Classification and Scene Analysis. John Wiley & Sons. ISBN 0-471-22361-1.
  • Parzen E. (1962). On estimation of a probability density function and mode, Ann. Math. Stat. 33, pp. 1065-1076.
  • Silverman, B. W. (1986). Density estimation for statistics and data analysis. Monographs on Statistics and Applied Probability. Chapman & Hall, London. ISBN 0-412-24620-1. MR0848134. Zbl 0617.62042. //books.google.com/books?id=e-xsrjsL7WkC. 
  • Wasserman, L. (2005). All of Statistics: A Concise Course in Statistical Inference, Springer Texts in Statistics.

関連項目[編集]

外部リンク[編集]