読者です 読者をやめる 読者になる 読者になる

2011-05-18の作業メモ

  • PRML グラフィカルモデルの章を読み始める

symmetric Dirichlet distribution

Dirichlet distribution - Wikipedia, the free encyclopedia
K次元ディリクレ分布のパラメータベクトルを\alphaとしたとき、\alphaの各要素が全て同じ値であるようなディリクレ分布。ベイズ推論でディリクレ分布を事前分布として使うとき、「i番目の要素はj番目の要素よりもよく出現するらしい」といった情報が何もないときに、各要素の値を同じにする。
このディリクレ分布の特殊な場合、1つのスカラ値によって分布を制御できるので、このパラメータを concentration parameterと呼ぶ。このパラメータをαと置くと、
α=1の時、K-1次元上の単体*1上の一様分布となる。
α>1の時、密な形状となる。
α<1の時、疎な形状となる。ほとんどの値が0で、一部だけ極端に大きな値を取る。

α>1の時は、αが大きくなるにつれ、分布がより鋭くなって、不確かさが小さくなるというのはPRMLを読んで納得できたが、直感的にα<1の時の雰囲気があまりわからない。

*1:単体がまだよくわからない