2011-05-18の作業メモ
- PRML グラフィカルモデルの章を読み始める
symmetric Dirichlet distribution
Dirichlet distribution - Wikipedia, the free encyclopedia
K次元ディリクレ分布のパラメータベクトルをとしたとき、
の各要素が全て同じ値であるようなディリクレ分布。ベイズ推論でディリクレ分布を事前分布として使うとき、「i番目の要素はj番目の要素よりもよく出現するらしい」といった情報が何もないときに、各要素の値を同じにする。
このディリクレ分布の特殊な場合、１つのスカラ値によって分布を制御できるので、このパラメータを concentration parameterと呼ぶ。このパラメータをαと置くと、
α=1の時、K-1次元上の単体*1上の一様分布となる。
α>1の時、密な形状となる。
α<1の時、疎な形状となる。ほとんどの値が０で、一部だけ極端に大きな値を取る。
α>1の時は、αが大きくなるにつれ、分布がより鋭くなって、不確かさが小さくなるというのはPRMLを読んで納得できたが、直感的にα<1の時の雰囲気があまりわからない。
*1:単体がまだよくわからない
