問題 No.1677
確率分布の類似度を測定する指標である「イェンゼン・シャノン情報量（JSダイバージェンス）」に関する記述として、最も不適切なものを1つ選べ。
【正解の解説】
2つの確率分布の重なりが全くない場合、JSダイバージェンスの値は常に0となり、類似性が最大であることを示す。
確率分布の重なりが全くない場合、JSダイバージェンスの値は最大値をとります。0になるのは2つの分布が完全に一致する場合であり、記述は逆です。
スポンサーリンク
【その他の選択肢の解説】
2つの確率分布PとQに対し、JSダイバージェンスの値はPとQを入れ替えても変化しない対称性を備えている。
JSダイバージェンスは定義上、順序の入れ替えに対して値が不変である対称性を持ちます。
KLダイバージェンスを基にして算出され、PとQの平均分布MとのそれぞれのKLダイバージェンスの平均値として定義される。
JSダイバージェンスは、PとQの平均分布M=0.5(P+Q)を用いて、D_JS(P||Q) = 0.5*D_KL(P||M) + 0.5*D_KL(Q||M)と定義されます。
KLダイバージェンスとは異なり、分布同士の距離が離れていても常に最大値が一定に制限される性質を持つ。
JSダイバージェンスは0からlog2の範囲に値が収まるため、KLダイバージェンスと比較して距離の評価が安定しています。