問題 No.1870
AIの開発や導入において、モデルの複雑さと汎化性能のバランスを評価するための情報量規準の一つであり、尤度に関数パラメータ数によるペナルティを課すことで最適なモデル選択を行う指標として適切なものはどれか。
【正解の解説】
モデルの自由度とサンプルサイズを考慮して過学習を防ぎながら最適なモデルを選択する情報量規準
BIC（ベイズ情報量規準）は、テスト勉強で「問題集の丸暗記（過学習）」を防ぎ、「本番の応用力（汎化性能）」を高めるために、問題の難易度に応じて適切な暗記量に制限をかけるルールのようなものです。パラメータが増えすぎて複雑になりすぎるモデルに「罰金」を科すことで、シンプルで本当に実用的なモデルを選び出せる仕組みになっています。
スポンサーリンク
【その他の選択肢の解説】
予測誤差の分散を最小化することに特化して未知のデータに対する予測精度を最優先する情報量規準
予測誤差の分散や未知データへの予測精度を重視するアプローチは交差検証や別の汎用指標の考え方に近く、BICはパラメータ数というモデルの複雑さ自体に直接ペナルティを課す点に特徴があるため誤りとなります。初学者は予測性能を上げれば良いと勘違いしがちですが、複雑すぎると失敗する点に注意が必要です。
モデルの複雑さを一切考慮せずに対数尤度の最大化のみを目的として最適なモデルを選択する情報量規準
モデルの複雑さを無視して訓練データへの当てはまり具合（対数尤度）だけを追いかけると、すべての問題の答えを丸暗記しただけの使い物にならない過学習のモデルが出来上がってしまいます。BICは複雑さにペナルティを科すことでこの「丸暗記の罠」を防ぐ役割を持っているため、複雑さを無視するこの記述は真逆の誤りとなります。
訓練データのサンプルサイズに依存せずにパラメータの事前分布を用いて最適なモデルを選択する情報量規準
BICの計算式には明確にサンプルサイズ（データ数）が含まれており、データ量に応じてペナルティの重さが変わる仕組みになっています。また、事前分布を扱うのはベイズ統計のモデリングそのものの特徴であり、サンプルサイズに依存しないという部分はBICの実際の定義や性質と矛盾するため誤答となります。