問題 No.3200
機械学習やディープラーニングの分野で用いられるノルムに関して、その性質や定義として不適切なものを一つ選択せよ。
【正解の解説】
L1ノルムは、ベクトルの各要素の絶対値の和を計算するものであり、原点からのユークリッド距離をそのまま表している。
L1ノルムは碁盤の目のように縦横の移動距離を足し合わせる「タクシーマン距離」に相当します。これを直線距離(ユークリッド距離)と混同させるのがこの選択肢の罠であり、L1ノルムが表すのは直線ではなく直角に曲がった道のりの総和です。
スポンサーリンク
【その他の選択肢の解説】
L2ノルムは、ベクトルの各要素の二乗和の平方根を計算するものであり、原点からの直線距離を表している。
L2ノルムは私たちが日常生活で定規を使って測るような、点と点を結んだ最短の「直線距離」そのものです。ピタゴラスの定理を多次元に拡張したものであり、機械学習の分野でも最も一般的に使われるおなじみの距離の測り方です。
L0ノルムは、ベクトルのゼロではない要素の数をカウントするものであり、スパース性を測る指標として用いられる。
厳密には数学的なノルムの公理を満たさないため「L0擬似ノルム」とも呼ばれますが、AIの世界では「データの中にどれだけ意味のある値(非ゼロ)が含まれているか」を数えるために重宝され、モデルをシンプルにするスパース正則化でよく登場します。
L1ノルムは、ベクトルの各要素の二乗の和を計算するものであり、外れ値に対して非常に敏感な性質を持っている。
二乗の計算を行うことで大きな値の影響を強く受けてしまうのはL2ノルムの特徴です。L1ノルムは絶対値をとるため外れ値の影響を受けにくく頑健であるという、両者の決定的な違いを逆にして出題する典型的なひっかけパターンです。