問題 No.2078
機械学習モデルにおいて、ハイパーパラメータ $\lambda = 0.05$ とし、重みベクトルが $w = [3, -4, 5]$ であるとき、L2正則化項($\lambda \sum w_i^2$)の計算値として正しいものを選択せよ。
【正解の解説】
$2.5$
重みの二乗和は3の二乗プラスマイナス4の二乗プラス5の二乗で50となります。これをダイエットのカロリー制限に例えると、大きすぎる筋肉(重み)に罰金を課すようなもので、0.05を掛けることで過剰な複雑さをペナルティとして優しく抑え込み、全体のバランスを綺麗に整えているイメージです。
スポンサーリンク
【その他の選択肢の解説】
$5.0$
重みベクトルを二乗して足し合わせると50になりますが、ここに正則化の強さを決めるハイパーパラメータの0.05を掛け忘れてしまうと、この5.0という誤った数値になってしまいます。正則化項を計算する際は、ペナルティの係数であるラムダを掛け合わせるステップを絶対に忘れないよう注意が必要です。
$25.0$
3の二乗が9、マイナス4の二乗が16、5の二乗が25となり、これらを合計すると50になります。この選択肢は全体の罰金総額を計算する手前の段階であり、スープに例えると出汁をとっただけでまだ調味料を入れていない状態です。必ずハイパーパラメータを掛けるという最終処理が必要になります。
$0.5$
正しい計算結果である2.5に対して桁を一つずらしてしまった場合に現れる引っかけの選択肢です。機械学習の数式問題では、このように小数点の位置やゼロの数を勘違いさせようとする罠がよく仕掛けられます。公式に当てはめたあとの地道な算数の計算こそ、落ち着いて確実に行うことが大切です。