問題 No.2438
ディープラーニングの隠れ層の活性化関数として広く用いられるReLU関数において、入力値 $x = -2.5$ のときの出力値 $y$ として正しいものを次の中から選びなさい。
【正解の解説】
$0$
ReLU関数は、いわゆる「自動改札機」のようなものです。マイナスの数値を入力すると「通せんぼ」されて完全に遮断され、結果がすべて「0」になってしまいます。そのため、-2.5というマイナスの値が入ってきた場合も、門前払いを食らって出力は綺麗さっぱり0になります。
スポンサーリンク
【その他の選択肢の解説】
$-2.5$
これは入力をそのまま素通りさせるリニア関数や恒等関数の特徴であり、ReLU関数のようにマイナスを遮断する仕組みが働いていません。AIの学習においてマイナスをそのまま通してしまうと、モデルが正しく複雑なパターンを学習できなくなるため、この挙動は誤りとなります。
$-1.0$
元の入力値-2.5に対して適当に計算を行って得られた数値であり、ReLU関数のルールである「0未満なら0、0以上ならそのまま」という原則に全く合致していません。試験問題などでなんとなくそれっぽい数値を並べた引っかけの選択肢なので注意しましょう。
$1.0$
これは入力値のマイナスをプラスに反転させる絶対値関数や、別の複雑な数式を誤って適用した場合の数値です。ReLU関数はマイナスをそのまま「0」に切り捨てるのであって、プラスにひっくり返すわけではないという点を見分けるための典型的な引っかけです。