問題 No.4278
ディープラーニング（深層学習）の概要や歴史的背景に関する記述として不適切なものを選べ。
【正解の解説】
ディープラーニングの訓練には常に大量のラベル付きデータが必須であり、教師なし学習や自己教師あり学習を用いて事前学習を行う手法は存在しない。
人間が全てに正解のラベルを貼らなくても、絵本をたくさん読んだ子供が自然と言葉を覚えるように、AIも正解のない大量のデータから自力で特徴を掴む「自己教師あり学習」が現代の主流技術となっています。常に教師ラベルが必須とする本肢の記述は事実と異なります。
スポンサーリンク
【その他の選択肢の解説】
ディープラーニングの初期の概念は1940年代の McCulloch と Pitts による形式ニューロンの提案に端を発し、その後パーセプトロンの限界が指摘された経緯がある。
ディープラーニングの歴史の根底には、1940年代に脳の神経細胞を数式モデル化した「形式ニューロン」の誕生があります。その後、単純な線形分離しかできない「パーセプトロンの限界」が指摘されて一度冬の時代を迎えましたが、多層化や新たな学習手法によって現在の発展に至るという歴史的流れを正確に捉えています。
ディープラーニングにおける勾配消失問題は、多層のネットワークで誤差逆伝播法を行う際に下位層へ進むにつれて勾配が極端に小さくなる現象を指す。
これは長い伝言ゲームの途中で言葉がどんどん消えてしまうような現象です。何層も重ねたネットワークの出口から入口へエラー情報を伝える際、層を遡るごとに修正のシグナルが薄れてしまい、最初のほうの層がうまく学習できなくなるというディープラーニング特有の深刻な弱点を正しく説明しています。
ディープラーニングのモデル学習では、ネットワークの層を深くするほど表現力が高まる一方で過学習のリスクが増すため正則化手法が必要となる。
参考書を丸暗記して初めて見る問題に対応できない優等生のように、モデルが複雑すぎると過去の訓練データに過剰に適応して汎用性を失う「過学習」が起きます。そのため、ドロップアウトなどの正則化手法を使って、複雑すぎるモデルにブレーキをかけながら学習させることが実務上必須となります。