【感想・ネタバレ】深層学習 改訂第２版のレビュー

岡谷貴之

[ブクログ · ★★★★★]

二重降下や、transformerの詳しめの解説があるなど、新しい動向も盛り込まれている。学習率の更新則をSGDからAdamWまで主要なものを確認できる。勾配消失問題に有効な残差接続という概念も初めて知った。ベイジアンニューラルネットワークの概要。敵対的事例に対する防御として敵対的学習。通信×AIの6G時代はこういった技術を元にしたセキュリティ対策も必要そう。NNモデルの品質保証は現状難しい。NNの説明手法もまだ模索段階。継続・追加学習、知識蒸留、NAS、転移学習…こうしたワードを知るだけでも、解決したい問題に対する選択肢が増えるので、良かった。また新版で最後に追加された生成モデルの章も、オートエンコーダからVAE、GANと勉強になった。ボルツマンマシン(確率挙動の双方向結合NN)も扱われていて、特に勉強したかったところで、発見も多くこれも良かった。物理でいう統計力学の分配関数とか出てきて、このあたりで統計という文脈でつながっているんだなと実感できた。

[ブクログ · ★★★★★]

深層学習の原理について，さまざまなタスクな対するモデルがまとまっている。2022年1月に改訂版が販売され，深層学習のトレンドがさらに広く記述されている。