2016-11-11から1日間の記事一覧

2016-11-11

６章　学習に関するテクニック　Batch Normalization 『ゼロから作るDeep Learning』

Deep Learning

６章学習に関するテクニック『ゼロから作るDeep Learning』続いて、Batch Normalization Batch Normalization(Batch Norm)とは：ミニバッチごとに正規化する手法。メリット：学習を速く進行させることができる初期値にそれほど依存しない（初期値にロバ…

2016-11-11

６章　学習に関するテクニック　推奨される重み初期値『ゼロから作るDeep Learning』

Deep Learning

６章学習に関するテクニック『ゼロから作るDeep Learning』続き。重みの初期値について。結論として、重みの初期値をゼロにするのはNG。重みの対照的な構造を崩し、ランダムな初期値を設定する。勾配消失gradient vanishing：逆伝播での勾配の値が徐…

kaeken(嘉永島健司)のTech探究ブログ

主に情報科学/情報技術全般に関する知見をポストします。（最近は、特にData Science、機械学習、深層学習、統計学、Python、数学、ビッグデータ）

2016-11-11から1日間の記事一覧

６章　学習に関するテクニック　Batch Normalization 『ゼロから作るDeep Learning』

６章　学習に関するテクニック　推奨される重み初期値『ゼロから作るDeep Learning』

2016-11-11から1日間の記事一覧

６章 学習に関するテクニック Batch Normalization 『ゼロから作るDeep Learning』

６章 学習に関するテクニック 推奨される重み初期値 『ゼロから作るDeep Learning』

６章　学習に関するテクニック　Batch Normalization 『ゼロから作るDeep Learning』

６章　学習に関するテクニック　推奨される重み初期値『ゼロから作るDeep Learning』