2018-03-24

Neural Network Console 07(過学習 Training,Validation,Evaluation-3)

Neural Network Console 01(インストールとサンプル実行)
Neural Network Console 02(GPU設定、効果)
Neural Network Console 03(自前データ)
Neural Network Console 04(繰り返し回数と学習結果 Max Epoch )
Neural Network Console 05(過学習 Training,Validation,Evaluation-1)
Neural Network Console 06(過学習 Training,Validation,Evaluation-2) の続き

06でやっぱり過学習(間違えていたらごめんなさい。ここに至るまでほとんど勉強していません)らしい事がわかった。学習データ個々の専用線ができるのではという想定なので、どこかでデータの個数より線(結合、リンク)を減らせばいいのではと思ったので試してみた。
データセットは06と同じ

  • Training:20個のもの
  • Validation:10個のもの
  • Evaluation:10個のもの(Validationと同じ)

Max Epochは100
Save BestチェックOFF

1.Affineの出力を100→15に
データ数が30個なので、その半分の15にしてみた。
結果
 1回目はもしかして効果あり?と思ったが、2回目はだめ。ただの偶然だったようだ。

2.Convolutionを5,5→10,10に
この変更に特に考えはない。ただ減らせそうなところを減らしてみただけ。
結果
 
 やっぱりだめだった。

この後、neural network consoleのStructure Search(構造を自動的に探してくれる)も試してみたけど、Learning Curveの時点でだめそう(Validation Errorが下がっていかない)だった。

適当にやってみたけど、そんなに甘くはなかった。そろそろ勉強しないと…。
でも、こんなことを簡単に試して見れるのは、Neural Network Consoleの素晴らしいところ。

0 件のコメント:

コメントを投稿