Neural Network Console 07(過学習 Training,Validation,Evaluation-3)

Neural Network Console 01(インストールとサンプル実行)
Neural Network Console 02(GPU設定、効果)
Neural Network Console 03(自前データ)
Neural Network Console 04(繰り返し回数と学習結果 Max Epoch )
Neural Network Console 05(過学習 Training,Validation,Evaluation-1)
Neural Network Console 06(過学習 Training,Validation,Evaluation-2) の続き

06でやっぱり過学習(間違えていたらごめんなさい。ここに至るまでほとんど勉強していません)らしい事がわかった。学習データ個々の専用線ができるのではという想定なので、どこかでデータの個数より線(結合、リンク)を減らせばいいのではと思ったので試してみた。
データセットは06と同じ

• Training:20個のもの
• Validation:10個のもの
• Evaluation:10個のもの(Validationと同じ)

Max Epochは100
Save BestチェックOFF

１．Affineの出力を100→15に

データ数が30個なので、その半分の15にしてみた。
結果

 １回目はもしかして効果あり？と思ったが、２回目はだめ。ただの偶然だったようだ。

2．Convolutionを5,5→10,10に

この変更に特に考えはない。ただ減らせそうなところを減らしてみただけ。
結果

 

 やっぱりだめだった。

この後、neural network consoleのStructure Search(構造を自動的に探してくれる)も試してみたけど、Learning Curveの時点でだめそう(Validation Errorが下がっていかない)だった。

適当にやってみたけど、そんなに甘くはなかった。そろそろ勉強しないと…。
でも、こんなことを簡単に試して見れるのは、Neural Network Consoleの素晴らしいところ。