0604
昨晩はAAEを調整していました。Discriminatorがぜんぜん学習しないなーと思っていたのだけど、それはどうも間にReLUを挟むのを忘れていたからだったらしく、ギャーという感じです。非線型性を挟まないとどうなるのかの勉強にはなった(無駄にした時間よ)。
今日もいろいろ試行錯誤しているのだけど、なんか計算が発散するので難儀しています。しかも数値チェッカーを挟むと発散しなくなる。うーん、困った。いや、発散しなくなるならそれでいいという考えかたはあるんだけど、それって何かが正常ではないってことなわけじゃん?あと遅いし。
あとはちょっと本を読みました。今夜もAAEの調整をします。