andante

昨晩はAAEを調整していました。Discriminatorがぜんぜん学習しないなーと思っていたのだけど、それはどうも間にReLUを挟むのを忘れていたからだったらしく、ギャーという感じです。非線型性を挟まないとどうなるのかの勉強にはなった（無駄にした時間よ）。

今日もいろいろ試行錯誤しているのだけど、なんか計算が発散するので難儀しています。しかも数値チェッカーを挟むと発散しなくなる。うーん、困った。いや、発散しなくなるならそれでいいという考えかたはあるんだけど、それって何かが正常ではないってことなわけじゃん？あと遅いし。

あとはちょっと本を読みました。今夜もAAEの調整をします。