0601
昨晩はAAEを実装しました。でもうまく動いているようには思えません。というか、オートエンコーダの損失が大きすぎるんじゃないだろうかという気もする。スケールすればいけるのかな……。
お昼から仕事。Batch Normalizationがおかしかった問題は、単に移動平均が追いつくのが遅すぎただけのようでした。decayを0.99にしたらうまく動くようになって、テストセットでの正答率は90%ということで、ほんまかいなと思うのですけど（テストセット作る時に何らかの偏りが混入していないか？）まあまあうまく動いていると言えるようでほっとしました。
今夜もAAEをいろいろ触りたいのだけど、なんか風邪の気配が忍び寄っているので、早くたくさん寝たほうがいいかも。寝たくらいで風邪が退散してくれるというのもあまり覚えがないのだけどもね。