0424
具合が悪いようでそこまで悪くない感じ。
昨晩は結局だらだらとtext-dcganに手を入れたりTCP/IP入門を読んだりして夜更かししてしまった気がします。そう、何をしたのかはよくわからないけれど夜更かししてしまったのだけは本当。そういうことをすると今夜寝付けなくて明日の朝がつらい。明日の朝は病院に行くから早起きしなくてはいけないのに。はあ。
今日はおよそ生産的なことをなにもしていません。未練がましくtext-dcganを触ったりしていますが当然ろくな成果はありません。weight decayを入れておくと最初の数千ステップはおとなしくしているのですが途中でいきなり蜂起してどこかへ発散してゆきます。なんだこれ。
あと、今更なんだけども、食わせている文字列の埋め込みベクトルは全部固定的で、しかも規格化されている（たぶん）ので、discriminatorが簡単すぎるんじゃないだろうか。じゃあノイズを足してみたらいいのかなと思うのですが、いまのところあまり上手くいっていません。うーん、そろそろ本当に諦めるべきな気がするなあ。あとはdiscriminatorの過学習を疑っているけど、いや、それはないか……。
来週は人と会う用事が複数あって心配。はー。