diary

0531

昨晩は本当に死ぬほど気分が悪かったのだけど、今日はちょっと相談していろいろ回避できることになりました。まあこれで全部解決するのかよくわからないけど。とりあえずそれ以降は元気なのでよかった。


仕事は遅れているなりに進んではいる。顔分類器を書いたら正答率が85%くらいになって、やるじゃんと思った。だけどBatch Normalizationがうまくリストアされないみたいで、これは僕の使い方が悪いのかnightly版の機能をドキュメントもないのに使った僕が悪いのかはまだよくわからない。どっちにしても僕が悪いので、オーブンでお耳をバッチンしないといけませんね。


地図のDCGANは(DCGANにありがちなように)夜中に発散しました。残念です。しばらくして発散するのがありがちだと思ってるのってもしかして僕だけ?僕の実装が悪いんだろうか。うーむ?

今夜は夜更かしはしないけどAEEの実装を進めたい。TensorFlowを使ったコードの設計に関する洞察が日に日に深まるので書いたコードがどんどん見通し悪くなっててつらい。


0601

昨晩はAAEを実装しました。でもうまく動いているようには思えません。というか、オートエンコーダの損失が大きすぎるんじゃないだろうかという気もする。スケールすればいけるのかな……。


お昼から仕事。Batch Normalizationがおかしかった問題は、単に移動平均が追いつくのが遅すぎただけのようでした。decayを0.99にしたらうまく動くようになって、テストセットでの正答率は90%ということで、ほんまかいなと思うのですけど(テストセット作る時に何らかの偏りが混入していないか?)まあまあうまく動いていると言えるようでほっとしました。


今夜もAAEをいろいろ触りたいのだけど、なんか風邪の気配が忍び寄っているので、早くたくさん寝たほうがいいかも。寝たくらいで風邪が退散してくれるというのもあまり覚えがないのだけどもね。


0602

昨晩はAAEをちまちま調整したり社内向けにTensorFlow入門を書いたりしました。計算グラフの概念は最初見たときなかなか要領を得なくて難儀したので、そういうところを重視した説明があったらよかったかなと思ったりします。でも結局理解してるんだしそんなの必要ないのかも。難しいですね。


仕事はわりと周辺的な作業。tfmodelの出力とか。ただメタグラフの扱いかたがよくわからなかったのでステップ数とかタイムスタンプとか変数として保存しちゃいました。こういうのは本当はメタデータとして持つべきなんだろうけど、ドキュメントがない。あとラベル文字列も格納したけど、これもこういうのがいいのかは謎。でもモデルダンプなんだし無駄に外部に依存すると扱いづらいから、これでいい気がする。


AAEはまだうまくゆきません。オートエンコーダとしてはまあ普通くらいに頑張ってくれるんだけど、Adversarial部分が全然、ほとんど何も動かないし、しばらく放置するとオートエンコーダもやる気をなくしてしまう。なんでなんだろうな。うーむ。
あとぼんやり見てたらなぜか画像の重複が多い気がしてなんでかなと思っていたのだけど、どうも存在しない駅を選ぼうとして失敗して全部函館らへんのどこかになってしまっているみたいでした。マジかよ、除去するの面倒だし修正して最初からやり直しかなあ、今週の作業が無駄になってしまった、はー。


0603

昨晩はAAEをただのオートエンコーダにして動かしました。これだとちゃんと動くので、よくわからんなあという感じ(わからなさが改善しない実験は無駄な実験なのでは?)。今夜は先にオートエンコーダを動かして落ちついてきたところにD/Gを投入する方針でやってみようかなと思います。泥沼感。


仕事はゆっくり。Faster R-CNNの性能評価が異常に低かったのは単にスクリプトの使い方がまずかっただけだったとわかったのでそれを修正したり。まあいずれにしてもあんまり高くはないのですけど。たぶん単にステップが足りてないせい。

あとはC++を書こうと四苦八苦してみたり。僕はどうもC++に苦手意識があるのだけど、結局触らなきゃいけない機会が結構あるのでどうしたものかと思う。なんかいいIDEとかあれば扱いやすくなるんだろうか。


さて土日。片方くらいは散歩に出たいような、それよりゆっくり休んだほうがいいような。それにやることたくさんあるのよね。うーむ。


0604

昨晩はAAEを調整していました。Discriminatorがぜんぜん学習しないなーと思っていたのだけど、それはどうも間にReLUを挟むのを忘れていたからだったらしく、ギャーという感じです。非線型性を挟まないとどうなるのかの勉強にはなった(無駄にした時間よ)。


今日もいろいろ試行錯誤しているのだけど、なんか計算が発散するので難儀しています。しかも数値チェッカーを挟むと発散しなくなる。うーん、困った。いや、発散しなくなるならそれでいいという考えかたはあるんだけど、それって何かが正常ではないってことなわけじゃん?あと遅いし。

あとはちょっと本を読みました。今夜もAAEの調整をします。


0605

AAEはゆっくり進んでいます。ゆっくりゆっくり進んではいるけど、オートエンコーダの誤差があまり下がりきらないしときどき忘れたりします。うーむ、もうちょっと待つけど。


今日は雨だと思ってたけど晴れたので夕方に散歩に出ました。晴れた日に川沿いを歩くと開放感があってとても気分が高揚する。ねこの写真も撮った。


さて、明日は病院の予約が早いので早く寝る必要があります。ところで頭が痛い。なんか最近散歩すると頭痛くならない?気のせい?


0606

人生が勝手にアップデートしたせいでこれまで使っていた精神が対応できない。元に戻してくれ。


通院のあと仕事。人生で避けては通れないC++イベント。やっぱりね、あの言語はエラーメッセージがとげとげしていてよくない。gccが悪いんだろうか。あと個人的にはテンプレートの型パラメータの括弧(<>)が何重にもなっているのをくり返し目にするとつらくなってきた(でもその主張は http://love-motif.com/article/art_13.shtml を彷彿とさせる)。

AAEはゆっくり進んでいます。ゆっくり、ゆっくり。でもちょっとGeneratorさんチームが押され気味。ところで、うまく行くのかわからない計算にこうやってお金をじゃぶじゃぶ注ぎ込むのって本質的にはパチンコなんじゃないだろうか。うーむ。


具合が良くないので早めに寝たい(、と毎日言っている)。


0607

風邪気味。風邪気味じゃないと具体的にはどういういいことがあるのかは思い出せないけど。でもおなかとか痛いのは風邪だからだと思う。(風邪じゃないときはあまりおなかが痛くならないことに気づいてきた)


仕事はC++ライブラリのPythonポートなど。一応動くものができたので一旦ここまでとするのだけど、結局ムーヴ・セマンティクスのことがよくわからなかったり、そもそもC++のメモリ管理全般がよくわかってなかったりするので心配。

本丸以外の部分はだんだん形ができてきたのだけど、本丸の精度がなかなか上がらないのでどうしたものか。


AAEはオートエンコーダがじわじわと精度向上しているけれど、ジェネレイタのスコアはゆっくり上がっていて結局あまりちゃんとした画像は出てきていません。これそろそろ一万円超えてると思うんだけど、ゆっくり進んでいるので止めどきが見つからない。困った。まあ、コストパフォーマンスは悪くない、と思う(どうだろう?)


要するに僕はとにかく打ち合わせに行きたくないんだなということがはっきりと理解されてきたんだけど、だからって行かなくて済むというわけでもなく、ただつらい。前はそんなことなかったと思うんだけどな、どうしたんだろう(たぶん、本当は僕が行く必要なんかないと思っているか、ろくに話せる成果がなくて弱気になっているかなんだ)。