仕事は昨日よりは順調。一応動き始めて、何かを学習している素振りは見せ始めるようになりました。でも一回突然NaN出して死んだし予断を許さない。チェッカーを挟もうとしたらGPUのメモリに乗らないとか言われたので挟めなかった、でもいくつかアタリつけて挟むべきだと思う。週明けにでも試すべき。
あとOpenCVで簡単なクロップをするスクリプトを書いたり。諸々の不安要素を置き去りにしたままシステムが形を現しはじめる。
今夜はDCGANの再実装をしたい。目標はそこではなくAdversarial Autoencoderなんだけど、こないだDCGANのlossが僕の思ってたのとオリジナルの論文とでちょっと違うと知ったので（もしかすると実質的には等価かもしれないが）それもあわせて実装する。その次はseq2seq Autoencoder。ふむ、やりきれるだろうか。
あとXamarinも触らないといけないのよね、勉強会で発表するので。土日も忙しい。明日は散歩に行けたら行きたい。
昨晩はTensorFlowでDCGANを実装しました（間違ってたことがあとでわかったのだけど）。なんとなく、こう書くと見やすいし手を入れやすくなるかな、みたいな流れはわかってきたのだけど、DCGANのように一つのネットワークを二回通すような場合はどうするのがいいのかまだよくわかりません。variable scopeを共有するとtensorboardにでっかい矢印がでてきてイケてないし、summaryもなんか微妙になる。
データは結局MNISTを食わせたのだけど（TensorFlowのチュートリアルコードで数行で読めたので）、単純なコーディングミスでweightがtrainableになってなかったので全然だめでした。
今日は起きてからDCGANの様子を見て、いろいろ修正してから夕方に散歩に出ました。なんか六本木？とか赤坂？とかの年収が高そうなところを通ったりしました。あいかわらず方向感覚がないので、西に進んでいるつもりが途中から南になったりしました。
DCGANは一応動いてくれるようになったのだけど（いろいろ表示させておくとGeneratorが突然理解りを得るのとかが見えて楽しいですね）、log lossが発散するので対策を考えています。1e-12くらい足しておけばいいだろうか。
今夜はXamarinをいろいろ触ります。非同期で通信するようなものを作れるといい。
昨晩はXamarin Studioをちょっと触りました。async/awaitを使って非同期HTTP通信するのとかも試したけど、これ便利ですね。dispatch_asyncとかだとコールバックでネストがどんどん深くなっていくのをフラットに書けるってことでしょ？エラー処理はまだ試してないんだけど、try-catchの中に普通に書けるっぽいしそれで済むんじゃないかな。かっこいい。
今日はどうも具合が良くないのであまりなにもしていません。そういえばDCGANさんは一時ちゃんと数字を覚えてくれたのだけど、さっき見たらなんかゲームに出てくる遺跡の古代文字みたいなのをどんどん吐くようになってしまっていました。なんだこれ。Discriminatorさんチームは何をやってるんだ。いま見たらGeneratorさんチームの最後のdeconv層のbiasが急に大きくなってしまっているけれど、君はいったい何を学んだ結果そうなったんだ。
あとVariational Autoencoderのことをすこし勉強しようと思ったのだけど、ベイズ学習？とかのことがよくわかっていないのでいまいちピンときません。うーん、腰を据えて勉強した方がいい気がするな。いつまでもそういうところを無視してロジスティック回帰のオバケばかり触って喜んでいるわけにもゆくまい。
明日は病院（定例）。今夜はあまり夜更かししたくないのだけど、深層学習勉強会の課題をやらねば。
23日になるたびに、今日はなにかの記念日ではなかったかという気持ちになる。23という数には、そういう特別さがそなわっていると思う。（好きな数は17だけど）
お昼から仕事。週末の間に死んでいた学習の司法解剖を試みたけど結局よくわかりません。仕方ないので三箇所くらいにcheck_numericsを挟んだけど、こいつ勾配を伝搬しないらしい（それはバグでは？）。厄介。
明らかに進捗が遅れっぱなしのように思われるんだけど大丈夫なんだろうか。大丈夫ではないのだが。
今日はとても具合が悪いので早く寝ます。でも髪が乾くまでは起きてなきゃいけないので、今日の勉強会の講義ノートをまとめる作業でもしようかな。TensorFlowはちょっとお預け。あとXamarinは水曜日くらいから資料作る。
偉大な人物になれないのなら、せめて礼儀正しく穏やかな人物でありたいと願ったのに、現実は人生は容赦なく僕に降りかかってくる。きっと誰でもそうなのだろう。僕だけは負けてはいけない。でも負けてしまうのかもしれない。僕だけは負けてはいけない。
朝からずっとおなかが痛い。たぶんおなかに来る風邪なんだと思う。お引き取り願いたい。
おなか痛かったので仕事はあんまり進みませんでした。いろいろ検討はしたけど。うーん、ちょっとテンション低い。なんかモチベイションを回復するものがないと。
今日は異常に具合が悪い。（全然信じてないこと言いますが、）低気圧でも来てたんだろうか。
考えなしに無職になってしまいたいという想いが日に日に積み上がってゆく気配を感じる。とにかく伊豆あたりで静養したい。当たり前みたいな顔して週に五日も労働してるの馬鹿みたいじゃん。（「五日も」と言いましたが三日ならいいというわけではないです）
仕事はあまり上手くいっていないが話だけが先へ進み続けている。心が休まらない。
健康だった頃のスナップショットからやり直せるならその間のこと全部忘れたって構やしないと思う。六年くらいは戻ることになると思うけど、まあなんとかなるでしょうと思う。
今夜こそは早く寝なくてはいけないのだが、勉強会の資料も作らねばなるまい。あまり気乗りがしない。
あまり気乗りがしない。
昨晩からずっと心身ともに具合が最悪です。なんだこれ。なにをすれば元に戻るんだ。助けてくれ。助けてくれ。
友達づきあいの不要な友達がほしい。その差分が何なのかはあまり真面目に考えたくはない。
勉強会の準備は結局たいして進んでいないので今夜これからやります。来週も心が休まらない。もうだめだ。無理だ。
昨晩は勉強会の準備をしました。async/awaitの例外処理は思った通りそのままtry-catchを書けばよく、ああこれは素晴らしい仕組みだなあと思いました。
お昼から仕事。勉強会の発表を乗り切ったら予想外に精神状態が改善したのだけど、あれそんなに重荷だったんだろうか。面倒だなとは思っていたけど、もっと他にいろいろあるだろうに。精神を支配する力学はわからぬことだらけだ（昔からよく知られた事実）。
でも仕事はあんまり順調ではないです。たぶん来週ResNet-ELUを実装することになるな。
今夜は画像のオートエンコーダを書きます。それが思ったより上手くいったりしたらそこからAAEに突入だけど、それより面白みのある画像データを集めるなどすべきかもしれない。地図とか、アニメキャラとか。でもあんまり夜更かししないようにしたい。
「ハンマーを持っているとあらゆる問題が釘に見える」病に罹患しているので、「ハンマーを持っているとあらゆる問題が釘に見える」病は要するにoverfittingなんだと考えており、教師データを増やすことで対応可能だろうと推測したりする。合ってるんじゃないかという気もする。
昨晩はConv４層Deconv４層のオートエンコーダを書きました。MNISTで試したらちゃんと動いたのだけど、まあMNISTごときじゃよくわからないよねとは思います。
今日は（いつもながら）特に何もしていません。Google Maps APIから地図をダウンロードすることを検討したり、日本の駅の緯度経度の一覧を取得したりしました。とりあえず駅と線路沿いに的を絞ればそれなりに人のいる陸地になるでしょうという期待です。あとは国勢調査の結果でも参照して人口密度くらいを取れればいいかなーとか。うまくゆくのかわかんないですが。
今夜は画像取得を開始できたらと思います。あとsafebooruあたりでアニメキャラ画像も取ってこようかな。テーマとして地図だけじゃなくていろいろやりたい。
なんだかしんどいなーと思って体温計をはさんでみたら微妙に体温が高いです。なんだこれ。いったいなにをすれば体調を崩さずにのんびりできるんだ。
昨晩はGoogle Mapsから画像をダウンロードするコードを書いていました。たくさんダウンロードするのは時間が掛かるので並行処理できたらいいなと思ったんだけど、Pythonでそういうのをどうすればいいのかよくわからなかったので諦めました。まあ手許で動かすわけでもないのだし、問題ないでしょう。ただ一日25000件縛りがあるからすぐには集まりません。
http://gyazo.necocen.info/140d6f3bee238c3177a9767734d83897.png 様子です
今日はあれやろうこれやろうと思っているうちに結局なにもできなくて、さっきようやく地図画像をDCGANに食わせ始めました。結局データはどういう形で与えるのがやりやすいのかよくわからなくて、よくわからないのだけどtfrecordsに固めることにしました。これもせっかく分割してるのだし並列化とかできたらよかったんだけど、やっぱりよくわからないのでやめました。Pythonのマルチスレッドについてはどこかでしっかり勉強した方がいいかもしれません。ってかいつのまにか普段からPython使う感じになってしまったな、まあ悪い言語じゃないし（2/3対応は勘弁してほしいけども）。
今夜はAAEのモデル書くところまでできたらいいなと思うのだけど、まあ無理だろうな。でもがんばろう。
