昨晩はtensorflowのopを書いていました。なんでこれうまくいかないんだろーと思ってたものがわりとしょうもない勘違いに起因していたことがわかって、それでやっとNMSが動きました。やっぱりC++のエラーメッセージはわかりにくい。実行時になら出せる情報を型推論だけで全部やろうとするからなんだろうと思う。それともちゃんとしたIDEがあれば違うんだろうか。
今日は夕方から散歩に行きました。楽しい楽しいと思ってどんどん歩いていると、やあ疲れてきたなと思ったところで復路が残っているのでしんどいですね。「デバッグはコーディングの二倍難しいので、全力のロジックは自分でデバッグできない」みたいな格言を思い出します。今日は17.5kmでした。10kmを越えるとつらいので、今度からは5kmくらいで折り返すべきなんだけど、遠くに行きたいのよね。帰りは電車に乗るとかしたほうがいいのかも。
今夜はもうちょっとC++でいろいろ書く練習……と思ったのだけど、さっきからなんか体温が高いので早めに寝たほうが良さそう。なんだこれ、ちょっと疲れただけとかだったらいいんだけど。
Make everything seachable.
見聞きして書いたものすべてを検索可能にすべきだと思うのです。tweetも、likeも、reblogも、この日記も。一年か二年か前にtweetは検索可能にしたけど（ http://logt.necocen.info/ ）、それではぜんぜん足らない。特にreblogとlikeがないのが痛い。
作るとしたらelixirの勉強がてらということになるんだけど、今はぜんぜんそんな時間がない。まあでも機械学習に飽きたらそっちやりましょうかね。
text-dcganは結局ぜんぜんうまくいっていません。なんでgeneratorのlossがどんどん発散するんだろう。やっぱりRNNを使わないといけないんだろうか。そういえばこないだRNNの新しいのが出てたよね、実装してみようかしら。
仕事は久々にアプリ開発。見透しよく書くにはどうすればいいのか、なんてことに悩むのは久々という感じ。すこしは貢献できているといいのだけど。
あとはEigenと格闘したりもしましたが結局よくわかりません。つらい。週末にちょっと調べてみようかなあ。
さて週末。明日晴れてる ∧ 元気ならまた散歩に行こうかなあ。週に一度はちゃんと歩かないと。
ずっとグアイワルニャーオ。
昨晩は「マスタリングTCP/IP」を読んだりしました。読んでて思ったのだけど、僕が一番知りたいのは物理層なんじゃないだろうか。こないだCPUエミュレイタ書いたときみたいにさ、とにかく実際に触れるものとの接触点がどうなっているのか、なによりまずそこを理解しないといけない気がする。
仕事は難航。ついにC++でtensorflowのopを書き始めたのだけど、ドキュメントがぜんぜんないのでなかなか進みません。というかEigen？のことがよくわからないのがつらい。これ将来的にはCUDAでも書かなきゃいけないの？しんどいな……
あとC++（というかテンプレート）はちょっと間違えただけで世界の終わりみたいにエラーを寄越すのもしんどい。REPLのある言語のありがたみよ。
今夜もtext-dcganを応援しながら本を読みます。text-dcganはあんまり収束する気配がありません。generatorさんチームはもうすこしがんばってください！
昨晩はtext-dcganを書いていました。一応動かせるところまで来たのだけど、なかなかgeneratorが学習してくれません。cross entropyが50とかになってるの、なんか壊れてるんじゃないのかな。ふーむ。
仕事は難航。FRCNNの実装なんだけど、いざ書こうとしてみると理解があやふやなところとかいろいろ出てきたのでまたソースを復習したり。とりあえずproposal部分はNMS以外はpythonで書けそうなんだけど、NMSは無理でしょう。まあ元実装のコードを参考にしつつ明日がんばるつもり。
ところでOCRのほうは完全に諦めムード。まあしょうがないよね。
今夜はtext-dcganを応援しつつ本でも読もうかな。ちょっと疲れているから早めに寝るよ。
昨晩はdiscriminatorの周辺をちょっと修正して、とりあえずグラフ的には正気っぽいコードになったところまでで寝ました。今夜は実際のデータを流すところまでやりたいんだけど、できるかなあ。
お昼から仕事。社外打ち合わせ。なんで僕を連れてくんですかって訊いたら「雰囲気を出すため」みたいなことを言われたので、僕はもしかしたら人間よりも間接照明に近い存在だったのかもしれない、と思いました（思っていません）。雰囲気は出しました。名刺交換くらいでキョドるのはさすがになんとかしたいよね。
あとFaster R-CNNのtf実装を検討しています。できればC++書きたくないんだけど、少なくともNMSは必要だし、RoI Poolingとか、あとSmooth L1 Lossも必要でしょう。そういえばFCLNのRoI Poolingって何がどう微分可能なんだっけ。勉強が足らない。
具合は昨日よりちょっと良くなっている気がする、けど単に朝風邪薬飲んだからかもしれない。
昨晩はDCGANのモデルを書いていました。一応たたみ込んだりするところはできたのだけど、discriminator二回走らせたらグラフが二つになって、変数は共有してるにしてもあまり格好良くないので、一度で済ませられるように工夫するつもりです。
具合はあまりよくない。明日は社外の打ち合わせに同行するらしい。二年ぶりくらいだから緊張する。
昨晩はtfでモデルを書き始めたけどやっぱり微妙に不慣れなので進みません。特に、generatorとdiscriminatorを別々に作って独立にパラメータ更新するところとか、これまで適当に任せてたところをちゃんとやらないといけない感じで難しい。
今日は特になにもしていません。「ヤマノススメ」一期がAmazonプライムで観られたのでぼんやり観ました。そういえば二年半くらい前に高尾山登ったっけな。ぜんぜん記憶が無いけど。
調子があんまりよくない。元気がない。うーむ。
昨晩はTweetコーパスを分かち書きしてSwivelアルゴリズムに投げるところまでやりました。Python3を最近ようやくたどたどしく書き始めたところなのに、Python2のコードを3に修正するとかなかなか厳しい。でもtensorflowをPy3環境にインストールしてしまったからPy2には戻れない。ふーむ。
お昼過ぎに起きてちょっとだけ会社で作業しました。勾配のクリッピングを入れて再計算。でもやっぱりまだうまく動いていない気配があります。こんどは勾配が小さすぎたり、あとどうもweight decayは省いた方が良かったような気もする。うーん、難しい。
その後三時間ばかり散歩しました。14キロ歩いたらさすがに疲れた。
今夜はDCGANの実装まで進められたらいい、けど期待はしない。
昨晩も分かち書きと語彙表作成をしていました。Python、慣れない。
仕事は挫折。結局文字認識は無理そう。まだ試してはいるけど、帰り際に走らせた計算がさっき見た感じ発散しているので、明日ちょっと行って直そうかなと思う。勾配のクリップを入れるだけだしすぐでしょう（しかしなんで急に発散しているのか不明なのが気がかりだ）。はー憂鬱。
明日はまた散歩に行けたらいいなと思う。今夜はword embeddingまで進めたらと思ってたけど、帰ってくるの遅かったし、明日会社も行くんだったらあんまり遅くまで作業してたくないよな、とか。ふうむ。
大きな災害があると、疑心暗鬼と道徳自慢の悪魔合体がメディア気取りで跳梁跋扈して、ちょっとしんどい気持ちになる。
昨晩は久々にちょっとやる気が出たのでTweetを分かち書きして語彙に番号をつけて数字の列にするコードを途中まで書きました。これを何らかのword embeddingに食わせて、そこからDCGANに投げることになるはずです。たぶんword embeddingは$N-1$次元になって、残りの１次元は空白の表現に使う$N$次元表現を、幅1pxの$N$チャンネル画像と見立てて畳み込みをするでしょう。縦は1postあたりの最大語彙数、たぶん100くらいに制限します。それより短いものは中央に寄せて上下を空白にします。$N$がどれくらいになるかは未定。
今日はあまり具合が良くない。どう良くないというのも難しいのだけど、ただ疲労している。肩凝りがひどいのかも。うーん。
セイヨウサシミタンポポ（学名: Taraxacum sasimium）は、キク科タンポポ属の多年生植物。
元々ヨーロッパを中心に刺身のつまなどに用いられていた[1]が、
日本でも戦後に持ち込まれて以降急速に普及し、
現在では「刺身のタンポポ」といえばこちらを思い浮かべる人が多い[要出典]。
日本在来種に比べるとやや小型なのが特徴で、色合いもわずかだが黄色が強い。