andante

まあ、結論からいうと昨日のアレはぬか喜びだったわけですが。だいたい30000Stepsあたりでmode collapseが起こるみたいで、その閾値はλパラメータにあまりよらないみたい（いま調べている限りでは0.5でも1でも2でもだいたいそのあたりで崩壊する）。ただVanilla GANやλ=10とかだと最初からcollapseしているのでそういうのと比べるとずっとよいように思われるから、あとはこれをどう処理するか考えないといけない。どうも30000Stepsあたりで$\mathrm{Dis}(X_p)$が急激に低下するようなのだけど、これはDiscriminatorが過剰に賢くなっているということなのだろうか？（でもそれってなんか関係あるか？だいたい摂動した入力を与えてるんだからfake判定されるのは当然ではないのか？）

仕事は不具合調査と対応と、あとLT会の資料作成。Gyazo Cloneの話をしようと思っているのだけど、一年半前の自分がなぜこういう構成で行こうと思ったのか正直よくわからなかったりして困る。まあそのあたりはうまいことごまかしてストーリーを構成すればいいかなあ（できるとは言っていない）。

明日は会社の先輩の送別会。幹事とかやるの久々か初めてかどっちかなので緊張する。ハー。

実験ノート。バッチサイズを128に拡大したところmode collapseの発生が早まった。これはDiscriminatorの学習が安定化したためと思ってよいのだろうか。そうだったとして対策は特に思いつかない。うーむ。learning rateをcollapseの手前で落としてみるとかすべきなのかなあ。

仕事は残タスク対応と不具合検討。でもこれiOSのSDK使ってる限り直らないんじゃないかなと思う。そういう不具合とどう闘ってゆくべきなのか、受託開発の身としてはわからぬままだ。

夜は先輩の送別会。ながくお世話になった人なのでとても寂しい。しかし、さようなら（そのようにあらねばならないのなら）、どうかお元気で、という気持ちだ。
それはそれとして、僕も転職を真面目に考えるべき時期なのかもしれない。でもな、僕には社会性が足りないし、その会社がエンジニアをどのように扱っているかなんて外からじゃわからないのではという気もするしな。（あとまあ、現状の僕の立ち位置からではそんなに不満は見えないというのもある）（それは僕が近視眼的すぎるというだけでは？）

さて週末、と書きかけてそうではないことに気づきました。明日はLT会の準備をしないと。でも一年半も前にやったことの記憶なんてあてにならないし、ちょっと調べたら状況もいろいろ変わっているっぽいし、なんかやる意義を見出せないよなあ、これ。うーむ。

5813

ずっと寝たり起きたりしていました。LTの準備をしなくてはいけないのに。ずっと寝たり起きたりしていました。LTの準備をしなくてはいけないのに。

今夜はすこし夜更かしすることになるでしょう。LTの準備をしなくてはいけないので。

仕事はぜんぜんだめ。LT発表はまあなんとか乗り切れたけど、不具合はぜんぜん直らない。

さて今度こそ週末。DRAGANの世話でもしようかしらね、でも次の一手が思いつかないのよな。うーむ。

昨晩はお酒を飲みながらDRAGANの面倒を見ていました。いろいろ構造をいじってみたのだけど、どうもcollapseが早まるばかりでうまくゆきません。pixel shufflingとか入れてみたんだけど見た目に特段の影響はなさそうです。うーん。

今日もチューニングしつつ昼寝していました。やっぱりうまくゆきません。やっぱりlearning rateを漸減させるなどする必要があるのかなあ。それで良くなるともあまり思えないんだけどなあ。

DRAGANの世話はぜんぜんうまくゆきません。Generatorの構造をmake girls moeの論文にだいぶ近づけたんだけど、そんな小細工でうまくゆくわけはなかった。とはいえ総合的な画像の質は向上しているようにも思われ、うーむむという感じ。次の一手がない。

友人たちと北海道を自動車で旅行する夢を見ていたと思ったら日曜日の夜だった。あまりのショックにしばし呆然としてしまった。明日は平日。また直る見込みのない不具合と向き合わねばなりません。

DRAGANはハイパーパラメータのチューニングがちょっとうまくいったのか60000stepsくらいまでは安定するようになりました。うん、悪くないんじゃない？この路線でもうちょっとGeneratorにresidual blockを積んで、それからDiscriminatorを強化することを考えようか。うんうん、今日は僕の機嫌もよいぞ。

仕事はCoreDataまわりの不具合修正。やっと倒せたーーー！と思ったんだけどさっきシャワー浴びてたら突然ダメなケースを思いついたので明日再修正かなあと思います。マジかよ、がっかり。でも気づけて良かった（今日の僕は機嫌がよい）。

仕事のあと、院生時代の同期が近くに来ているとかで一緒に食事をしたり家に呼んだりしました。近所に引っ越してくる予定だそうです。ワーオ。

sate-sate, 今夜はもう遅いからもう寝ましょう。

記事作成画面に「消去」なんて不要なボタンをつけた挙げ句確認ダイアログも出さずに消去する仕様にしたのは誰だ。僕だ。チクショウ、全部書き直しだ。

なんだっけ。仕事はUITableViewとの格闘に敗れました。というかあの設計の最小コードでも再現するから設計自体変えないと回避できない気がする。明日ちょっと相談してもうちょっと対処できそうなチケットを振ってもらおうと思う。

あとなんだっけ。DRAGANか。今夜はskip connectionを追加したバージョンを走らせます。それがうまくいったらresidual blocksを追加して、ところでDiscriminatorはどうやって強化すれば良いのかよくわかりません。うまく動くなら別に強化する必要なんかないのかもしれないけど。それにしたっていまの構造は単純過ぎる（convが4枚fcが一枚）気がするから、もうちょっとなんか入れたほうがいい気がするのだけど……。

具合があまりよくないので今夜はもう寝ます（ってさっきも書いたんだけどさ）。すみすみ。

DRAGANにskip connectionを追加したところ15000stepsあたりで崩壊するようになってしまって、なんでだろ〜なんでだろ〜と思いながらλパラメータをいじったら50000stepsくらいまでは安定するようになりました。うーん、難しい。今夜はresidual blocksを増やしてまた回そうかな。

仕事はGoogle Analyticsのトラッキングなど。アプリの機能には一ミリも寄与しないのに余計な複雑さを持ち込む邪悪な存在。そして以前僕がした設計が枷となって仕様をみたすことができない。腹立たしい。

そういえば会社の技術blogでアドベントカレンダーをやることになり、僕は二度書くことになるそうです。でもネタが一個しかない。その一個もほんとにこんなの書いておもしろいか？という感じだし、いろいろ厳しい。がんばるけど。
ネタ探ししていて思ったのだけど、僕はこの一年二年の間iOSエンジニアとしてなんにも目新しいことをできていないような気がする。いや、実際はたぶんそんなことなくて、たとえばApple Watchいじったりしたんだけど、それにしてもこう、他人に向けて自慢できる成果物ってなにもないな、と感じる。成長がないとはこういうことなんだろうか。だとしたら？

今夜もなんだかんだ遅くなってしまいましたね。明日こそは早く帰ろうね。

今日はブラウザバックで書いてた日記が消えました。こういう時のために下書き自動保存機能などをつけておくべきなんだよな。うーむ。

昨夜と今日は著作権的・利用規約的に自由な地図画像を入手する方法をいろいろ調査しました。OpenStreetMapというのがあってmapnikというツールを使うとラスタライズできそうなのだけど、非常に面倒くさい。なので「街のない地図」プロジェクトは完成しても公開する機会がなさそうです。あるいはもう一度OpenStreetMapと闘うか。当面は嫌だなあ。また気力のある時にでも。プロジェクト自体は続けるけど。
そうそう、DRAGANはDiscriminatorの構造をいじる段階に入りました。ただこっちはGeneratorと違ってちょっと積むだけで劇的に遅くなります。なんでだろ、Discriminatorだけ勾配二回求めてるからとか関係あるのかしら。ふーむむ。

仕事はアドベントカレンダーのための記事を書いたりGoogle Analyticsを埋め込んだり。blog記事、一個はWaveNetによるテキスト生成の話をしようと思うのだけど、なんの話をどのくらい詳しくするのか考えるのが難しい。というかちょっと張り切って書きすぎてしまった感じもある。まあ公開するの７日とかなんでまだまだ推敲しますけど。うーん。

風邪っぽいので今日はもう寝ます。胃腸に来る風邪っぽいなあ、嫌だなあ。