andante

DRAGANにskip connectionを追加したところ15000stepsあたりで崩壊するようになってしまって、なんでだろ〜なんでだろ〜と思いながらλパラメータをいじったら50000stepsくらいまでは安定するようになりました。うーん、難しい。今夜はresidual blocksを増やしてまた回そうかな。

仕事はGoogle Analyticsのトラッキングなど。アプリの機能には一ミリも寄与しないのに余計な複雑さを持ち込む邪悪な存在。そして以前僕がした設計が枷となって仕様をみたすことができない。腹立たしい。

そういえば会社の技術blogでアドベントカレンダーをやることになり、僕は二度書くことになるそうです。でもネタが一個しかない。その一個もほんとにこんなの書いておもしろいか？という感じだし、いろいろ厳しい。がんばるけど。
ネタ探ししていて思ったのだけど、僕はこの一年二年の間iOSエンジニアとしてなんにも目新しいことをできていないような気がする。いや、実際はたぶんそんなことなくて、たとえばApple Watchいじったりしたんだけど、それにしてもこう、他人に向けて自慢できる成果物ってなにもないな、と感じる。成長がないとはこういうことなんだろうか。だとしたら？

今夜もなんだかんだ遅くなってしまいましたね。明日こそは早く帰ろうね。

記事作成画面に「消去」なんて不要なボタンをつけた挙げ句確認ダイアログも出さずに消去する仕様にしたのは誰だ。僕だ。チクショウ、全部書き直しだ。

なんだっけ。仕事はUITableViewとの格闘に敗れました。というかあの設計の最小コードでも再現するから設計自体変えないと回避できない気がする。明日ちょっと相談してもうちょっと対処できそうなチケットを振ってもらおうと思う。

あとなんだっけ。DRAGANか。今夜はskip connectionを追加したバージョンを走らせます。それがうまくいったらresidual blocksを追加して、ところでDiscriminatorはどうやって強化すれば良いのかよくわかりません。うまく動くなら別に強化する必要なんかないのかもしれないけど。それにしたっていまの構造は単純過ぎる（convが4枚fcが一枚）気がするから、もうちょっとなんか入れたほうがいい気がするのだけど……。

具合があまりよくないので今夜はもう寝ます（ってさっきも書いたんだけどさ）。すみすみ。

DRAGANはハイパーパラメータのチューニングがちょっとうまくいったのか60000stepsくらいまでは安定するようになりました。うん、悪くないんじゃない？この路線でもうちょっとGeneratorにresidual blockを積んで、それからDiscriminatorを強化することを考えようか。うんうん、今日は僕の機嫌もよいぞ。

仕事はCoreDataまわりの不具合修正。やっと倒せたーーー！と思ったんだけどさっきシャワー浴びてたら突然ダメなケースを思いついたので明日再修正かなあと思います。マジかよ、がっかり。でも気づけて良かった（今日の僕は機嫌がよい）。

仕事のあと、院生時代の同期が近くに来ているとかで一緒に食事をしたり家に呼んだりしました。近所に引っ越してくる予定だそうです。ワーオ。

sate-sate, 今夜はもう遅いからもう寝ましょう。

DRAGANの世話はぜんぜんうまくゆきません。Generatorの構造をmake girls moeの論文にだいぶ近づけたんだけど、そんな小細工でうまくゆくわけはなかった。とはいえ総合的な画像の質は向上しているようにも思われ、うーむむという感じ。次の一手がない。

友人たちと北海道を自動車で旅行する夢を見ていたと思ったら日曜日の夜だった。あまりのショックにしばし呆然としてしまった。明日は平日。また直る見込みのない不具合と向き合わねばなりません。

昨晩はお酒を飲みながらDRAGANの面倒を見ていました。いろいろ構造をいじってみたのだけど、どうもcollapseが早まるばかりでうまくゆきません。pixel shufflingとか入れてみたんだけど見た目に特段の影響はなさそうです。うーん。

今日もチューニングしつつ昼寝していました。やっぱりうまくゆきません。やっぱりlearning rateを漸減させるなどする必要があるのかなあ。それで良くなるともあまり思えないんだけどなあ。

仕事はぜんぜんだめ。LT発表はまあなんとか乗り切れたけど、不具合はぜんぜん直らない。

さて今度こそ週末。DRAGANの世話でもしようかしらね、でも次の一手が思いつかないのよな。うーむ。

5813

ずっと寝たり起きたりしていました。LTの準備をしなくてはいけないのに。ずっと寝たり起きたりしていました。LTの準備をしなくてはいけないのに。

今夜はすこし夜更かしすることになるでしょう。LTの準備をしなくてはいけないので。

実験ノート。バッチサイズを128に拡大したところmode collapseの発生が早まった。これはDiscriminatorの学習が安定化したためと思ってよいのだろうか。そうだったとして対策は特に思いつかない。うーむ。learning rateをcollapseの手前で落としてみるとかすべきなのかなあ。

仕事は残タスク対応と不具合検討。でもこれiOSのSDK使ってる限り直らないんじゃないかなと思う。そういう不具合とどう闘ってゆくべきなのか、受託開発の身としてはわからぬままだ。

夜は先輩の送別会。ながくお世話になった人なのでとても寂しい。しかし、さようなら（そのようにあらねばならないのなら）、どうかお元気で、という気持ちだ。
それはそれとして、僕も転職を真面目に考えるべき時期なのかもしれない。でもな、僕には社会性が足りないし、その会社がエンジニアをどのように扱っているかなんて外からじゃわからないのではという気もするしな。（あとまあ、現状の僕の立ち位置からではそんなに不満は見えないというのもある）（それは僕が近視眼的すぎるというだけでは？）

さて週末、と書きかけてそうではないことに気づきました。明日はLT会の準備をしないと。でも一年半も前にやったことの記憶なんてあてにならないし、ちょっと調べたら状況もいろいろ変わっているっぽいし、なんかやる意義を見出せないよなあ、これ。うーむ。

まあ、結論からいうと昨日のアレはぬか喜びだったわけですが。だいたい30000Stepsあたりでmode collapseが起こるみたいで、その閾値はλパラメータにあまりよらないみたい（いま調べている限りでは0.5でも1でも2でもだいたいそのあたりで崩壊する）。ただVanilla GANやλ=10とかだと最初からcollapseしているのでそういうのと比べるとずっとよいように思われるから、あとはこれをどう処理するか考えないといけない。どうも30000Stepsあたりで$\mathrm{Dis}(X_p)$が急激に低下するようなのだけど、これはDiscriminatorが過剰に賢くなっているということなのだろうか？（でもそれってなんか関係あるか？だいたい摂動した入力を与えてるんだからfake判定されるのは当然ではないのか？）

仕事は不具合調査と対応と、あとLT会の資料作成。Gyazo Cloneの話をしようと思っているのだけど、一年半前の自分がなぜこういう構成で行こうと思ったのか正直よくわからなかったりして困る。まあそのあたりはうまいことごまかしてストーリーを構成すればいいかなあ（できるとは言っていない）。

明日は会社の先輩の送別会。幹事とかやるの久々か初めてかどっちかなので緊張する。ハー。

そんなことより聞いてくださいよ、DRAGANのλパラメータを1にしたらmode collapseがなくなって正常に学習が進み出したんですよ！まだStep数少ないし見た感じupsamplingに難があるけどとにかくcollapseしたり真っ黒になったりしなくなっただけでも大きな前進です。やった、うれしい、あとはネットワーク構造のチューニングかな（それはそれで沼感）。

仕事？今日はギリギリまで寝てたけど12:10まで寝ててもなんとか間に合うことがわかった以外は収穫なかったよ。会社のmacはなぜか空き容量が足りなくて３つ目のXcodeが入らないよ。前は３つ入れてたはずなんだけど、いったい誰が領域食ってんだ？明日調べるか……（まあXcode8しばらく使わなさそうだからそっち消してもいいんだけど）

明日は仕事の前に病院（定例）。そういえば後輩の引越祝いに五年近く使ってない炊飯器をあげようと思ったのだけど明日は病院だから明後日にしよう。あーでも明後日雨か。うーむ。