0516
喉が痛い。体調全体としてはそこまで悪くは無いけれど、朝はしんどかった。まあそれは単にあまりたくさん寝られなかったからかもしれないけど。
RoI Poolingの問題は昨夜修正しました。ほんとにできてるのかは謎ですが落ちなくなったので大丈夫でしょう。あとメモリを食いすぎる問題は、寝る前に考えてみたらべつに異常でもなんでもなくて、one-hotベクトルを作るときに600x1000x512x7x7くらいのテンソルが発生していたのが問題でした。これはSparseTensorの使いどころかなと思ったので使ったら直りました（でもr0.8時点ではSparseTensorへの演算ってほとんどサポートされてなくて、ガッカリしてたんだけどmasterにはreduce_sumが入っているのを見つけたので事なきを得ました）。
これでほぼ動くんだけど、MS COCOの画像がどうもたまにグレースケールだったりするのでそれへの対応も必要そう。あと単純にRPNの学習が収束しないんだけど、これはハイパーパラメータのチューニングが必要なんだろうか。論文と実装との対応がよくわからないのだけど……。
あと深層学習勉強会をしました。また動画観るやつですけど、Courseraの機械学習講座のほうがずっと親切だった感があります。単にこっちがいきなりAdvancedだからなのかもしれないけど。
ある人が一年考えて解ける問題を、それより能力の劣る人が何年考えれば解けるかというと、まず一年も考えられないというところに壁があるんじゃないだろうかと思う。一つの問題を考え続けることはとても難しい。思いつくアプローチを全部試してしまえば、それ以上やることはないからだ。
思考の量は棄却した仮説の数に等しいという。そしてそれは、ある種の体力を必要とする。