0626
昨晩はAAEをまた動かしていたのだけど、やっぱりbatchnorm周辺が壊れている感じです。check_numerics入れるとだいぶ発散しにくくなるので(それでもするんだけど)何らかのタイミングの問題なんだと思うけど、どうしたものか。学習自体は長くやってると長距離秩序を獲得してくれるみたいで有望なんだけど、それもしばらくすると忘れて戻ってしまうみたいでよくわからない。まあAdversarial Trainingなんてそんなものか、とも。
今日は具合が悪いです。また新しい風邪を引いてしまったような気がする。夕方近くまで寝てたんだけどこれ今夜また寝付けなくなるパターンだよな。はー。
「20世紀物理学史」長く掛かってしまったけど読みました。物理の教科書では当たり前に書かれている粒子や概念や描像も、ほんの半世紀前にはまだ諸説ある中の一つでしかなかったというところがおもしろい。あと前期量子論のこととか(これはそのへん読んだ頃に言及しましたっけね)、20世紀の物理学は社会情勢やイデオロギーと無縁でなかったみたいな話とか。哲学と袂を分かっていった話とか。帝国主義の拡大とか。
具合悪いので可能な限り早く寝るべきなんですが、そういえば勉強会の課題の解説書かないといけないんですね、まあ課題自体は一応解いてあるのですぐできると思いますが。