0404
昨晩はまたモデルをいろいろいじっていたのだけど、どうやらLocal Response Normalizationが本質的に効いていたみたいで、これをタイミングよく挟むとちゃんと学習が進むようになりました。遅いけど。あと参考にしてる論文には特にそういうこと書いてないし。そういえばこれをBatch Normalizationにしたらどうなるんだろう?とかも気にはなる。でもこれ僕のプロジェクトじゃないし家でやるのはもうやめにしよう。
仕事はRNNのことをいろいろ調べました。BPTTのtruncateをどういう感じでやるのが正解なのかまだいまいちわかっていません。あと、文章のように長さが不定の場合にどうすればいいのか、これはなんかパディングで埋めるとか長さごとに何種類かのモデルを作るとか方法があるみたいだけど、ふーむという感じ。明日もいろいろコード読んで理解を深めます。
仮に万物理論が完成したとして、世界に存在する全てのものが単一の原理で説明できたとすると(もちろんそれは物理学の理論がそうであるというだけでそういった単一原理や要素の実在を主張するものではないのですが、逆に、そういう世界観を物理の言葉で述べたものと思ってください)、それはつまり、絶対無分節者であるところの世界それ自体というものということになるんだろうか。世界というのは、本質によって区切られたパーツの寄せ集めでできているのではなく(あるいは、さまざまな本質たちの直積ではなく)、ただ世界の中のさまざまの現象をそのように捉えているに過ぎない(だからこれは「文法的」とも言える)。
世界が単一の法則に支配されているのなら、机の上にコップがある世界とない世界の両方は並立しない。世界からこのコップだけを取り去ることはできない。コインの表側だけが存在することはできないように。あらゆるものは世界そのものを分有しているのだから。世界は世界全体で世界である。どこかを切り落とすことはできない。
私自身もそのように世界にみたされた世界の一部であり、この意味で自由意志は存在しないし、この指先の内側と外側を区別するものもない。しかし現にここには触れる指先が存在する。触れると呼ぶ行為と感覚がある。〈私〉は世界の一部だろうか。〈私〉は世界を分有しないように見える。〈私〉には自由意志があるように見える。〈私〉だけを消去した世界。これはすこし怪しい。それとも〈私〉もまた文法に過ぎないのだろうか。こんなにも、こんなにもここにいるのに。