1102
眠い。Transformerの実装をしようと思ったけど眠くてできず。あと、観測データの正規化をしようと思ったんだけど雑にやったら利益が計算できなくなってしまった。ちょっと考え直さないとだめだ。
寝ます。明日はなんか焼肉に行く。
眠い。Transformerの実装をしようと思ったけど眠くてできず。あと、観測データの正規化をしようと思ったんだけど雑にやったら利益が計算できなくなってしまった。ちょっと考え直さないとだめだ。
寝ます。明日はなんか焼肉に行く。
GitHub Actions盆栽の第一弾は完了したので一仕事終わった感。時間を掛けすぎたなと後悔している部分もあるけど、まあ見通しはかなりよくなったのではないかと思う。僕の理解度が高まったからそう見えているだけの可能性はなくはないけれども。
勝手にお金を稼ぐ猫は、ネットワークが重たくなったので学習が遅い。2021年は何もしなくても勝手に値上がりしていたのでバックテストとしては不向きということがわかった。2022年はけっこう下げたので今はそっちで試している。これはちゃんと確かめたわけではないのだけど、2021年より2022年のほうが若干成績がよい気がしている。2021年は全体的に高値で推移しているために学習データから外れてしまっているのかもしれない。正規化が必要だなと思った。
アーキテクチャについてもまだいろいろ試行錯誤したい。ChatGPTと議論していて、Transformer試してみる?という話になっている。あと、直近の値動きだけじゃなくもっと長時間スケールの値動きも取り込みたいが、異なる時間スケールに属するデータをいい感じに取り込む方法は難しい。アテンション機構に入力できたらいいんだろうか?位置エンコーディングをいじるのもアリか。
寝よう。これ今月のAWS料金は結構面食らうことになるかもな。
モデルの構造をちょこちょこ調整したり、スナップショットを保存できるようにしたりした。MP-DQNは実装例を見つけたので読み始めた。
なんか調子が悪い。風邪の3歩くらい手前にいる感じ。明日は引いてるかもな。はあ。
月曜日の憂鬱さのことに紙幅を割くのはやめよう。これは紙ではないし、横書きだからどれだけ書いても幅は変わらないのだけれど。
ResNet+LSTMでなんとなく学習をしている。観測データをすこし変えて再学習したり。これが一段落したら、パラメータ化アクションに範囲を拡げて学習させてみよう。本当に上手く行くのかはわからないが。べつにこれを取り入れなくても案外好成績の可能性はある。
寝よう。寝ます。疲れたなあ。
今日の方言:「きびる」
昼ごろ起きてぷちぷちとコード書いたり部屋の片づけをしたりした。細やかなチューニングの結果CUDAの学習がMPSの5倍速になった。たぶんまだまだ攻められるだろうと思うのだけど、あまりそこに時間を掛けてもなという感じなのでいったんこのくらいにする。
それはそうと、評価を何回かやると普通に負ける回もある(成行で注文する想定なので実際の売買価格は高値と安値の間の乱数で決めている)ので、これはまだわからんなという感じ。まあモデル自体まだまだ不完全なので、ここから手を入れていく。
寝ます。
夜更かししてしまいメチャ眠かったがリフォーム工事の説明を聞きに言った。解体が終わって工期に大幅に影響するような問題は見つからなかったということで、安心した(小さな問題はいくつかあり、数日遅れる可能性はあるらしい)。
夕方まで寝て、ほこらんさんと馬肉を食べに行った。二次会と三次会まで行った。胃の調子がいまいちよくないのでお酒は飲まないつもりだったが、だんだん調子がよくなってきたので二次会以降はわりと普通に飲んだ。こういうのがよくないんだろうな。はあ。
胃の調子は謎。半分くらいはメンタルなのかなという気もする(そういう可能性がつねに脳裡にチラついている人生……)。やはり来週どこかで病院に行こうと思った。
勝手にお金を稼ぐ猫は、なんとなく未学習部分のデータで検証したら、一年で2倍くらいには増えることがわかった。わかったが、いろいろな課題があり、改良を要する。そもそも本当にこれが長期保有よりプラスになっているのかはよくわかっていない。でもまあ、希望の持てる話ではある。別のデータを入手したのでそれも検証しようと思う。
寝ます。
結局AWSでGPUインスタンスを借りている。1USD/hくらいだし使えるものは使っていくのがよい。VSCodeでリモート接続できるのがとてもよい。Tensorboardも見られる。
が、思ったほど速くならないので、何なんだろうな〜と思っている。3倍くらい?GPU使用率は15%くらいにとどまっているので、どこかに変なボトルネックがあるものと思われるが、どこなのか。プロファイラとかでちょっと調べた方がよさそう。
それはそれとして、15時間くらい手元で走らせたバージョンは、1000エピソードの学習の中で資金をだいたい100倍くらいに増やしたことになった。これはでも、学習データの中で単にBTCがそんくらい上がったというだけのような気もする。学習に使っていないデータに食わせてみて長期的にどうなるかは確認が必要だが、モデルを保存してないので何もわからない。やれやれ。
寝ます。明日はリフォーム現場で説明を受けるらしい。
夜更かしが続いており、寝坊も続いている。
ネットワーク構成を微調整して学習を回している。macosでもMPSを使ってGPGPUめいたことができるようだが、いまいち速くはならない。なんでだろう?どこかに変なボトルネックがあるのだろうか。まあそんなことに拘るより素直にAWS借りた方が良いかもしれないが。
今のところたいした成果は得られていない。もう少し観測量として与えるデータを増やした方が良いだろうか。要検討。
寝る。明日あんまり遅くまで寝られないんだった。たいへんだ。
ねむい。
過去の取引データをgymnasiumの環境にして学習を走らせられるようにしつつある。デバッグがけっこうしんどくてまだ動いていないが。
コンビニに行くとおせちの予約が始まっているし、ヨドバシに行くと年賀状ソフトのコーナーができている。年の瀬が着実に近づいている。
昨日まで書いていたnotebookをちゃんとしたモジュールに書き直した。ここから拡張していくに当たってもう少しリファクタしたい部分はある。明日かな。いや、それより学習データを作るのが先かな……。ふうむ。
HHKBの新型が発売された。トラックポイントがついたり、キーマップのカスタマイズができたり、キースイッチも変えられたり?かなり良さそうに見えるが、スイッチがメカニカルになっていた。なぜだ?なぜなんだろう、戸惑う……。