andante

今週はずっと寝不足。すなわち今日も寝不足だった。会議が多くてあまり進捗はなかった。

LangChainのドキュメントを読み進めている。だいぶ世界観はわかってきた。あと、ドキュメントを読ませてそれに関する質問に答えさせるなども試した。この日記に以前書いた、「巨大メルセンヌ素数の発がん性」や「時空操作の情報理論的限界」などについての質問に答えられる謎のbotができた。楽しい。

寝ます。

エイプリルフール！

エイプリルフールというのは、今から10年以上前、まだインターネットが知的なユーモア空間だと信じられていた時代に人々が渾身のユーモアを披露する習慣でした。現在のインターネットは知的なユーモア空間ではないのですが、その頃を懐かしむ人たちが、今でも毎年この日にはユーモアを披露し、在りし日の知的なユーモア空間が復活することを祈っています。カーゴ・カルトの一例と言えるでしょう。

LangChainのドキュメントをさらに読み進めた。連鎖的にLLMを呼び出すことで回答精度を高めることができたりする。Chainは合成することもできるので、これを使って対話エージェントを作るのだろう。もう少しでなにか作れそうなところまで行きそうだ。

寝ます。明日は少し早く起きてまた物件を見せてもらう。

朝起きて物件をいくつか見て、ふうんと思った。今日見たのは居住中のところだったので、住んでいる人にいろいろ聞けたのがよかった。

帰ってきて昼寝をして、それからギターの弦を張り替えようとしたのだが、途中で弦が切れてしまって、ションボリした。新しいものを買ったので明日届くであろう。張り方を少し勘違いしていたのが原因だろうか。

夜は焼肉を食べた。いつもより混んでいて体験があまり良くなかった。まあ仕方ない。

寝ます。

月曜日なのでなんか会議してたら終わった。コマンドの手直しを少しした。とにかく眠かった。

ギターの弦の張り替え再チャレンジして成功した（と思う）。ロック式のペグは便利だ。しかし弦を換えたらなんか演奏が上手くなるとかそういう仕組みにはなっていないのであった。

今日は眠いし時間もなくてなんにもしていない。寝ます。

ねむ。LangChainのチャットエージェントはだいぶどういう実装なのかわかってきた（気がする）が、十分な精度を得るためにはプロンプトエンジニアリングを結構がんばる必要がありそうだ。明日また考えてみよう。

ねむねむ。

寝不足が続いている。面白いことが多すぎるのだ。早起きしてやれば？というのは朝型人間によるプロパガンダに過ぎない。

仕事はシステム移行に着手。順調に移行コマンドが動いておるわいと思っていたら裏ですごい副作用があってウワーッとなった。これは……これはわからんて……。とりあえず修正して明日再開する。

LangChainはプロンプトエンジニアリングをゴニョゴニョしている。一応それらしく対話できるようになった気がするが、あまり賢いとは言えない。複数のアクションを組み合わせて回答する必要がある場合、最初にどのように回答するのか戦略を立ててほしいのだが、なかなかそのようには動いてくれない。いや、Final Answerとは別にInternal Thoughtを一旦回答させればいいのか？
プロンプトエンジニアリングをやっていると、ニューラルネットが流行っていた時にいろいろ構造やハイパラをいじっていたのを思い出す。人間の視覚野を模倣してみたりね。そのうち自動でチューンできるようになるのかもしれないし、あんまり人間っぽくない言い回しが多用されるようになるのかもしれない。

寝ます。明日は少し寝坊していこう……。

またこんな時間か！

プロンプトエンジニアリングは少し成果が出た。質問に答える時にいきなり検索しようとせずにどういう順序でツールを使うべきかを別のモジュールに回答させてからその通りに回答させる。これができるなら原理的にはこれなしでもそうできると思われるが、それをやるとまたプロンプトが長くなると思われるのでやらない。
GPT-3.5の利用はトークン長限界との闘いだという感じ。ところで今思ったんだけど、チャット担当と調べごと担当は別々にしたほうがよかったりする？そうすると人格に関するプロンプトはチャット担当のほうにだけ書けばよくなるから、調べごと担当が使えるトークン長が増えるな。総トークン数は増えるだろうが。これも試すに値するアイデアだ。

寝ます。

とにかく寝不足であった。

ChatGPTでなんかやるやつは昨日のアイデアに取り組んだけど、今のところ成功はしていない。動きはするが、アシスタントに適切な指示を出させるのが難しい。ここにもプロンプトエンジニアリングがいるのだろう。でもなんか、そういうのをやらなくてもいいようにするのがこの二段構えだったわけで、それなら本末転倒だなという気もする。難しい。

寝る。

のんびりしていた。あいかわらずプロンプトエンジニアリングをしていた。その部分で試行錯誤するのにはPlaygroundを使うのが便利でよい。自動化の部分は結局notebookでやらないといけないが。
結局、話す担当と考える担当とを分けるアプローチは断念した。今は思考過程を会話ログに含める部分を考えている。Memoryの独自実装がいるかもしれない。あと、text-davinciのかわりにgpt-3.5-turboを使いたいので、そこも調整をする。
いろいろ試してわかってきたが、なんでもかんでも検索とかさせずに適当に回答させる方がいい答えが出てくることが多い。ここらへん、どうやってバランスをとるべきか……。これ以上プロンプトを長くしたくはないし、悩ましいなと思う。

寝ます。

午前中は不動産会社の事務所で話を聞いていた。早く決断すべきなのか、待つべきなのか、難しい。しかし進むべきなのかもしれない。あとは納得感の話という予感はある。

午後はほこらんさんと遊んだ。「不快のデザイン展」に行くつもりだったのだがすごく並んでいたので断念した。やれやれ、どうせあんなもの見ても不快になるだけなんだ（酸っぱい葡萄）。
夕食にお好み焼きを焼いた。人んちのお好み焼きの作法ってなかなか知る機会が無くて面白いなと思った。

夜はプロンプトエンジニアリングをした。少しずつ前進している……？道は遠いが。

寝ます。