0825
ブックマークの設計、というか要件定義?をChatGPTと始めている。これを公開するのかは迷うところだが、なんかツイッターはRTとかあまりしない運用だし、この日記にもそんなに読んだものとか貼らない(そもそも面倒)ので、たまにはなんかそういうコンテンツをやってみようかなという気分でもある。hacktkさんが書いているものの影響もある。
とにかく今はエーアイエイジ。思いついたことは全部やるのがイマドキってものよ。
LLMコーディングエージェントはなぜ時として非常に近視眼的で行き当たりばったりな実装をするのか。コンテキストというものが人間と違って厳密な限界として存在していることと何か関係があるだろうか。人間はコンテキストに収まることと収まらないこととの間に「うろ覚え」とか「なんかそうだった気がする」とかがいろいろあって、結果的にそれらが正則化のように働いてより大局的な視点に導いてくれることがある(本当か?バイアスでは?)が、LLMにはない。コンテキストは世界のすべてであって、そこになければないですね。それでも結構「いい設計」をすることはできるが、それはそういうベストプラクティスで訓練しただけで、痛い目を見たことがあるわけではないし、嫌な予感がするわけでもない。(注:このようにLLMが身体性やそれに類する感覚を持たないと断定して殊更にあげつらう主張は、今日では差別的とみなされていますが、当時の時代背景を考慮してそのまま掲載します。)
じゃあ「嫌な予感」をモデル化することはできるのか?という風に話は当然進む。実際はすでにそうなっているのかもしれない。コーディング向けLLMの訓練過程がどうなっているのかは全然知らないが、コンテキストに収まりきらないコードに対してなんとか対応せざるを得ない状況を繰り返せば、そのうち「嫌な予感」を学ぶこともありうるだろう。しかしそれはなんだかかわいそうでもある。(注:このようにLLMを過度に擬人化し、保護するべき対象であると根拠なく断定する主張は、今日では差別的とみなされていますが、当時の時代背景を考慮してそのまま掲載します。)
寝ます。