キャッシュ読み取り75%値下げが変えるエージェントの原価

Claude Fable 5.1の発表で、性能の数字と並んで注目すべきなのが価格である。入力と出力の基本単価は据え置きのまま、キャッシュ読み取りだけが75%下がった。一見地味な変更だが、エージェント型の使い方をしている人にとっては構造的な影響がある。

変わった点と変わらない点

Anthropicは、一般的な処理で約25%、エージェント的な処理では最大45%のコスト低減になると説明している。差が出るのは、エージェントの動作が「同じ前提を何度も読み直す」構造をしているからだ。

エージェントは一回の応答で完結しない。ツールを呼び、結果を受け、また考える。この繰り返しの各ステップで、システムプロンプト、これまでの経緯、参照資料といった同じ内容が毎回入力される。

プロンプトキャッシュは、この繰り返し部分を安く読めるようにする仕組みである。つまりエージェントの原価は、キャッシュ読み取りの単価にほぼ比例する。ここが四分の一になれば、往復回数の多い処理ほど恩恵が大きい。

エージェントのコストは、賢さの単価ではなく、繰り返しの単価で決まる。

この価格構造は、設計の指針を変える。従来は「文脈を短く保つ」ことがコスト対策の基本だった。キャッシュ読み取りが安くなると、むしろ「文脈を安定させて使い回す」ほうが有利になる。

具体的には、毎回少しずつ変わるプロンプトを組み立てるより、固定部分を先頭に固めて変動部分を末尾に置く構成が効く。キャッシュは前方一致で効くため、先頭が変わると全部作り直しになるからだ。

キャッシュには書き込みのコストと有効期限がある。一度しか使わない文脈をキャッシュしても損をする。効くのは、同じ内容を短時間に何度も読む場合だ。

また基本単価が据え置きである点も重要だ。出力の多い用途、たとえば長文生成では今回の値下げはほとんど効かない。自分の使い方がどちらに寄っているかを測ってから判断すべきである。

値下げは一律に効くものではない。処理の形によって効き方が変わる。自分のワークロードの内訳を把握していることが、そのまま費用の差になる時代になった。

値下げの効き方は使い方によって変わるため、まず自分の内訳を測るのが先である。手順は単純だ。直近一か月の請求明細を、入力、出力、キャッシュ書き込み、キャッシュ読み取りの四つに分解する。次に、それぞれのトークン数に新旧の単価を掛けて差額を出す。

この作業は一度やれば済む。以後は構成比だけを見ておけばよい。逆にこれを測らずに「25%安くなった」という数字を予算に反映させると、実績と合わない。

キャッシュは前方一致で効くため、プロンプトの先頭が変わると作り直しになる。したがって、固定の指示、参照資料、会話履歴という順に前方へ置き、その時々で変わる指示や現在の状態は末尾に置く。日時のような毎回変わる値を先頭に入れてしまうと、キャッシュが常に無効になる。

エージェントを組む際は、ツールの定義もキャッシュ対象に含まれる点を意識したい。ツールを動的に増減させる設計は柔軟だが、キャッシュの観点では不利になる。固定セットで回せるなら、そのほうが安い。