ツールコンテキストの管理

ツール定義と蓄積されたtool_resultブロックはコンテキストウィンドウを消費します。多くのツールまたは多くのターンを持つ長時間実行エージェントは、タスクが完了する前に利用可能なコンテキストを使い果たす可能性があります。4つのアプローチがパイプラインの異なるポイントでこれに対処します。

4つのアプローチ

各アプローチはコンテキスト圧力の異なるソースをターゲットにしています。トークンがどこに使われているかに合致するものを選択してください。

ツール検索

ツール検索は、Claudeがそれらを要求するまでツール定義をコンテキストウィンドウから除外します。50個のツールスキーマを事前に送信する代わりに、単一のtool_searchツールを送信し、Claudeが必要に応じて残りを発見できるようにします。これは少量のレイテンシ（ツールを検索するための1つの追加ターン）と引き換えに、ベースラインコンテキスト使用量の大幅な削減をもたらします。

プログラマティックツール呼び出し

プログラマティックツール呼び出しは、一連のツール呼び出しを、Claudeが記述し、Anthropicのコード実行サンドボックスが実行する単一のコードブロックに折りたたみます。tool_useとtool_resultの5つのラウンドトリップの代わりに、Claudeはサンドボックス内から5つの関数すべてを呼び出す1つのスクリプトを出力します。中間結果は会話履歴に入りません。

プロンプトキャッシング

プロンプトキャッシングはコンテキスト内のトークン数を削減しませんが、後続のリクエストでそれらに対して支払う金額を削減します。ツール定義が安定している場合は、それらを一度キャッシュし、キャッシュされたプレフィックスを数千のリクエスト間で再利用します。これはツールセットが大きいが固定されている場合の正しい選択です。

コンテキスト編集

コンテキスト編集は、古いtool_resultブロックが目的を果たした後、会話履歴から削除します。長いエージェントループは、当時は有用だったが現在は無駄な重みである数百の中間結果を生成する可能性があります。コンテキスト編集により、会話を再開することなくそれらをトリミングできます。

アプローチの組み合わせ

これらのアプローチは構成可能です。長時間実行エージェントは、ツール検索を使用してツールセットを精簡し、プロンプトキャッシングを使用して残りの定義のコストを償却し、会話が成長するにつれてコンテキスト編集を使用して古い結果をトリミングする可能性があります。各アプローチは問題の異なる部分を解決するため、それらを一緒に使用する際に競合はありません。

高容量エージェントの合理的な開始点：

1. 初日からツール定義でプロンプトキャッシングを有効にします。キャッシュ書き込みはベース入力価格より25%のマークアップを伴い、キャッシュにヒットする2番目のリクエストで回収されます。
2. ツールセットが約20ツールを超えるか、ベースラインコンテキスト使用量が顕著になったら、ツール検索を追加します。
3. 個別の会話が十分に長く実行され、早期の結果が関連性を失うようになったら、コンテキスト編集を追加します。
4. 単一バッチとして実行できる小さなツール呼び出しの繰り返しチェーンに気付いた場合は、プログラマティックツール呼び出しを検討してください。

次のステップ