Prompt Caching – Claude Platform Docs
Prompt Cachingは、Claude APIの応答時間を短縮し、コストを削減する機能です。頻繁に使用されるプロンプトの一部をキャッシュすることで、同じコンテキストに対する繰り返しの処理を最適化し、効率的なAPI利用を実現します。
背景メモ
- プロンプトキャッシングとは、APIでClaudeに送る長いプロンプトのうち、毎回同じ部分をサーバー側で一時保存(キャッシュ)し、処理を高速化・低コスト化する機能。Anthropic(AI企業、Claudeの開発元)が2024年後半に提供開始した。
- 従来は長いプロンプト(例:数万トークンのコードベースや会話履歴)をリクエストのたびに再送・再処理する必要があり、レイテンシとコストが大きかった。キャッシュを使うと、初回のみ書き込み料金、以降はキャッシュヒット時の割引料金(約90%減)で済む。
- 開発者が「システムプロンプト+大量のコンテキスト」を固定して使い回すユースケース(カスタマーサポートAI、コード補完、長文分析など)で特に有効。キャッシュの有効期限は5分間(アクセスがある限り延長される)。
- この機能は、大規模言語モデル(LLM)のAPI利用における実用的なコスト最適化の一環として注目を集めている。