Show HN: コード変更ゼロで無料のセマンティックキャッシュはいかがですか？
Khazadは、コードを一切変更せずに無料で利用できるセマンティックキャッシュツールです。通常のキャッシュと異なり、セマンティックキャッシュは意味的に類似したクエリを自動的に識別し、APIコストを削減しながら応答時間を短縮します。Khazadを導入することで、既存のアプリケーションに手を加えることなく、効率的なキャッシュ戦略を実装できます。
背景メモ
Khazad は、LLM（大規模言語モデル）を使ったアプリケーションの応答を高速化し、API コストを削減するための「セマンティックキャッシュ」ツール。従来のキャッシュは完全一致のクエリしか再利用できないが、Khazad は「意味が似ている質問」を自動で検出し、過去の回答を再利用する。特筆すべきはコードの変更が一切不要な点で、LLM アプリケーションのプロキシとして動作する（OpenAI／Anthropic 互換）。開発者の Guglielmo Cerri 氏は Go 言語で実装。セマンティックキャッシュ自体は概念として既に存在するが、コード変更不要で使える点と OSS として公開されている点が新規性。