OffHeap – Rustで書かれたNode.js向けオフヒープL1キャッシュエンジン
OffHeapは、Rustで実装されたNode.js用のオフヒープL1キャッシュエンジンです。Node.jsのヒープ外にデータを格納することで、ガベージコレクションの負荷を軽減し、大規模なキャッシングを効率的に行えるように設計されています。
背景メモ
- Node.js の V8 エンジンはガベージコレクション（GC）によるメモリ管理を行う。大量のオブジェクトをキャッシュすると GC の負荷が高くなり、パフォーマンスが劣化する「GC プレッシャー」問題がある。
- この問題への対策として、通常の JavaScript ヒープ（on-heap）ではなく、ネイティブメモリ領域（off-heap）にデータを置く手法がある。従来は Java の世界で main に使われてきた概念。
- OffHeap は、この off-heap キャッシュを Rust ネイティブアドオン（NAPI-RS）として実装。Node.js の GC の影響を受けずに、キー・値ストアとして動作する L1 キャッシュエンジン。
- NAPI-RS は Rust で Node.js ネイティブアドオンを書くためのフレームワーク。Rust のメモリ安全性とパフォーマンスを Node.js から利用できる。
- 類似プロジェクトに Java の Off-Heap キャッシュ（Chronicle Map など）や、Node.js 向けの native LRU キャッシュ実装があるが、Rust 製で公開された例は比較的新しい。