MacBook AirでオフラインRAGを構築（API不要）[動画]
本動画では、MacBook Air上で完全オフライン動作するRAG（Retrieval-Augmented Generation）システムをAPIに一切依存せず構築する方法を実演。ローカルのLLMとベクトルデータベースを組み合わせ、インターネット接続なしでドキュメント検索と回答生成を実現する。プライバシーを重視したエッジAI環境の構築に焦点を当てている。
背景メモ
この動画は、インターネット接続や外部API（OpenAIなど）に一切依存せず、MacBook Airだけで完全オフラインで動作するRAG（検索拡張生成）システムを自作したデモンストレーションです。RAGとは、ユーザーの質問に対して、まずローカルのドキュメント群から関連情報を検索し、その結果を踏まえてLLM（大規模言語モデル）が回答を生成する手法。通常はクラウド上のGPUやAPIが必要ですが、本作では小型ノートPCのみで実現している点が注目ポイント。使用されているのは、ローカルLLM（Llamaなどの軽量モデル）とベクトル検索ライブラリ。企業機密や個人データを外部に出せない用途（医療、法律、社内ナレッジベース）での実用性を意識した内容です。