#local-ai

Atelierは、オープンソースで誰でも自由に使えるローカルAIデスクトップアプリです。プライバシーを重視し、インターネット接続不要でAI機能を利用できるため、個人ユーザーから開発者まで幅広く活用できます。

Solaceは、Androidデバイス上で完全にローカル動作するAIコンパニオンアプリです。長期的な記憶機能を備え、ユーザーの好みや会話の文脈を学習・保持しながら、静かでプライベートな対話を提供します。すべての処理が端末内で完結するため、データが外部に送信されることはありません。

このガイドでは、Jamesobが最新の大規模言語モデル（LLM）をローカル環境で実行するための手順を解説しています。セットアップからモデルの選択、実行に必要なツールやリソースまで、実践的なアドバイスを提供します。

ZynkbotはRustで書かれたオープンソースのローカルAIアシスタントで、透過的なメモリ管理機能を備えています。ユーザーのデータをローカルに保持しながら、効率的な推論と記憶の永続化を実現します。

A deep dive into NVIDIA's DGX Station, a local AI supercomputer designed to run frontier-level models. The article explores the hardware's capabilities, memory architecture, and how it enables researchers to work with cutting-edge AI models locally without cloud dependency, providing insights into the future of on-premise AI infrastructure.

Karjaは、ユーザーのプライバシーを最優先し、デバイス上で動作するローカルAIを搭載したスーパーアプリです。データを外部サーバーに送信することなく、チャット、画像生成、文書作成など多様な機能をオフラインでも利用できます。

Photocore is a local AI-powered tool that helps you find and organize your photos without uploading them to the cloud. It runs entirely on your device, ensuring privacy and fast performance for managing your photo collection.

Hacker Newsユーザーが、コーディング、音声合成（TTS）・音声認識（STT）、画像生成・解析の各タスクで使っているLLMモデルを共有。投稿者はQwen3-Coder-Next、Fish Audio S2 ProとWhisper、GemmaとFluxを、M5 Maxチップ搭載MacBook Pro（128GBユニファイドメモリ）で運用していると報告している。

本動画では、MacBook Air上で完全オフライン動作するRAG（Retrieval-Augmented Generation）システムをAPIに一切依存せず構築する方法を実演。ローカルのLLMとベクトルデータベースを組み合わせ、インターネット接続なしでドキュメント検索と回答生成を実現する。プライバシーを重視したエッジAI環境の構築に焦点を当てている。

本記事では、16GB RAMを搭載したMac mini M4上で、大規模言語モデルQwen 3.6をローカル環境で動作させる手順を解説する。セットアップからモデルの実行、パフォーマンス最適化までを実践的に紹介する。

BaseRTはApple Silicon上で動作する高速な推論ランタイムであり、ローカル環境でのAI実行を最適化する。専用の最適化により、Appleデバイスの性能を最大限に引き出し、低レイテンシで効率的なAI推論を実現する。

ローカルのiPhone上でMCP（Model Context Protocol）サーバーを立ち上げ、Apple Watchのヘルスケアデータを参照しながら、OpenAI Codexにワークアウト計画を立案させる方法を紹介。デバイス上のデータを外部に送信せずに、AIを活用したパーソナルトレーニングを実現できる。

この記事では、NVIDIA Jetsonデバイス上でローカルAIモデルを実行する方法を解説。耐久性のあるデータストリームを活用し、エッジ環境でも安定した推論処理を実現するアーキテクチャを紹介する。クラウド依存を減らしながら、リアルタイム応答を維持するための実践的な知見がまとめられている。

FluidVoiceは、macOS向けのオープンソース音声認識アプリです。ローカルAIを使用することで、インターネット接続不要で高精度な音声テキスト変換（ディクテーション）を実現し、プライバシーを保護しながら快適な音声入力を提供します。

Mynaは、ローカル環境で動作するAIアシスタントで、ユーザーの作業内容を記憶し、いわば「AI秘書長」として機能します。プライベートなデータを外部に送信することなく、作業のコンテキストを保持しながら支援を提供します。

Moccaは、すべてのAI処理をユーザーのMac上でローカル実行するメールクライアントです。クラウドやAPIキーは不要で、モデルはアプリにバンドルされておりオフラインでも動作します。日常的に使える実用的な製品としてローカルAIの可能性を探る実験として開発されました。

Zeusは、ローカル環境で動作するAIエージェントオーケストレーターであり、ウェブUIと電話UIの両方を提供するオープンソースプロジェクトです。複数のAIエージェントを統合・管理し、タスクの自動化や対話処理を効率的に行うことができます。

wavecatは、あなたの画面を常時監視する完全ローカル動作のパーソナルエージェントです。あなたの活動を継続的に観察することで、ニーズや目標を深く理解します。すべてのモデルがローカルで動作するため、個人データが外部に漏れることはありません。高性能なApple Silicon Macや優れたGPUを搭載した環境で実行可能です。

role-modelは、ローカルモデルとクラウドモデル間のリクエストをルーティングするためのプロトコルおよび参照ランタイムです。モデルにドメインやロールを割り当て、コンシューマーアプリケーションがリクエストのタスクタイプを指定することで、ルーティングの精度を高めます。速度、品質、コストのバランスを最適化し、最終的には専門化されたドメインモデル（コード、散文、数学など）の市場を創出することを目指しています。

本記事では、ローカル環境で動作するコーディングエージェントの構築方法と活用法について解説する。リモートのクラウドサービスに依存せず、プライバシーを保ちながら効率的にコード生成・編集を行うためのツールや設定方法を紹介する。

このガイドでは、BlabladorとGPT4allを組み合わせて使用し、ローカル環境でPDFドキュメントと対話的に会話する方法を解説します。機密データを外部に送信することなく、AIアシスタントを活用してPDFの内容を質問・分析できる環境を構築できます。

阿里巴巴が開発したQwen-AgentWorld-35B-A3Bは、自己回帰型ワールドモデルであり、35Bパラメータのうちアクティブなパラメータは3Bのみと軽量ながら、ゲームエンジンを使わずに画像や動画を認識・生成できる。一般向けリリースにより、誰でもローカル環境で実行可能なオープンモデルとして注目を集めている。

local charは、Character.AIに類似した機能を提供するオープンソースのローカルAIプラットフォームです。GitHub上で公開されており、ユーザーはAIキャラクターと対話できる環境を自己ホストで利用できます。個人のプライバシーを重視しつつ、カスタマイズ可能なAIチャット体験を実現します。

セキュリティ研究者が、ローカルで実行可能な大規模言語モデル（LLM）がクラウドベースのAIに代わってコードレビューのセキュリティ分析に使用できるかを検証。Fableというツールを皮切りに、プライバシーとコスト面で優位性があるローカルLLMの実用性と精度を評価する。

ParseHawk v0.1.0をリリースしました。Apache-2.0ライセンスの100%ローカルドキュメントAIプラットフォームで、PDFや画像などからJSONを抽出します。NuMindのNuExtract3をベースに、制約付きデコードで提供されたJSONスキーマを強制します。Apple Silicon（vllm-metal同梱）とLinux + NVIDIA（vllm）の両方で動作します。

Zeus is a local AI orchestrator that provides computer and browser access capabilities, allowing users to interact with their system through an AI-powered interface while keeping everything running locally for privacy and control.

Scbkrは、ローカルLLM（大規模言語モデル）上で動作する、オーナー署名による責任連鎖（responsibility chain）を管理するためのワークベンチです。各処理ステップに所有者の署名を付与することで、モデルの出力やワークフローにおける責任の所在を明確化し、トレーサビリティを向上させます。

SippはオープンソースのAI推論ライブラリで、ブラウザ上でローカルLLMを実行し、従来のライブラリと比較して最大3倍のデコード速度を実現します。統一されたクライアントAPIにより、WebGPU経由のブラウザ推論からセルフホストゲートウェイやクラウドプロバイダーへのシームレスなスケールアップが可能です。RustとC++で構築され、カーネル融合によるさらなる最適化を目指しています。

Mac mini上にローカルAIを使ったデッキ（DJ機材）用の音楽アシスタントを自作。クラウドに依存せず、音声認識や楽曲推薦などの機能を搭載し、プライベートかつ高速な音楽制作・再生環境を実現している。

作成者のMatt氏は、音声入力アプリWispr Flowのヘビーユーザーだったが、すべての音声データがクラウドに送信される点に懸念を抱いた。そこで、WhisperやQwen、Sensevoiceなどのモデルをローカルで実行できるオープンソースの音声ディクテーションアプリ「Freestyle」を開発。これにより、ユーザーの思考がデバイス外に出ることはない。