128GB MacBook ProでDeepSeek 4によるコーディング
128GBのMacBook ProでDeepSeek V4 Flashをローカル実行する方法を解説。大規模言語モデルを個人のマシンで動かすためのセットアップ手順やパフォーマンスのヒントを紹介し、クラウドに依存しない開発環境の構築を支援する。
背景メモ
- DeepSeek は中国のAIスタートアップで、オープンソースの大規模言語モデル(LLM)を公開している。2025年初頭にリリースした「DeepSeek R1」が推論能力で話題となり、米国ハイテク株に衝撃を与えた(「DeepSeekショック」)。
- 本記事で著者が試しているのは、その後継モデル「DeepSeek V4 Flash」。MacBook Pro(M4 Max、128GBユニファイドメモリ)上でローカルに動作させ、コーディング支援として使う実践レポート。
- 通常、高性能LLMはクラウド上のGPUクラスタで動かすが、Apple Siliconの大量ユニファイドメモリをGPUメモリとして活用し、ローカル推論を可能にしている。プライバシー面やオフライン利用が利点。
- 「MLX」はApple Silicon向けに最適化された機械学習フレームワーク。これを使い、量子化(精度を落としてファイルサイズとメモリ使用量を削減)したモデルをmacOS上で実行する。
- Llama.cpp も同様にApple Siliconを含む多様なハードウェアでLLMを動かすための人気推論エンジン。著者はこれも併用して比較している。