Unsloth GLM-5.2 – ローカルで実行する方法
この記事では、Unsloth を使用して GLM-5.2 モデルをローカル環境で実行・微調整する方法を解説します。メモリ使用量を抑えながら高速な推論と学習を実現する手法を、セットアップ手順とともに紹介します。
背景メモ
Unslothは、大規模言語モデル（LLM）のファインチューニング（追加学習）とローカル実行を簡略化するためのオープンソースツール。GPUメモリ使用量を抑えながら、高速な学習を実現することで知られる。
GLM-5.2は、中国のAIスタートアップZhipu AI（智譜AI）が開発したオープンな大規模言語モデル。Zhipu AIは清華大学出身のチームが率いており、BaichuanやQwenと並ぶ中国主要LLMの一つ。GLMシリーズは日本語や中国語など非英語タスクでの性能が高く評価されている。
UnslothでGLM-5.2を動かすということは、ユーザーが自分のマシン上で（API経由ではなく）この中国製LLMを実行できることを意味する。ローカル実行には、データが外部に送信されないプライバシー面のメリットや、API利用料金がかからないコスト面の利点がある。ただし、ある程度のVRAM（GPUメモリ）が必要。本記事はその具体的なセットアップ手順を解説したもの。