モデルカード: unsloth/GLM-5.2-GGUF
unsloth/GLM-5.2-GGUFは、GLM-5.2モデルをGGUF形式に量子化したモデルです。このリポジトリでは、さまざまな量子化レベルのGGUFファイルが提供されており、ローカル環境での効率的な推論実行を可能にします。LLMの軽量デプロイやリソース制限のある環境での利用に適しています。
背景メモ
GLM（General Language Model）は中国・清華大学とZhipu AIが開発した大規模言語モデルのシリーズ。本モデル（GLM-5.2）はパラメータ数約52億の小型モデルで、Unsloth社が量子化（GGUF形式）に変換したバージョン。GGUFはローカルPCやスマホでも推論を動かせる軽量フォーマット。中国発のオープン系LLMとして、LlamaやMistral系とは異なるアーキテクチャ（独自のAttention機構など）を持ち、中国語・英語の両方で性能を出すよう設計されている。サイズが小さいため、個人が趣味や研究で手軽に動かせる点が注目されているが、Llama-3.2-3BやQwen2.5-7Bなど競合も多く、性能面での差別化が課題。