Hey HN、ローカルで動作するオープンソースのAIプラットフォーム「local char」を構築しました — Character.AIのようなもの
local charは、Character.AIに類似した機能を提供するオープンソースのローカルAIプラットフォームです。GitHub上で公開されており、ユーザーはAIキャラクターと対話できる環境を自己ホストで利用できます。個人のプライバシーを重視しつつ、カスタマイズ可能なAIチャット体験を実現します。
背景メモ
- Character.AIはユーザーがAIキャラクターと会話できる人気プラットフォーム。2022年にリリースされ、Noam Shazeer（元Google、Transformer論文の共著者）らが創業。独自の大規模言語モデル（LLM）を採用しているが、基本無料・一部有料のサービスで、ソースコードは公開されていない。
- 「local-char」はこのCharacter.AIに触発されたオープンソースの代替プロジェクト。GitHubで公開されており、ローカル環境（自分のPC）で動作する。MetaのLlamaやMistralなどの外部LLMと連携してキャラクターとの対話を実現する。
- ポイントは「ローカル」であること。データを外部サーバーに送らず、自前のハードウェア上で完結するため、プライバシー面・コスト面での利点がある。一方でCharacter.AIのような大手サービスの潤沢な計算資源は使えないため、応答品質はローカルLLMの性能に依存する。
- このような「オープンソース版Character.AI」はlocal-char以外にもいくつか存在する（例：SillyTavern、TavernAIなど）。LLMのローカル実行が一般向けにも現実的になりつつある流れの一環。