Show HN: role-model——ハイブリッドローカル/クラウドAIのためのルーター
role-modelは、ローカルモデルとクラウドモデル間のリクエストをルーティングするためのプロトコルおよび参照ランタイムです。モデルにドメインやロールを割り当て、コンシューマーアプリケーションがリクエストのタスクタイプを指定することで、ルーティングの精度を高めます。速度、品質、コストのバランスを最適化し、最終的には専門化されたドメインモデル（コード、散文、数学など）の市場を創出することを目指しています。
背景メモ
- 「Pi」は、同作者（try-works）が開発中のパーソナルAIアシスタント。従来のPi（inflection社製）とは別物で、ローカルLLMとクラウドLLMをシームレスに切り替えて使う実験的クライアント。
- モデルルーティングとは、リクエスト内容に応じて「どのAIモデルに処理させるか」を振り分ける技術。例えば「簡単な要約は高速なローカル軽量モデル、難しい推論は高性能クラウドモデル」といった使い分けを自動化する。
- 本プロジェクトは、このルーティングを「標準プロトコル」として定義しようという試み。ルーター自体はルールベース（＋必要に応じてLLMによる判断）で動作し、モデルに「役割（role）」と「ドメイン」を割り当てて振り分ける。
- 前日にも別のルーター投稿があり、モデルルーティングの基本設計（どの情報を元に判断するか、事後評価の難しさなど）がコミュニティで議論されたばかり。本投稿はその議論を踏まえて、より応用的な知見に焦点を当てている。
- llama-swap：ローカルLLMを複数切り替えて使うためのツール。role-model runtimeはこれを取り込んで、複数ローカルモデル間のルーティングも可能にしている。