ローカルモデルマーケットプレイス

用途で選び、動くかどうかがひと目で分かり、ワンクリックでインストール。

壁はハードウェアではなく用語

ローカルモデルを動かす壁は、ハードウェアだったことは一度もありません。用語です。GGUF、Q4_K_M、imatrix、コンテキストウィンドウ、MoE——これらの言葉が「オフラインで使えるAIが欲しい」と「実際にインストールできた」の間に立ちはだかっています。ローカルモデルマーケットプレイスは、この道のりを誰にでも読める3つのステップに収束させます。

仕組み

「管理 → ローカルモデル」で用途を1つ選ぶと、システムがHugging Face上の品質検証済みの5つのパブリッシャーをスキャンします。各推薦には、このマシンに基づいて計算された適合ライト（緑／黄／赤）が付きます。インストールを押せば量子化バリアントを自動選択し、切断されてもダウンロードを再開、完了すればすぐ使えます。

用途を選ぶ
      |
      v
+------------------------+
| Hugging Faceをスキャン |  <-- 品質検証済み5パブリッシャー、
|                        |      結果は24時間キャッシュ
+-----------+------------+
            |
            v
+------------------------+
| 適合ライトを計算       |  <-- このマシンの今の
| （🟢／🟡／🔴）          |      メモリと照合
+-----------+------------+
            |
            v
+------------------------+
| ワンクリックインストール |  <-- 収まる中で最高品質の量子化版、
|                        |      再開可能ダウンロード
+------------------------+

ステップ1：用途を選ぶ

チャットアシスタント／コーディング／長文ドキュメント／中国語優先。モデル名を知る必要はありません。

ステップ2：適合ライトを読む

ライト	意味
🟢 快適に実行可能	メモリ占有が6割未満。日常使用で他の作業に影響しない
🟡 ぎりぎり動く	収まるが余裕はない。他の大型アプリを閉じることを推奨
🔴 収まらない	このバリアントはこのマシンの能力を超えている

判定式は、実際のファイルサイズ＋推論時のキャッシュ予約＋実行環境オーバーヘッドを、現在利用可能なメモリの9割と照合します——理論値ではなく、このマシンの今の状態です。

ステップ3：ワンクリックインストール

「収まる中で最高品質」の量子化バリアント（imatrixキャリブレーション版を優先）を自動選択し、切断されてもダウンロードを再開、完了するとインストール済みリストに自動的に表示されます。

MoEモデルのデュアルトラック判定：16GBマシンで30Bを動かす

MoE（Mixture-of-Experts）モデル、たとえば30B-A3Bは総パラメータ30Bですが、1トークンあたり実際に動くのは3Bだけです。このタイプのモデルのexpert重みは、すべてを高速メモリに詰め込む必要がありません——turbo-fieldfareプロジェクトは、26Bモデルが常駐2GBでも動くことを実証しました。そのためマーケットプレイスはMoEモデルに2つのライトを表示します：

トラック	判定内容
フルロード	パッケージ全体をメモリに載せる従来の判定
VRAM節約モード	共有レイヤーだけGPUへ、expertはシステムメモリに残す判定

フルロードで赤、VRAM節約モードで緑のモデルには「VRAM節約モード利用可」のラベルが付きます。実行レイヤーは今日から有効化できます：inference.tomlの[llamafile] extra_args = ["--cpu-moe"]（llamafileの中身はllama.cppです）。llama.cppネイティブのexpert SSDストリーミング（上流PR #25294）がマージされ次第、1つのトグルとして追随します。

パワーユーザー向け

詳細ドロワー：各モデルの全量子化バリアントを手動で選択。imatrixラベル、ファイルごとの適合ライトとVRAM節約判定付き。
手動インストール：任意のHugging Faceリポジトリ（org/Model-GGUF）を直接入力。同じようにquantを列挙し適合を計算——旧「リスト機構」に代わる脱出ハッチです。
LoRAとその他の調整：inference.tomlの[llamafile] extra_args経由で渡します（例：["--lora", "/path/adapter.gguf"]）。推論設定ページで編集できます。
HFトークン：環境変数HF_TOKEN——レート制限が2倍になり、要承認（gated）モデルにもアクセスできます。

データソースと品質

パブリッシャーのホワイトリストは5つ：unsloth（MoEに強い）、bartowski、mradermacher、lmstudio-community、ggml-org——コミュニティの量子化品質ベンチマーク（元の重みと照合したKL divergence）に基づいて選定。同じモデルを複数のパブリッシャーが公開している場合は自動で重複排除し、最良のものを採用します。検索結果は24時間キャッシュ。Hugging Faceに到達できないときはキャッシュにフォールバックし、ページを決してブロックしません。

境界

モデルファイルがレジストリそのもの：インストール＝ファイルが~/.duduclaw/models/に置かれる、削除＝ファイルを消す。エージェント側のmodel_list／model_load MCPツールは同じディレクトリを読み、挙動は変わりません。
推論設定ページはそのまま：バックエンド選択、ルーティング、llamafile引数は元の場所に残ります——移動したのは「モデルを探す、モデルを入れる」の部分だけです。

まとめ

マーケットプレイスは3つの問いに分かりやすい言葉で答えます：このモデルは何のためか、このマシンで動くか、どうやって入れるか——用途セレクター、実際のメモリ数値から計算された適合ライト、そして再開可能なワンクリックインストールです。