ローカルでLLMを動かす、という話になると必ず名前が挙がるのが LM Studio と KoboldCpp です。このサイトでも SillyTavern や AI官能小説の作り方 で「バックエンドに使う」と繰り返し書いてきましたが、その本体を扱った記事がありませんでした。
この記事で2つを整理します。
公式
- LM Studio: lmstudio.ai
- KoboldCpp: github.com/LostRuins/koboldcpp
機能と対応範囲は更新が速い領域です。導入前に公式で最新を確認してください。
前提：なぜローカルで動かすのか
クラウドのLLMサービスは手軽ですが、次の制約があります。
- 利用規約による出力制限
- 入力内容がサーバーに渡る
- 従量課金
- サービス終了や仕様変更のリスク
ローカルで動かせば、これらがモデル自体の性能とライセンスの問題に置き換わります。手元のマシンで完結するので、入力内容が外に出ません。
代わりにGPUという初期投資と環境構築の手間が発生します。この記事で扱う2つは、後者を小さくするためのツールです。
LM Studio：GUIで完結させる
LM Studio はデスクトップアプリとして提供される、GUI中心のツールです。
特徴
- モデルの検索からダウンロードまでアプリ内で完結
- チャット画面が標準搭載
- OpenAI互換のローカルAPIサーバーを立てられる
- Windows / macOS / Linux 対応
- コマンドライン操作が不要
「まずローカルLLMを動かしてみたい」段階で最も摩擦が少ない選択肢です。Pythonの環境構築も、依存関係の解決も要りません。
向く人
- コマンドラインに抵抗がある
- モデル探しも含めて一つのアプリで済ませたい
- 手元でチャットして試したい
注意
アプリの機能や画面構成は更新で変わります。具体的な操作手順は公式ドキュメントで確認してください。この記事では「何ができるか」の水準に留めます。
KoboldCpp：単一実行ファイルで動かす
KoboldCpp は llama.cpp をベースに機能を足したツールです。公式READMEでは、オリジナルの KoboldAI に着想を得た、扱いやすいAIテキスト生成ソフトウェアと説明されています。
特徴
公式READMEに挙げられている主なものを整理します。
- インストール不要の単一実行ファイル（外部依存なし）
- CPUでもGPUでも動作し、部分的なオフロードにも対応
- GGML / GGUF モデルに対応、過去モデルとの後方互換性
- KoboldAI Lite UI を同梱（編集ツール、メモリ、World Info、キャラクター、シナリオ）
- Tavern形式のキャラクターカードを読み込める
- Windows / macOS / Linux のビルド済みバイナリ。Colab、Docker、Termux経由のAndroid、Raspberry Pi にも対応
LLM以外にも広がっている
ここが認識を更新すべき点です。公式READMEによれば、KoboldCppは現在テキスト生成以外も扱います。
| 機能 | 内容 |
|---|---|
| 画像生成・画像編集 | SD1.5 / SDXL / SD3 / Flux / Qwen Image など |
| 動画生成 | WAN 系 |
| 音声認識 | Whisper |
| 音声合成 | 複数のTTSエンジン |
| 音楽生成 | 対応あり |
| 画像認識 | マルチモーダル Vision |
| MCP サーバー | ツール呼び出しに対応 |
「軽量なLLMランタイム」という理解は古い、というのが正確なところです。ただし対応範囲は更新が速いので、具体的に何が動くかは公式READMEで最新を確認してください。
豊富なAPI互換
公式READMEには、複数のWebサービス互換エンドポイントを提供すると記載されています。KoboldCpp独自API、OpenAI API、Ollama API、A1111/Forge API、ComfyUI API などです。
既存のツールを繋ぎ替えずに使えるのは実務上大きい利点です。
向く人
- インストール作業をしたくない
- CPUのみ、または非力なマシンで動かしたい
- 1つのツールで複数のことを済ませたい
- 既存のクライアントから繋ぎたい
Ollama：コマンドで完結させる
公式: ollama.com
3つ目の選択肢です。コマンド1行でモデルを取ってきて、そのまま動かせるのが特徴です。
特徴
- 導入がワンライナー — macOS / Windows / Linux いずれも公式のインストールスクリプトが用意されています。Docker イメージも公式配布されています
- モデルの取得と実行が一体 — モデル名を指定するだけで取得から起動まで進みます。ファイルを自分で探して配置する手間がありません
- APIサーバーが標準で立つ — ローカルの決まったポート（11434）でREST APIが動きます
- 公式のライブラリがある — Python と JavaScript 向けが公式に配布されており、自作スクリプトから扱いやすい構成です
中身は llama.cpp
公式READMEには、対応バックエンドとして llama.cpp が挙げられています。
つまり KoboldCpp と土台が同じです。動作の傾向やGGUFの扱いが似ているのは、ここに理由があります。「どちらが速いか」で悩むより、操作の入口が違うだけと捉えるほうが実態に近いです。
向く人
- コマンド操作に抵抗がない
- サーバーとして常駐させたい（自作アプリやスクリプトから叩く前提）
- 複数のマシンやDockerで同じ環境を再現したい
注意
GUIを期待すると肩透かしになります。 対話するだけならコマンドで足りますが、キャラクター設定を作り込んで長く遊ぶ用途では、SillyTavern のようなクライアントを別に用意することになります。
また、手元のGGUFファイルを持ち込む場合は取り込みの手順が要ります。公式ドキュメントに導入方法の項があるので、そちらを確認してください。
GGUFと量子化：VRAMとの付き合い方
どちらのツールを使うにせよ、モデル選びの基本は量子化の理解です。
量子化とは
モデルの重みを低いビット数で表現してファイルサイズとメモリ使用量を減らす手法です。GGUFファイル名には Q4_K_M Q5_K_M Q8_0 のような表記が付きます。
| 表記 | 傾向 |
|---|---|
| Q8 | 品質重視。重い |
| Q6 / Q5 | バランス |
| Q4_K_M | 実務で最も使われる帯 |
| Q3 以下 | 軽いが品質低下が目立ちやすい |
VRAM別の目安
| VRAM | 現実的な範囲 |
|---|---|
| 8GB | 7B〜13B の量子化版 |
| 12GB | 13B〜20B の量子化版 |
| 16GB | 30B クラスの量子化版 |
| 24GB以上 | 30B〜70B の量子化版 |
**原則は「VRAMに収まる範囲で最大の量子化を選ぶ」**です。収まらない分はシステムメモリにオフロードできますが、速度が明確に落ちます。
環境の考え方は AI生成PC構成完全ガイド にまとめています。
モデルの選び方
日本語で使うなら、日本語能力の高いオープンウェイトを選ぶのが前提です。英語中心のモデルに日本語で話しかけると、語彙が不自然になったり英語に戻ったりします。
各モデルの傾向は 中国AIサービス完全ガイド と AI官能小説の作り方 で触れています。
APIサーバーとして使う
両者に共通する重要な機能です。
何ができるか
ローカルにHTTPサーバーが立ち、OpenAI互換のエンドポイントを提供します。つまり、OpenAI APIを叩くように書かれたツールやコードが、接続先を変えるだけでローカルモデルを使えるようになります。
[ SillyTavern など ]
↓ HTTP
[ LM Studio / KoboldCpp（ローカルAPIサーバー） ]
↓
[ GGUFモデル ]SillyTavern から繋ぐ
- LM Studio または KoboldCpp でモデルをロード
- APIサーバーを起動
- SillyTavern の接続設定でそのエンドポイントを指定
「SillyTavernを入れたのに何も返ってこない」の大半は、この2番を忘れているケースです。フロントエンドだけでは動きません。
詳しくは SillyTavern 完全ガイド を参照してください。
自作スクリプトから繋ぐ
OpenAI互換なので、既存のSDKで base_url をローカルに向けるだけで動きます。小説の下書き生成やタグ整理を自動化するといった用途で使えます。
使い分けの結論
| LM Studio | KoboldCpp | Ollama | |
|---|---|---|---|
| 導入 | インストーラ | 単一実行ファイル | ワンライナー / Docker |
| 操作 | GUI | 同梱UIあり | コマンド中心 |
| モデル探し | アプリ内で完結 | 別途入手 | 名前指定で取得 |
| CPU動作 | 可 | 得意 | 可 |
| LLM以外 | — | 画像・動画・音声も | — |
| 常駐サーバー | 可 | 可 | 標準でそう動く |
| 土台 | — | llama.cpp | llama.cpp |
KoboldCpp と Ollama は土台が同じ（どちらも llama.cpp）なので、出力の傾向で大きく差が出るわけではありません。違うのは操作の入口です。
選び方
- 最初の1本、GUIで完結させたい → LM Studio
- インストールしたくない / CPUのみ / 低スペック → KoboldCpp
- 1つのツールで画像や音声もやりたい → KoboldCpp
- コマンドが苦にならない / サーバーとして常駐させたい → Ollama
- 迷ったら両方入れる（どれも他方を壊さない）
いずれもローカルにAPIサーバーを立てられるので、後から乗り換えてもクライアント側の作り直しは小さく済みます。最初の選択に時間をかける必要はありません。
よくある詰まりどころ
モデルをロードしたのに応答が返らない
APIサーバーが起動していない可能性が高いです。チャット画面で動いても、外部ツールから使うにはサーバーを別途立てる必要があります。
極端に遅い
- モデルが大きすぎる（より小さい量子化に変える）
- GPUに載っていない（オフロード設定を確認）
- コンテキスト長を大きく取りすぎている
メモリ不足で落ちる
量子化を1段下げるか、より小さいモデルに変えてください。コンテキスト長を縮めるのも有効です。
日本語が不自然
モデルの問題です。ツールを変えても解決しません。日本語能力の高いモデルに変えてください。
出力が途中で切れる
生成トークン数の上限に達しています。設定で上限を上げてください。
関連記事
- SillyTavern 完全ガイド2026
- AI官能小説の作り方2026
- 中国AIサービス完全ガイド【2026年8月更新】
- AI生成PC構成完全ガイド2026
- AIエロ絵の商用ライセンス完全整理2026
まとめ
LM Studio と KoboldCpp は、ローカルLLMを動かすための入口です。GUIで完結させたいなら LM Studio、インストールせず軽く動かしたいなら KoboldCpp。
覚えるべきは実質2つです。VRAMに収まる範囲で最大の量子化を選ぶこと、そして外部ツールから使うにはAPIサーバーを起動すること。
なお KoboldCpp は、公式READMEを読むと画像・動画・音声まで扱う統合ツールに広がっています。「軽量なLLMランタイム」という認識のままだと、使える機能を取りこぼします。
