AI

Local LLM(Local Large Language Model)

ユーザー自身が自分のコンピュータやサーバー上で実行・管理する人工知能モデルのことです。 クラウド上の AI サービス(例：ChatGPTなど)とは異なり、データを外部に送信せず、完全に自環境内で動作させるのが最大の特徴。

特徴と長所

プライバシー保護

データが外部サーバーに送信されないため、個人情報や機密情報との扱いが可能です（例：医療・法律ドキュメントの分析）。

オフライン対応

インターネット環境がなくても動作可能で応答が速い（特にオフライン環境で有利）。 航空機内や遠隔地など通信制限のある場所で活用できます。

コスト削減

API 利用料を払う必要がないため、長期的に運用費用を抑えられる。ただし初期のハードウェア投資が必要です。

完全な制御

モデルの挙動やプロンプト設定を自由に変更可能。ビジネス用途で独自ルールを追加できる。

短所

性能制約

同等のクラウドLLMに比べてモデルサイズや推論性能が劣ることが多い。

ハードウェア要件

高性能なCPU/GPU・メモリが必要で導入コストが高い。

維持管理負担

モデル更新、最適化、セキュリティ対応を自前で行う必要がある。

スケーラビリティ

同時利用者増加時のスケールアウトが難しい。

データ同期・学習データ量

大規模で多様なデータで継続的に学習させるのが難しい。

LM Studio (初心者〜中級者向け)

Windows 11で一番簡単に始められるツールです。

1. LM Studio公式サイトからWindows版をダウンロード＆インストール
2. 起動後、検索バーに「Qwen3.5」と入力
3. Qwen3.5-9B-Instruct（Q5_K_M または Q4_K_M）をダウンロード
4. ダウンロード完了後、Load → チャット開始

日本語で「Next.jsで静的ページを作って」「WordPressプラグインを書いて」などの指示がとても通りやすいです。 簡単なプラグイン等はすぐ作れる。

Ollama (速度・柔軟性重視)

OpenAI互換APIが出るのでVS Codeなどと連携しやすいです。

# PowerShell / コマンドプロンプトで実行
ollama run qwen3.5:9b
# または量子化指定
ollama run qwen3.5:9b-instruct-q5_K_M

Web UIを使いたい場合は Open WebUI を追加でインストールすると便利です。

Ollama と LM Studio の比較

まずはLM Studioで気軽に始めるのがおすすめです。
慣れてきてVS Code連携や自動化をしたい場合はOllamaに移行すると快適です。

おすすめモデル

Ollama API連携 詳細（VS Codeなど）

OllamaはOpenAI互換APIを提供しているため、さまざまなツールと簡単に連携できます。特に静的サイト作成やプラグイン開発で非常に強力です。

1. Ollamaサーバーの起動

ollama serve

これで http://localhost:11434 でAPIが利用可能になります（モデルを事前にpullしておく）。

2. VS Codeでコード補完（Continue.dev）

1. VS Code拡張「Continue」をインストール
2. 設定ファイル（~/.continue/config.json）に以下を追加：

   {
     "models": [
   {
     "title": "Qwen3.5-9B",
     "model": "qwen3.5:9b",
     "provider": "ollama",
     "apiBase": "http://localhost:11434"
   }
     ]
   }

3. Ctrl + L でサイドチャット、インライン補完が使用可能

静的ページ作成やPHPプラグインを書くときにリアルタイムで提案をもらえて非常に効率的です。

curl http://localhost:11434/api/chat -d '{
  "model": "qwen3.5:9b",
  "messages": [
{ "role": "user", "content": "Next.jsでTailwindを使ったダークモード対応の静的ページのコードを書いて" }
  ],
  "stream": false
}'

from openai import OpenAI

client = OpenAI(
base_url="http://localhost:11434/v1",
api_key="ollama"  # ダミーでOK
)

response = client.chat.completions.create(
model="qwen3.5:9b",
messages=[{"role": "user", "content": "WordPressプラグインのfunctions.phpを書いて"}]
)

AIの使用感と備忘録

• Antigravity と IDE
• Claude
• LM Studio
• Ollama
• バイブコーディング