VRAM 4GBでローカルLLMはどこまで動くか【2026年8月版】7Bは動いて14Bは載らなかった

目次 / INDEX

「VRAM 4GBはローカルLLMには少ない」。ここまでは調べればすぐ分かる。でも本当に知りたいのはその先で、具体的に何が動いて、何が動かないのかだと思う。スペック表とベンチマーク記事はいくらでも見つかるのに、「実際に運用したらこの線で詰まる」という線引きはどこにも書かれていない。だから「今のPCで始めていいのか、買い替えるべきか」が決められない。

僕は使わなくなった自作ゲーミングPC（GPUはGeForce GTX 1650、VRAM 4GB）を常時稼働のAIサーバーにして、Ollamaを24時間動かしている。この記事では、その実運用で分かった線引きを書く。先に断っておくと、僕が確かめたのはこの構成での話だ。他のGPUや他の実行環境まで一般化して断定はしない。ただ、GTX 1650や1660あたりの古いゲーミングPCが手元にある人には、そのまま参考になるはずだ。

結論：4GBなら3B〜7Bの量子化モデルまで。それで足りるなら買い替え不要

先に答えを出す。

結論僕のGTX 1650（VRAM 4GB）＋Ollamaの環境では、実用になるのは3B〜7B（パラメータ30億〜70億）の量子化モデルまで。14B（140億）のモデルはVRAMに載らなかった。要約・下書き・簡単な質問応答が用途なら、この範囲で足りるので買い替えなくていい。長いコードを書かせたり複雑な推論をさせたりしたいなら、4GBでは足りない。

「量子化」は初出なので先に噛み砕いておく。量子化とは、モデルの中身の数値をより粗い桁数で持ち直して、ファイルサイズと必要メモリを減らす圧縮のような処理のことだ。精度は少し落ちるが、必要メモリが半分以下になる。Ollamaで配布されているモデルの多くは最初から量子化済みなので、意識せずに恩恵を受けていることが多い。

つまり判断の順序はこうなる。まず自分の用途が3B〜7Bで足りるかを見極める。足りるなら今のPCで始める。足りないと分かってから、初めて買い替えやその他の選択肢を考えればいい。以下、順に説明する。

VRAMとは何を決める部品なのか

VRAM（グラフィックボードが持つ専用のメモリ）は、ローカルLLMにおいては「GPUで動かせるモデルの大きさの上限」を決める部品だ。

なぜそうなるのか。LLMは、パラメータ（モデルが学習で覚えた大量の数値）のかたまりで、応答を1トークン（AIが文章を処理する細かな単位）生成するたびに、原則としてその数値全部を読み出して計算する。GPUが速いのは、自分の手元にあるVRAM上のデータを大量に並列処理できるからで、逆に言うと、モデルがVRAMに収まっていることが速さの前提になる。

必要な量はざっくり計算できる。数式は平文で書くとこうだ。

必要メモリ ≈ パラメータ数 × 1パラメータあたりのバイト数
例）7Bモデルを4ビット量子化（1パラメータ ≈ 0.5バイト）で持つと
    70億 × 0.5バイト ≈ 3.5GB

7Bの量子化モデルで約3.5GB。ここに、会話の文脈を覚えておくための作業領域（KVキャッシュと呼ばれる）が上乗せされる。VRAM 4GBだと、7Bでもうほぼ満杯ということが分かると思う。同じ計算を14Bでやると4ビット量子化でも約7GB＋作業領域で、4GBには物理的に入らない。

じゃあ収まらなかったらどうなるのか。即エラーで止まるとは限らない。Ollamaには、載りきらない分をCPU側のメインメモリ（システムRAM）に置いて、CPUと分担して計算する仕組みがある。動くには動く。ただしCPUとメインメモリはGPUほど並列処理が得意ではなく、GPUとの間のデータのやり取りも挟まるので、応答速度が大きく落ちる。「VRAMが足りないと動かない」の実態は、「動くけど実用にならない速度まで落ちるか、モデルの読み込み自体に失敗する」ということだ。

僕の環境で試して分かった線

僕の環境を先に全部書いておく。

項目	内容
CPU	Intel Core i5-12400F（6コア12スレッド・内蔵GPU無し）
GPU	GeForce GTX 1650（VRAM 4GB）
メインメモリ	15.8GB
OS	Windows 11 Home
ネットワーク	有線1Gbpsで常時接続
実行環境	Ollamaを常駐させ24時間稼働

この機械をどう組んで常時稼働させているかは使ってないPCを自分専用AIサーバーにする話に書いたので、そちらを読んでほしい。今回はこの箱で「どのサイズまで載るか」だけに絞る。

結果はこうだった。

**3Bクラスの量子化モデル：載る。**普段づかいの主力はここ。要約や短い質問応答なら待たされる感覚が少なく、常駐させっぱなしでもストレスがない。
**7Bクラスの量子化モデル：載る。**4GBの上限に近いところで動いている感覚はあるが、実用の範囲。3Bより明らかに受け答えの質が上がるので、時間に余裕がある処理はこちらに回している。
**14Bクラス：載らない。**ここが僕の環境の壁だった。VRAM 4GBに14Bは物理的に収まらず、実用にならない。前の章の計算どおりの結果で、量子化してもパラメータ数の桁が違うとどうにもならない。

正直に書いておくと、トークン毎秒のような定量的なベンチマークは取っていないので、数値では語れない。ここで書けるのは「載る／載らない」「実用になる／ならない」という質的な線引きまでだ。ただ、買い替え判断に必要なのはまさにこの線引きで、僕はこれが分かるまでスペック表をいくら眺めても決められなかった。

もうひとつ付け加えると、この構成で24時間常駐させても運用は破綻していない。3B〜7Bの範囲に収めている限り、古いゲーミングPCはローカルLLMサーバーとして普通に働く。「4GBだから無理」ではなく「4GBなりの範囲がある」というのが実感だ。

4GBで足りる用途、足りない用途

3B〜7Bで何ができるかが分かれば、自分の使い方で判断できる。僕の線引きはこうだ。

足りる用途：

文章の要約・言い換え・下書き生成。3Bでも十分こなせる定番の用途。
定型的な質問応答。用語の意味を聞く、簡単な英文を直す、といった軽い相手。
常駐スクリプトからの自動処理。ファイルの整理やメモのタグ付けのような、裏で回しておく仕事。多少時間がかかっても人が待っていないので気にならない。
ローカルLLMそのものの学習・実験。APIの従量課金なしで試行錯誤できるのは、それだけで価値がある。

足りない用途：

本格的なコード生成。まとまった長さのコードを書かせると、7Bクラスでは精度の面で厳しい。14B以上が欲しくなる領域だが、そこは4GBには載らない。
長い文脈を保った推論。長文の資料を丸ごと読ませて質問するような使い方は、モデルサイズと作業領域の両方が足りない。
応答の質がそのまま成果物になる仕事。レポートの本文をそのまま書かせるような用途は、小さいモデルだと結局手直しの方が重くなる。

どの用途にどのサイズが要るかの一般論はローカルLLMの用途まとめに書いたので、自分のやりたいことがどちら側かはそちらと突き合わせてほしい。

足りないと分かったときの選択肢

ここまで読んで「自分の用途は足りない側だ」となったときの選択肢を、利点と欠点の両方つきで並べる。先に言っておくと、順序としては「まず今の機械で試してから決める」が誠実だと思う。3Bのモデルを入れて動かすだけなら追加投資ゼロで、自分の用途がどちら側かは1日触れば分かる。

**1. VRAMの大きいGPUに載せ替える。**デスクトップならGPUだけ交換できるのが強みで、12GB以上のVRAMがあれば14Bクラスの量子化モデルが視野に入る。欠点は、まとまった出費になることと、電源ユニットの容量やケースのサイズという物理的な制約を先に確認する必要があること。中古市場の相場は変動が大きいので、価格は買う時点で必ず確かめてほしい。

**2. メインメモリを増やしてCPU実行に寄せる。**メモリはGPUより安く増やせて、大きいモデルを「載せる」だけならできるようになる。欠点ははっきりしていて、CPU実行は遅い。応答を待てる裏方の処理なら成立するが、対話的に使う用途では速度がストレスになる。どのくらいのメモリで何が動くかは16GBと32GBの比較記事に整理した。

**3. Macのユニファイドメモリという別の解。**Apple Siliconは、CPUとGPUがひとつのメモリを共有する設計（ユニファイドメモリ）なので、「VRAMだけ足りない」という今回の問題自体が起きない。メモリを大きく積んだMacなら大きめのモデルも動かせる。欠点は本体ごとの買い替えになるので最も高くつくことと、Windowsでしか動かないソフトや資産があるなら乗り換えの手間が別に発生すること。試すときの手順はMac版Ollamaの入門記事に書いた。

**4. クラウドのGPUやAPIを借りる。**初期投資ゼロで、必要なときだけ大きいモデルを使える。使用頻度が低いなら一番安くつく可能性が高い。欠点は、使うほど課金される従量制であることと、データを外部サーバーに送ることになるので「手元で完結する」というローカルLLMの利点は失われること。

どれが正解かは用途と頻度で変わる。ただ、足りるかどうかを確かめる前に買うのだけはもったいない。僕自身、この4GBの箱で始めたからこそ「自分の用途は3B〜7Bでほぼ足りている」と分かって、買い替えを急がずに済んでいる。

まとめ

VRAMは「GPUで動かせるモデルの大きさの上限」を決める。モデルがVRAMに収まることが速さの前提で、あふれた分はCPU側に回って大きく遅くなる。
僕のGTX 1650（4GB）＋Ollamaの環境では、3B〜7Bの量子化モデルは実用、14Bは載らなかった。確かめたのはこの構成での話で、他の環境まで断定はしない。
要約・下書き・裏方の自動処理なら4GBで足りる。本格的なコード生成や長文の推論は足りない。
足りないと分かったら、GPU交換・メモリ増設＋CPU実行・Mac・クラウドの4択。それぞれ利点と欠点があるので、まず今の機械で試してから決めるのが順序だ。

古いゲーミングPCが埃をかぶっているなら、買い替えを検討する前に、まずOllamaを入れて3Bのモデルをひとつ動かしてみてほしい。それだけで、この記事の線引きが自分の用途に当てはまるかどうかは判断できるはずだ。