VRAM 4GBでローカルLLMはどこまで動くか【2026年8月版】7Bは動いて14Bは載らなかった
GTX 1650(VRAM 4GB)の古いゲーミングPCでローカルLLMを24時間運用して分かった線引きをまとめた。3B〜7Bの量子化モデルは実用、14Bは載らない。買い替え判断の基準まで書く。
GTX 1650(VRAM 4GB)の古いゲーミングPCでローカルLLMを24時間運用して分かった線引きをまとめた。3B〜7Bの量子化モデルは実用、14Bは載らない。買い替え判断の基準まで書く。
手元のPCやMacで動かすローカルLLM(Ollama等)を、実際に何にどう使うかを用途別にまとめた。自分のファイルへの質問(RAG)・コード補助・要約翻訳・画像の読み取りまで、どのツールとモデルで実現するか、必要なメモリはどれくらいか、クラウドAIとの使い分けも含めて。
余ったノートPCや古いMac miniを常時稼働のサーバーにして、その上でAI(ローカルLLM)を動かし、外出先からも安全に使う方法をまとめた。Syncthingでのファイル同期、ルーターのポートを開けずに済むTailscaleまで、なぜそうするのかも含めて解説する。
Apple Silicon搭載のMacでOllamaを入れて、最初のローカルLLMを動かすまでの手順を大学生向けにまとめた。メモリ別のモデル選びも紹介する。
ローカルLLMを試したい大学生向けに、メモリ16GBと32GBの違いを用途別に整理する。PCを買う前に確認したい判断基準もまとめた。