7B・14B・32B・70Bモデルに必要なメモリは？ローカルLLMのRAM・VRAM目安【2026年版】
ローカルLLMを始めるとき、多くの人が最初に迷うのが「メモリは何GB必要か」という点です。結論から言うと、4bit量子化モデルを1つ動かす場合、システムメモリの目安は7Bで16～32GB、14Bで32～64GB、32Bで64～96GB、70Bで96～128GBです。
ただし、これはモデル名に含まれる「B」の数字だけで決まるものではありません。量子化方式、コンテキスト長、GPUへの割り当て、同時実行するアプリによって実際の使用量は変わります。
ローカルAIの仕組みやミニPCの選び方から確認したい方は、先にローカルAI・LLM向けミニPC完全ガイドをご覧ください。
この記事の結論：モデル規模別の必要メモリ早見表
以下は、一般的な4bit量子化モデルをWindowsまたはLinux上で1つ実行する場合の目安です。数値はベンチマーク結果ではなく、パラメータ数から求めた重み容量と、OS・推論処理・コンテキスト用の余裕を加えた構成目安です。
| モデル規模 | 4bit重みの単純計算値 | 起動を狙えるRAMの目安 | 安定運用を考えた推奨RAM | 主な用途 |
| 7B～8B | 約3.5～4GB | 16GB | 32GB | 日常会話、要約、翻訳、軽い文章作成 |
| 14B | 約7GB | 32GB | 32～64GB | 高品質な文章作成、プログラミング補助、軽量RAG |
| 32B | 約16GB | 64GB | 64～96GB | 高度な推論、コード生成、長文処理、RAG |
| 70B～72B | 約35～36GB | 64GB※ | 96～128GB | 高精度な推論、専門タスク、複数ツールを使うAIエージェント |
※64GBで70Bの4bitモデルを読み込める場合もありますが、OSやKVキャッシュに使える余裕が小さくなります。長いコンテキスト、RAG、他アプリとの併用を考えるなら96～128GBが現実的です。
Qwenは、Qwen3のdenseモデルとして8B・14B・32Bを公式に公開しています。また、MetaのLlama 3.1には8Bと70Bがあります。このように「7B・14B・32B・70B」は、ローカルLLM用PCを選ぶ際の代表的な比較単位になっています。
「7B」「14B」のBは何を表す？
Bは「Billion」、つまり10億を意味します。7Bモデルなら約70億、70Bモデルなら約700億のパラメータを持つモデルです。
基本的にはパラメータ数が増えるほど、モデルの重みを保存するためのメモリが必要になります。ただし、パラメータ数が大きければ必ず日本語性能や回答品質が高いとは限りません。学習データ、モデル構造、タスクとの相性も重要です。
LLMそのものの意味を確認したい方は、LLMとは？仕組みと生成AIとの違いも参考にしてください。
必要メモリを計算する基本式
モデルの重みだけを単純計算する場合、目安は次の式で求められます。
必要容量 ＝ パラメータ数 × 1パラメータ当たりのビット数 ÷ 8
たとえば70Bモデルを4bitで保存すると、単純計算は次のとおりです。
700億 × 4bit ÷ 8 ＝ 約35GB
ただし、実際の推論では35GBだけ用意すればよいわけではありません。モデル形式の付加情報、推論用バッファ、KVキャッシュ、OS、OllamaやLM Studioなどの実行ソフトにもメモリが必要です。そのため、PC選びでは単純計算値より余裕を持たせます。
精度・量子化別の重み容量
| 精度 | 1パラメータ当たりの容量 | 7B | 14B | 32B | 70B |
| FP16 / BF16 | 2バイト | 約14GB | 約28GB | 約64GB | 約140GB |
| 8bit | 1バイト | 約7GB | 約14GB | 約32GB | 約70GB |
| 4bit | 0.5バイト | 約3.5GB | 約7GB | 約16GB | 約35GB |
これは重み部分の理論値です。実際のGGUFファイル容量や実行時使用量は、Q4_K_Mなどの量子化方式やモデル構造によって異なります。ダウンロード前に配布ページのファイル容量を必ず確認してください。
7B～8Bモデル：16GBでも試せるが、32GBが使いやすい
7B～8Bは、ローカルLLMを初めて試す人に向いた規模です。4bit量子化なら重みの単純計算値は約3.5～4GBなので、16GBメモリのPCでも短い会話や要約を試せる場合があります。
一方、Windows、ブラウザ、資料作成ソフトなどを同時に使う場合は、32GBのほうが余裕を確保できます。PDFを読み込ませる、複数の会話を保持する、簡単なRAGを試すといった用途にも32GBが扱いやすい構成です。
おすすめ構成の目安
- 最低目安：16GB RAM
- 推奨：32GB RAM
- 量子化：4bit
- 用途：チャット、要約、翻訳、文章作成、軽いコード補助
14Bモデル：32GBが基準、長文やRAGなら64GBも検討
14Bは、PCのサイズとモデル能力のバランスを取りやすいクラスです。4bit重みの単純計算値は約7GBですが、実行時にはコンテキストやシステム用の領域も必要になります。
32GB構成なら、モデルを1つ起動し、短～中程度のコンテキストで使う構成を検討できます。長い資料を扱うRAG、コーディング支援、複数アプリの同時利用では、64GBあるとメモリ不足を避けやすくなります。
おすすめ構成の目安
- 最低目安：32GB RAM
- 推奨：32～64GB RAM
- 量子化：4bit
- 用途：文章作成、コード補助、軽量RAG、個人用AIアシスタント
32GB LPDDR5Xを搭載するACEMAGIC F5Aは、7B～14Bモデルを試すミニPCの候補です。ただし、メモリはオンボードで増設できません。将来32B以上へ移行する予定がある場合は、購入前に必要容量を決めておくことが重要です。
32Bモデル：64GBを基本に、長いコンテキストなら96GB
32Bの4bit重みは単純計算で約16GBです。しかし、32GBのシステムメモリではOSとGPUが同じメモリを共有する構成で余裕が小さくなりやすいため、64GBを基本ラインとして考えるのが安全です。
コードベース全体を読み込ませる、長いPDFをRAGで参照する、コンテキスト長を大きく設定するといった用途では、64～96GBが候補になります。
おすすめ構成の目安
- 最低目安：64GB RAM
- 推奨：64～96GB RAM
- 量子化：4bit
- 用途：高度なコード生成、専門文書の処理、RAG、ツール利用型エージェント
70B～72Bモデル：64GBは下限、実用性を考えるなら96～128GB
70Bの4bit重みは単純計算で約35GBです。実際の量子化ファイル、KVキャッシュ、OSの使用量を加えると、64GB構成では余裕が限られます。モデルを読み込めても、コンテキストを伸ばしたときや他のアプリを起動したときにメモリ不足になる可能性があります。
そのため、70Bクラスを主目的にPCを選ぶなら、96～128GBを現実的な目安とするのがおすすめです。
おすすめ構成の目安
- 起動を狙う下限：64GB RAM
- 推奨：96～128GB RAM
- 量子化：4bit
- 用途：高精度な推論、専門的な文章生成、複数ツールを使うAIエージェント
RAMとVRAMは何が違う？
RAMはOSやアプリ全体が使うシステムメモリ、VRAMは主にGPUが使うメモリです。
専用GPUを搭載したPCでは、モデルをVRAM内に収められるほどGPUで処理しやすくなります。VRAMに収まらないレイヤーをRAM側へ移すCPU/GPU混在実行も可能ですが、構成によっては速度が低下します。
一方、AMD Ryzen AI Maxシリーズなどの統合メモリ構成では、CPUとGPUが同じメモリプールを共有します。大容量をGPU側へ割り当てられる点はローカルLLMと相性がありますが、「128GB RAM＝128GBすべてをモデルに使える」という意味ではありません。OSや他のアプリの領域を残す必要があります。
VRAMの基礎と確認方法は、VRAMとは？容量の選び方ガイドで詳しく解説しています。
コンテキスト長を増やすと、必要メモリも増える
同じ14Bモデルでも、4Kトークンで使う場合と64Kトークンで使う場合では必要メモリが異なります。会話履歴や入力文を保持するKVキャッシュが増えるためです。
Ollamaの公式ドキュメントも、コンテキスト長を増やすと必要なメモリ量が増えると説明しています。長い文書、Web検索、コーディングエージェントでは、モデルの重みだけでなくコンテキスト用の余裕が重要です。
メモリを見積もるときは、次の用途を先に決めてください。
- 短いチャットだけを行う
- PDFや社内文書をRAGで参照する
- 32K～64K以上の長いコンテキストを使う
- 複数ユーザーまたは複数モデルを同時に動かす
- OpenClawなどのAIエージェントを常時稼働させる
Ollamaの導入手順は、ミニPCにOllamaをインストールする方法で解説予定です。常時稼働するエージェント用途については、OpenClawに最適なミニPCと必要スペックもご覧ください。
NPUのTOPSだけでLLM性能を判断しない
AI PCではNPUのTOPSが大きく表示されることがありますが、TOPSの数字だけでローカルLLMの生成速度を比較することはできません。
使用する推論ソフトがNPUに対応していなければ、実際の処理はCPUやGPUが中心になります。また、LLMではメモリ容量だけでなくメモリ帯域も重要です。購入時は次の項目をまとめて確認しましょう。
- 実行したいモデルのパラメータ数
- 量子化方式とファイル容量
- RAM・VRAM・共有メモリの上限
- メモリ帯域
- Ollama、LM Studio、llama.cppなどの対応状況
- 冷却、消費電力、長時間運用の条件
詳しい違いは、ローカルLLMにおけるNPUとGPUの違いで解説予定です。
ローカルLLM用PCを選ぶ前のチェックリスト
- まず使いたいモデルを7B・14B・32B・70Bから決める
- モデル配布ページで量子化ファイルの実容量を確認する
- OS用に少なくとも8～16GB程度の余裕を残す
- RAGや長いコンテキストでは、さらに余裕を持たせる
- 統合メモリの場合は共有VRAMの設定上限を確認する
- オンボードメモリが後から増設できるか確認する
- 実測値を見るときは、モデル名、量子化、コンテキスト長、ソフトのバージョンが同じか確認する
ミニPC全体のCPU、GPU、NPU、ストレージ、冷却まで含めて比較したい場合は、ローカルLLMに必要なPCスペック完全ガイドも参考にしてください。
まとめ
ローカルLLM用のメモリは、モデルを読み込める最低容量ではなく、実際の使い方を含めて選ぶことが大切です。
- 7B～8B：16GBでも試せるが、32GB推奨
- 14B：32GBが基準。RAGや長文では64GBも検討
- 32B：64GBが基本。長いコンテキストなら96GB
- 70B～72B：64GBは下限。実用性を考えるなら96～128GB
初めてローカルLLMを導入するなら、32GB構成で7B～14Bから始める方法が現実的です。32B以上や大規模なRAG、複数エージェント運用を想定する場合は、64～128GBの大容量メモリを検討してください。
よくある質問（FAQ）
7Bモデルは16GBメモリで動きますか？
4bit量子化された7B～8Bモデルであれば、16GB RAMのPCでも試せる場合があります。ただし、Windowsやブラウザを同時に使うなら32GBのほうが余裕があります。
14Bモデルは32GBメモリで使えますか？
4bit量子化、短～中程度のコンテキスト、1モデルのみという条件なら、32GBは現実的な候補です。長文処理、RAG、複数アプリとの併用では64GBも検討してください。
32Bモデルに32GBメモリでは足りませんか？
モデルや設定によって起動できる場合はありますが、OSやKVキャッシュの余裕が小さくなります。安定運用を考えるなら64GB以上を基本にするのがおすすめです。
70Bモデルは64GBメモリで動きますか？
4bit量子化モデルを短いコンテキストで読み込める場合がありますが、64GBは余裕の少ない下限です。長い会話やRAG、他アプリとの併用を考えるなら96～128GBが現実的です。
RAMとVRAMは合計して考えてよいですか？
専用GPUではRAMとVRAMは別の領域です。CPU/GPU分割実行は可能ですが、単純に合計容量だけで性能を判断できません。統合メモリPCではCPUとGPUが同じメモリを共有しますが、OS用の容量を残す必要があります。
コンテキスト長を増やすとメモリ使用量も増えますか？
はい。会話履歴や入力文を保持するKVキャッシュが増えるため、同じモデルでも長いコンテキストほど多くのRAMまたはVRAMが必要です。
ローカルLLMにはNPUが必須ですか？
必須ではありません。多くのローカルLLMはCPUまたはGPUでも動作します。NPUを利用できるかどうかは、推論ソフト、モデル形式、ドライバーの対応状況によって異なります。
Ollamaで実際のメモリ割り当てを確認する方法は？
ollama psを実行すると、読み込まれているモデルのサイズと、CPU・GPUへの割り当て状況を確認できます。モデル更新や設定変更後は、推測だけでなく実際の表示を確認してください。
