ローカルLLMを始めるとき、多くの人が最初に迷うのが「メモリは何GB必要か」という点です。結論から言うと、4bit量子化モデルを1つ動かす場合、システムメモリの目安は7Bで16～32GB、14Bで32～64GB、32Bで64～96GB、70Bで96～128GBです。 ただし、これはモデル名に含まれる「B」の数字だけで決まるものではありません。量子化方式、コンテキスト長、GPUへの割り当て、同時実行するアプリによって実際の使用量は変わります。 ローカルAIの仕組みやミニPCの選び方から確認したい方は、先にローカルAI・LLM向けミニPC完全ガイドをご覧ください。 この記事の結論：モデル規模別の必要メモリ早見表 以下は、一般的な4bit量子化モデルをWindowsまたはLinux上で1つ実行する場合の目安です。数値はベンチマーク結果ではなく、パラメータ数から求めた重み容量と、OS・推論処理・コンテキスト用の余裕を加えた構成目安です。 モデル規模 4bit重みの単純計算値 起動を狙えるRAMの目安 安定運用を考えた推奨RAM 主な用途 7B～8B 約3.5～4GB 16GB 32GB 日常会話、要約、翻訳、軽い文章作成 14B 約7GB 32GB 32～64GB 高品質な文章作成、プログラミング補助、軽量RAG 32B 約16GB 64GB 64～96GB 高度な推論、コード生成、長文処理、RAG 70B～72B 約35～36GB 64GB※ 96～128GB 高精度な推論、専門タスク、複数ツールを使うAIエージェント ※64GBで70Bの4bitモデルを読み込める場合もありますが、OSやKVキャッシュに使える余裕が小さくなります。長いコンテキスト、RAG、他アプリとの併用を考えるなら96～128GBが現実的です。 Qwenは、Qwen3のdenseモデルとして8B・14B・32Bを公式に公開しています。また、MetaのLlama 3.1には8Bと70Bがあります。このように「7B・14B・32B・70B」は、ローカルLLM用PCを選ぶ際の代表的な比較単位になっています。 「7B」「14B」のBは何を表す？ Bは「Billion」、つまり10億を意味します。7Bモデルなら約70億、70Bモデルなら約700億のパラメータを持つモデルです。 基本的にはパラメータ数が増えるほど、モデルの重みを保存するためのメモリが必要になります。ただし、パラメータ数が大きければ必ず日本語性能や回答品質が高いとは限りません。学習データ、モデル構造、タスクとの相性も重要です。 LLMそのものの意味を確認したい方は、LLMとは？仕組みと生成AIとの違いも参考にしてください。 必要メモリを計算する基本式...