この記事でやること
Mac でローカル LLM を動かす相談を受けると、聞かれることはだいたい二つです。
- 手元の Mac(または買おうとしている Mac)で、どのモデルが動くのか
- 動いたとして、使える速さなのか
この半年で、どちらの答えも大きく変わりました。オープンウェイトのモデルは Qwen3.8 世代、GLM-5.3、DeepSeek V4.1、NVIDIA の Nemotron 3.5、Meta の Muse Spark Open と立て続けに出ています。Mac 側では、2026 年 3 月に販売終了していた 512GB の構成が、9 月発表の M5 Ultra 搭載 Mac Studio で戻ってきました。ランタイムでは Ollama が Apple Silicon で MLX を標準にしています。
この記事は 2026 年 10 月下旬時点 の情報で、
- 速度を見積もるための考え方(容量ではなく帯域で決まる)
- 現行の Mac の帯域とメモリ構成
- 直近半年に出たモデルの一覧
- モデルごとの得意分野とベンチマーク
- メモリ容量別のおすすめ
- ツールの選び方と、はまりやすい点
を順に整理します。サイズや仕様は、記事末尾の参考資料(Apple の仕様ページ、各モデルの公式リポジトリ、Ollama の公式ライブラリ)で確認した値です。
モデルもランタイムも月単位で入れ替わります。ここに書いた数字は記事の日付時点のものとして読んでください。
1. 速度は「メモリ帯域」で決まる
容量は「載るか」、帯域は「速いか」
Apple Silicon は CPU と GPU が同じメモリ(ユニファイドメモリ)を共有するので、GPU 用の専用メモリが少ないパソコンより大きなモデルを載せられます。ここまではよく知られています。
見落とされがちなのは、文章を 1 トークン生成するたびに、モデルの重みをメモリから一通り読み出す という点です。生成の速さは計算力よりも、この読み出しがどれだけ速いか、つまりメモリ帯域で頭打ちになります。
だから同じ 64GB でも、帯域が倍の機種なら生成はほぼ倍速くなります。逆に、チップの世代が新しくても帯域が狭ければ遅いままです。
ざっくり見積もる式
生成速度の 上限 は、次の式でおおよそ見積もれます。
生成速度の上限(トークン/秒)
≒ メモリ帯域(GB/秒) ÷ 1 トークンごとに読む重みの量(GB)
1 トークンごとに読む重みの量(GB)
≒ アクティブなパラメータ数(10 億単位) × 量子化のビット数 ÷ 8
例:Qwen3.8-27B(全パラメータが毎回動く「密」なモデル)を 4bit で動かすと、1 トークンごとに約 14GB を読みます。
| 機種の帯域 | 上限の目安 |
|---|---|
| 170GB/秒(M6 の上位構成) | 約 12 トークン/秒 |
| 614GB/秒(M5 Max 40 コア GPU) | 約 44 トークン/秒 |
| 1.2TB/秒(M5 Ultra) | 約 85 トークン/秒 |
実測はこれより下がります。M5 Max でこのモデルの MLX 4bit 版が約 33 トークン/秒という測定があり、上限の 7 割強です。ただし同じ M5 Max でも、設定や文脈の長さによって 10 トークン/秒前後まで落ちたという報告もあります。式は「これ以上は出ない」という天井 として使い、実際はその半分〜7 割、文脈が長くなるとさらに下がると見ておくのが安全です。
MoE は「アクティブな分」だけ読む
最近の大きなモデルの多くは MoE(混合エキスパート)です。全体のパラメータは大きくても、1 トークンごとに使うのはその一部だけです。たとえば Qwen3.6-35B-A3B は全体 350 億のうち、1 トークンで動くのは約 30 億です。
- メモリに載せるのは全体(35B 分のファイルが必要)
- 速度を決めるのはアクティブな分(3B 分しか読まない)
なので MoE は「容量は大きく食うが、速い」という性格になります。ただし小さいモデルほど上の式の天井には届きにくく、ルーティングなどの処理が効いてきます。MoE の実測は、式の天井の数分の一にとどまることも珍しくありません。
メモリは 6〜7 割までしか使わない
モデルのファイルサイズがメモリ容量ぎりぎりだと、動いても実用になりません。macOS 自身とほかのアプリ、そして会話の文脈を保持するキャッシュ(KV キャッシュ)の分が要るからです。長い文書を読ませたりコーディング用のエージェントで使ったりすると、キャッシュは数 GB〜十数 GB に膨らみます。
目安として、モデルのファイルはメモリ容量の 6〜7 割まで に収めてください。
2. 現行の Mac の帯域とメモリ
2026 年 9 月に Mac mini と Mac Studio が新しくなりました。ローカル LLM の観点で整理すると次のとおりです(Apple の仕様ページより)。
| 機種 | チップ | メモリ構成 | メモリ帯域 |
|---|---|---|---|
| Mac mini | M6 | 16 / 24 / 32GB | 153GB/秒 または 170GB/秒(構成による) |
| Mac mini | M5 Pro | 24 / 48 / 64GB | 307GB/秒 |
| Mac Studio | M5 Max(32 コア GPU) | 36GB | 460GB/秒 |
| Mac Studio | M5 Max(40 コア GPU) | 48 / 64 / 128GB | 614GB/秒 |
| Mac Studio | M5 Ultra | 96 / 256 / 512GB | 1.2TB/秒 |
| MacBook Pro | M5 Pro | 最大 64GB | 307GB/秒 |
| MacBook Pro | M5 Max(32 コア GPU) | 最大 36GB | 460GB/秒 |
| MacBook Pro | M5 Max(40 コア GPU) | 最大 128GB | 614GB/秒 |
| (参考)Mac Studio | M3 Ultra | — | 約 819GB/秒 |
| (参考)Mac mini | M4 Pro | — | 273GB/秒 |
| (参考)Mac Studio(2022) | M1 Ultra | 64 / 128GB | 800GB/秒 |
押さえておきたい点が三つあります。
- M5 Ultra で大容量メモリが戻った。 2026 年 3 月、DRAM の供給不足を背景に M3 Ultra の Mac Studio から 512GB の選択肢が消え、256GB も納期が大きく延びました。同じ時期に Mac Pro も販売終了しています。M5 Ultra の Mac Studio は 96GB から始まり、256GB、そして 10 月下旬出荷の 512GB まで選べます。帯域も M3 Ultra の約 819GB/秒から 1.2TB/秒に上がりました。
- 「M5 Max」は二種類ある。 GPU が 32 コアの構成は帯域が 460GB/秒でメモリは 36GB まで、40 コアの構成は 614GB/秒で 128GB まで選べます。名前は同じでも生成速度に 3 割ほど差が出ます。48GB 以上を選べば自動的に 40 コア版になりますが、36GB の M5 Max は遅いほうだと覚えておいてください。
- Mac mini の入口が上がった。 M6 の Mac mini は 16GB から始まり、米国価格は 899 ドルからです。最大 32GB、帯域は 153〜170GB/秒なので、小〜中型モデル向けの機種と考えるのが妥当です。
古い機種も、帯域で見ると今でも十分に戦えます。2022 年の M1 Ultra の Mac Studio は 128GB・800GB/秒で、生成の速さだけなら 128GB の M5 Max(614GB/秒)より上です。ただし M5 世代は GPU の各コアに AI 処理用の回路(Neural Accelerator)が載っていて、長い入力を読み込む速さ(プリフィル)は M5 世代のほうが有利です。短い質問を何度も投げる使い方なら M1 Ultra でも快適で、長い文書やエージェントのように入力が長い使い方では読み込み待ちが目立ちます。
3. この半年に出た主なモデル
2026 年 4 月中旬から 10 月までに公開された、Mac で動かす候補になるオープンウェイトのモデルです。規模とライセンスは各モデルの公式リポジトリの記載です。
| 公開 | モデル | 規模(全体 / アクティブ) | ライセンス | Mac での位置づけ |
|---|---|---|---|---|
| 4 月 | Qwen3.6-35B-A3B | 35B / 3B(MoE) | Apache 2.0 | 48GB 以上の定番。速い |
| 4 月 | Qwen3.6-27B | 27B(密) | Apache 2.0 | コーディング向けの密モデル |
| 4 月 | DeepSeek V4-Flash | 284B / 13B(MoE) | MIT | 4bit で約 150GB。256GB 以上向け |
| 6 月 | Gemma 4 12B(と QAT 版) | 12B(密) | Apache 2.0 | 16GB の新しい本命 |
| 8 月 | Nemotron 3.5 Lightning 30B-A3B | 30B / 3B(MoE) | OpenMDW 1.1 | Qwen3.6-35B-A3B の対抗 |
| 8 月 | Muse Glimmer-30B(Meta) | 30B(密) | Apache 2.0 | 24〜32GB。Muse Spark から蒸留 |
| 8 月 | Qwen3.8-27B | 27B(密) | Apache 2.0 | 32GB 前後の新しい本命 |
| 8 月 | Qwen3.8-Flash-Next | 125B / 6B(MoE)+ 51B の n-gram 埋め込み | Qwen Community 1.0 | 4bit で約 112GB。256GB 向け |
| 8 月 | GLM-5.3-Flash | 320B / 18B(MoE) | MIT | 4bit で約 178GB。256GB 以上 |
| 9 月 | DeepSeek V4.1-Flash(10 月 17 日に更新版 1017) | 552B / 8〜16B | MIT | 512GB の M5 Ultra でのみ |
| 10 月 | Nemotron 3.5 Bolt E4B | 8B(実効 4B) | OpenMDW 1.1 | 16GB 向けの小型 |
| 10 月 | Nemotron 3.5 Bolt 74B-A9B | 74B / 9B(MoE、2bit で約 24GB) | OpenMDW 1.1 | 48GB 以上で試す価値あり |
| 10 月 | Nemotron 3.5 Super VL 120B-A12B | 120B / 12B(MoE) | OpenMDW 1.1 | 4bit で約 87GB。128GB 向け |
| 10 月 | Muse Spark Open(Meta) | 816B / 42B(MoE) | Muse Model License(独自) | 公式は M5 Ultra の Mac Studio 2 台を想定 |
一方で、クラウドの API だけで提供されていて手元では動かせないものも増えています。Qwen3.7-Plus や Qwen3.8-Omni-Flash などがそうです。DeepSeek V4-Pro(1.6T / アクティブ 49B)や Kimi K3(約 2.8T)のように重みは公開されていても、規模が大きすぎて Mac の範囲を超えるものもあります。
いくつか補足します。
- Qwen3.8-27B は 8 月 14 日公開、Apache 2.0 です。画像も入力でき、文脈は標準で約 26 万トークン(拡張で 100 万)です。4bit 版は MLX で約 16GB、Ollama で約 18GB です。同じ 27B の Qwen3.6 からの置き換え先として、いちばん無難な選択です。
- Qwen3.8-Flash-Next は次の Qwen4 で使う予定の構造を先行公開したモデルです。MoE 本体 125B(アクティブ 6B)に、計算をほとんど使わない n-gram 埋め込み 51B と、先読み用の 4B が加わり、保存サイズは全体で約 180B 相当になります。MLX の 4bit 版は約 112GB あるので、128GB 機では 9 割近くを占めてしまいます。256GB 機か、128GB 機なら 2bit 級の版で試すのが現実的です。
- GLM-5.3-Flash は 320B の MoE です。MLX の 4bit 版で約 178GB あり、256GB の M5 Ultra から現実的になります。
- DeepSeek V4.1-Flash は 9 月 10 日公開の MIT ライセンスで、入力の読み込み時は 8B、生成時は 16B が動くという変わった構造をしています。10 月 17 日には推論やコーディングを改善した更新版
DeepSeek-V4.1-Flash-1017が出ました。量子化版でも Q2_K で約 265GB、Q3_K_M で約 347GB あり、載るのは 512GB の M5 Ultra だけです。Q4_K_M は約 445GB で、512GB でも文脈の余裕がほとんど残りません。 - Nemotron 3.5 Bolt 74B-A9B は最初から 2bit で約 24GB に収まるように作られた MoE です。公式の手順は NVIDIA の GPU と vLLM 向けですが、GGUF 版が公式に配布されており、Ollama にも
nemotron-3.5-bolt:74b-a9b(約 25GB)として登録されています。6〜7 割の目安でいえば 32GB では窮屈で、48GB 以上が快適です。 - Nemotron 3.5 Bolt E4B は Gemma 4 E4B をもとに、複数回のやり取りやツールの使い方を NVIDIA が強化した小型モデルです。リポジトリ名に「4GB」とありますが、実際の Q4_K_M ファイルは約 6.2GB(Ollama 版は約 7〜8GB)あるので、8GB 機には向きません。
- Gemma 4 は 4 月の初出時から Apache 2.0 です。6 月に追加された 12B と、量子化しても品質が落ちにくいよう学習した QAT 版が、16GB 機で特に扱いやすくなっています。
4. モデルごとの得意分野とベンチマーク
ベンチマークの数字は 2 種類ある
ネットで見かけるベンチマークの数字には、性質の違う 2 種類があります。
- 開発元が公式モデルカードに載せる数字。 自社で測った値で、思考モードの強さ、使ったハーネス、試行回数などの条件がモデルごとに違います。同じ表の中での比較にとどめてください。 実際、同じ Qwen3.8-Flash-Next の GPQA Diamond が、Qwen の表では 91.7、NVIDIA の表では 92.7 と食い違っています
- 第三者が同じ条件で測った数字。 ここでは Artificial Analysis を使います。条件が揃っているので横並びで比べられます。ただしクラウドの API 経由で、量子化していない状態で測った値です。Mac で 4bit や 2bit に落として動かすと、これより下がることがあります
よく出てくるベンチマークの意味は次のとおりです。
| ベンチマーク | 何を測るか |
|---|---|
| SWE-bench Verified / Pro | 実在するリポジトリのバグを直せるか |
| Terminal-Bench | ターミナルを操作して課題をこなせるか(エージェント型のコーディング) |
| LiveCodeBench | 競技プログラミング形式の問題を解けるか |
| AIME / HMMT | 高校数学オリンピック級の数学 |
| GPQA Diamond | 大学院レベルの理系の知識と推論 |
| HLE(Humanity’s Last Exam) | 専門家でも難しい、最難関の知識問題 |
| Tau2 / BFCL / MCP-Atlas | ツール呼び出しを正しく使えるか |
| MMMU-Pro / MathVision | 画像を読み取って答えられるか |
| AA-LCR / MRCR / RULER | 長い文脈の中から必要な情報を拾えるか |
| MMMLU | 多言語での知識 |
| AA-Omniscience | 知らないことを「知らない」と言えるか。マイナスはもっともらしい誤答が多いことを意味する |
第三者による横並び比較
Artificial Analysis の Intelligence Index v4.3(2026 年 10 月 25 日に確認)から、この記事で扱うモデルを抜き出しました。総合指数は 10 種類の評価をまとめた値で、大きいほど高性能です。「推定」は Artificial Analysis が推定値として示しているものです。
| モデル | 総合指数 | Terminal-Bench 4.0 | SciCode | AA-LCR(長文脈) | HLE | Omniscience |
|---|---|---|---|---|---|---|
| DeepSeek V4.1-Flash-1017(Max) | 45 | 34% | 56% | 83% | 43% | +5 |
| GLM-5.3-Flash | 42 | 33% | 52% | 80% | 40% | +7 |
| Qwen3.8-Flash-Next | 40 | 25% | 51% | 80% | 38% | −10 |
| DeepSeek V4.1-Flash(9 月版、Max) | 39 | 27% | 52% | 84% | 39% | −5 |
| Muse Spark Open(Xhigh) | 39 | 8% | 58% | 78% | 44% | +25 |
| Qwen3.8-27B(Xhigh) | 34 | 6% | 47% | 82% | 34% | −10 |
| DeepSeek V4-Flash 0731(Max) | 34 | 12% | 50% | 80% | 39% | −14 |
| Nemotron 3.5 Super VL | 26 | 0% | 48% | 69% | 31% | −4 |
| Nemotron 3.5 Bolt 74B-A9B | 21 | — | — | — | — | — |
| Qwen3.6-27B | 21 | 0% | — | 77% | 23% | −20 |
| Qwen3.6-35B-A3B | 18 | 0% | 37% | 72% | 22% | −22 |
| Gemma 4 26B-A4B | 17(推定) | 1% | 40% | 66% | 19% | −51 |
| Gemma 4 31B | 15 | 0% | 45% | 70% | 24% | −48 |
| Gemma 4 12B | 14(推定) | 0% | 43% | 64% | 16% | −53 |
| Nemotron 3.5 Lightning | 13 | 1% | 32% | 60% | 11% | −18 |
この表から読み取れることは四つです。
- 総合力は、Mac に載せるのに必要なメモリとほぼ比例します。 上位はすべて 256GB 以上が必要なモデルで、32GB 前後で動くモデルの最上位は Qwen3.8-27B の 34 です
- ターミナル作業を丸ごと任せるエージェント用途は、小型モデルにはまだ厳しいです。 Terminal-Bench 4.0 では 30B 級以下がほぼ 0〜6% です。ただし Qwen3.8-27B は公式カードの Terminal-Bench 2.1 では 73.0 と高く出ています。ベンチマークの版やハーネスが違うと、結果がこれだけ変わります
- 長い文脈を読む力は、小型でも健闘しています。 Qwen3.8-27B の AA-LCR は 82% で、300B 級と並びます
- Gemma 4 は事実を聞く用途に注意が要ります。 Omniscience が −50 前後で、知らないことをもっともらしく答える傾向が強く出ています。逆に Muse Spark Open は +25 と、知識の確かさが際立ちます
モデルごとの得意・不得意
公式カードの数字(開発元の測定)と、上の第三者の比較を合わせて整理します。公式カードの数字は、そのモデルの表の中での相対的な強さを見るために使ってください。
32GB 前後までで動くモデル
- Qwen3.8-27B:コーディングとエージェント、長文脈、画像の読み取りが得意です。公式カードでは SWE-bench Pro 61.7、LiveCodeBench v6 90.3、MathVision 90.0 です。苦手なのは速さで、思考が長く、答えが返るまでに時間がかかります
- Qwen3.6-27B:同じ 27B の前の世代です。公式で SWE-bench Verified 77.2、AIME26 94.1 です。Qwen3.8-27B の公式表では Terminal-Bench 2.1 が 63.4(Qwen3.8-27B は 73.0)で、置き換えれば上積みがあります
- Qwen3.6-35B-A3B:速さが売りの MoE です。公式で SWE-bench Verified 73.4、AIME26 92.7、MMMU 81.7 と、アクティブ 3B としては高い水準です。第三者の比較ではエージェント系の課題が弱く出ています
- Muse Glimmer-30B:Meta が大型の Muse Spark から蒸留した密モデルで、Apache 2.0 です。公式表では、ツール接続(MCP-Atlas 75.5)、数学(AIME26 94.7)、長文脈(AA-LCR 80.0)で、同じ表の Gemma 4 31B と Qwen3.6-27B を上回ります。一方でコーディングは SWE-bench Verified 76.0、Terminal-Bench 2.1 51.7 と、Qwen3.6-27B(77.2 / 60.7)に届きません
- Gemma 4(12B / 26B-A4B / 31B):多言語と画像、数学が得意です。公式で MMMLU は 83.4 / 86.3 / 88.4、AIME 2026 は 77.5 / 88.3 / 89.2 です。苦手なのは長い文脈の中から複数の情報を拾うこと(MRCR 128K で 43.4 / 44.1 / 66.4)と、上で触れたもっともらしい誤答です
- Gemma 4 E2B / E4B:端末向けの小型です。日常の会話や要約には十分ですが、公式でも AIME 2026 は 37.5 / 42.5 で、難しい推論は任せられません
- Qwen 3.5 4B / 9B:小型ながらツール呼び出しに強く、公式で Tau2 は 79.9 / 79.1 です。8〜16GB で関数呼び出しを使うならまず候補になります
- Nemotron 3.5 Bolt E4B:音声アシスタントのように、すぐ返事をしたい用途向けです。公式で RULER 64K 86.99 と長文脈は強めですが、同じ表の Qwen3.5 4B と比べるとツール呼び出し(Tau2)は劣ります
- Nemotron 3.5 Lightning 30B-A3B:速さと安さが売りで、日本語対応も明記されています。精度は同クラスでは控えめで、公式表でも SWE-bench Verified は 51.56(同じ表の Qwen3.6-35B-A3B は 70.12)です
48GB 以上で動くモデル
- Nemotron 3.5 Bolt 74B-A9B:約 24GB に収まる中では賢い部類です。公式表では Terminal-Bench 2.1 50.98、GPQA Diamond 86.43 で、同じ表の Qwen3.6-35B-A3B(44.38 / 83.40)を上回ります。ブラウザ操作(BrowseComp 66.75)も得意です。第三者の総合指数は 21 で、Qwen3.6-27B と同じです
- Nemotron 3.5 Super VL 120B-A12B:画像、文書、動画を扱えるモデルです。公式で LiveCodeBench v6 88.22、SWE-bench Verified 71.10 です。第三者の比較では誤答が少ない(Omniscience −4)一方、業務の自動化(AutomationBench 15%)は苦手です
256GB 以上が必要なモデル
- GLM-5.3-Flash:エージェント型のコーディングが最も得意です。公式カードのグラフで Terminal-Bench 2.1 84.3(Claude Code をハーネスに使用)、第三者の Terminal-Bench 4.0 でも 33% と高く出ます。苦手なのは速さで、出力が長くなりがちです
- Qwen3.8-Flash-Next:アクティブ 6B と軽いわりに総合指数 40 と高く、長文脈(AA-LCR 80%)とツールを使う課題に強いです。公式で SWE-bench Pro 62.5、Toolathlon 73.5 と、同じ表の Qwen3.8-27B(61.7 / 67.1)を上回ります
- DeepSeek V4-Flash:思考の強さを 3 段階で選べ、最も強い Max では SWE-bench Verified 79.0、100 万トークンの文脈での MRCR 78.7 です。長大な文書を扱う用途に向きます
512GB が必要なモデル
- DeepSeek V4.1-Flash-1017:いま Mac で動かせるオープンウェイトの中では総合力が最も高く、第三者の総合指数は 45 です。公式では Terminal-Bench 4.0 42.3、DeepSWE 77.0 と、コーディングとエージェントの両方に強いです
- Muse Spark Open:知識の確かさが最大の強みで、第三者の HLE 44%、SciCode 58% は表の中で最も高い値です。公式ではツール接続(MCP-Atlas 89.2)やパソコン操作(OSWorld-Verified 80.4)も高い一方、第三者の Terminal-Bench 4.0 は 8% と低く出ています
Mac での実測
1 章の式と比べられる、Mac での実測もいくつかあります。
| モデル | 機種 | 条件 | 生成速度 |
|---|---|---|---|
| Qwen3.8-27B 4bit | M5 Max 128GB | MLX、先読み(MTP)あり | 文脈なしで 47.0、8K トークンで 36.1 トークン/秒 |
| Qwen3.8-27B 8bit | M5 Max 128GB | MLX、先読み(MTP)あり | 文脈なしで 28.7、8K トークンで 26.4 トークン/秒 |
| Muse Glimmer-30B(約 17GB 版) | M4 Max | 公式カードの測定 | 23.7(投機的デコードありで 37.8)トークン/秒 |
| Muse Glimmer-30B(約 17GB 版) | M5 Max | 公式カードの測定 | 26.6(投機的デコードありで 50.2)トークン/秒 |
Qwen3.8-27B の 4bit 版は、1 章の式では M5 Max で上限 44 トークン/秒前後でした。それを 47.0 と上回っているのは、先読み(MTP や投機的デコード)を使うと 1 回の重みの読み出しで複数のトークンを確定できるからです。先読みは、対応しているモデルとランタイムなら積極的に使う価値があります。そして文脈が 8K に伸びただけで 2 割ほど遅くなっている点も、長い会話で速度が落ちることを示しています。
5. メモリ容量別のおすすめ
ここからが本題です。容量ごとに「まずこれ」と「用途によってはこれ」を挙げます。サイズは Ollama の公式ライブラリまたは Hugging Face 上の量子化版の実ファイルサイズです。
8GB
実際に使えるのは 5GB 前後です。
- まずこれ:Qwen 3.5 4B(4bit で約 3.3GB)
- 画像や音声も扱いたいなら:Gemma 4 E2B(QAT 版で約 4.3GB、Q4_K_M で約 4.6GB)。「実効 2B」の小型ですが、埋め込みを含めると 5B あるので、ファイルは見た目の規模より大きくなります。8GB では余裕が少ないので、ほかのアプリを閉じて使ってください
- 7B 以上のモデルは、載っても文脈がほとんど取れません。8GB で大きなモデルを無理に動かすより、小さいモデルを快適に使うほうが結果は良くなります
16GB
使えるのは 11〜12GB です。M6 の Mac mini の標準構成もここに入ります。
- まずこれ:Gemma 4 12B の QAT 版(約 7.2GB)。この半年で 16GB の選択肢がいちばん良くなったところです。画像と音声も入力できます
- 会話やツール呼び出しを重視するなら:Nemotron 3.5 Bolt E4B(約 6〜8GB)
- 軽さを優先するなら:Gemma 4 E4B(約 6〜7GB)や Qwen 3.5 9B(約 6.6GB)
24GB
使えるのは 16〜18GB です。M5 Pro の Mac mini の標準構成です。
- まずこれ:Qwen3.8-27B の 4bit 版(約 16〜18GB)。性能は高いのですが、24GB ではかなり窮屈で、長い文脈は取れません。短めの質問やコード補完向けと割り切ってください
- 余裕を持たせるなら:Gemma 4 12B を 8bit で(約 13GB)
- 新顔:Muse Glimmer-30B。公式が 24GB 向けとして約 17GB の量子化版を配布しています。Qwen3.8-27B と同じく窮屈なので、文脈は短めで使ってください
24GB は、密な 27B が「ぎりぎり載る」容量です。これからコーディング用途で買うなら、32GB 以上をおすすめします。
32〜48GB
ローカル LLM でいちばん満足度が高い帯です。ここから「速い MoE」と「賢い密モデル」の両方が選べます。
- 賢さ優先:Qwen3.8-27B(32GB なら 4bit、48GB なら 8bit の約 30GB も視野)。この半年で最も大きな更新で、32GB 機の第一候補です
- 速さ優先:Qwen3.6-35B-A3B の 4bit 版(MLX で約 20GB、Ollama で約 23GB)。アクティブが 3B なので、密な 27B より明らかに速く返ってきます。32GB では 6〜7 割の目安をほぼ使い切るので、快適に使えるのは 48GB からです
- 対抗馬:Nemotron 3.5 Lightning 30B-A3B(4bit で約 18〜19GB)や Gemma 4 26B-A4B(約 16〜18GB)。同じ「アクティブが小さい MoE」なので、用途に合わせて比べてみる価値があります
- 新顔:Nemotron 3.5 Bolt 74B-A9B(約 24〜25GB)。48GB なら余裕を持って試せます
64GB
- Qwen3.8-27B を 8bit で(約 30GB)。量子化による劣化をほぼ気にせず使えます
- Qwen3.6-35B-A3B を 8bit で(約 38〜39GB)
- 70B 級の密モデル(Llama 3.3 70B など)の 4bit 版(約 40〜43GB)も載りますが、帯域が 614GB/秒でも 1 秒に 10 トークン前後です。速さが要る用途では、上の MoE のほうが実用的です
96〜128GB
M5 Ultra の最小構成(96GB)、M5 Max の Mac Studio と MacBook Pro の最大構成(128GB)です。
- Nemotron 3.5 Super VL 120B-A12B。画像も扱える大型 MoE です。4bit 版(約 87GB)は 128GB 機向けで、96GB 機なら 2bit 級(約 51〜58GB)を選びます
- Qwen3.6-35B-A3B を bf16(無圧縮)で(約 70〜72GB)。品質を一切落としたくない場合に
- Qwen3.8-Flash-Next は 4bit 版(約 112GB)だと 128GB 機でも余裕がありません。2bit 級の版で試すか、256GB 機を検討してください
- DeepSeek V4-Flash は 4bit で約 150GB あるため、128GB 機では 2bit 級(IQ2 など)まで落とさないと載りません。品質の低下を受け入れられるか、試してから判断してください
同じ 100GB 前後の容量帯でも、96GB の M5 Ultra(1.2TB/秒)は 128GB の M5 Max(614GB/秒)より約 2 倍速く生成します。載せたいモデルが 60GB 程度に収まるなら、容量より帯域を優先するのが得策です。
256GB(M5 Ultra)
- GLM-5.3-Flash を 4bit で(約 178GB)。320B の MoE を、文脈の余裕を残して動かせます
- DeepSeek V4-Flash を 4bit で(約 150GB)
- Qwen3.8-Flash-Next を 4bit で(約 112GB)
- 帯域が 1.2TB/秒あるので、アクティブ 10〜20B 程度の大型 MoE でも実用的な速さが出ます
512GB(M5 Ultra、10 月下旬出荷)
- DeepSeek V4.1-Flash(Q2_K で約 265GB、Q3_K_M で約 347GB)。Mac で動かせるのはこの構成だけです
- Muse Spark Open(816B / アクティブ 42B)は、MLX の 4bit 系の版でも約 468GB あり、512GB の 9 割を占めます。公式のモデルカードも「M5 Ultra の Mac Studio 2 台で MLX を使って動かす」構成を想定しています。1 台で動かすなら 2〜3bit 級の版になり、アクティブが大きいので速さは期待しないでください
6. ツールの選び方
Ollama:まずはこれ
Ollama は 2026 年 3 月の 0.19 で Apple Silicon 向けに MLX をプレビュー導入し、9 月 25 日の 0.40 から 対応しているモデルは自動的に MLX で動く ようになりました。Qwen3.8、Qwen3.6、Qwen3.5、Gemma 4 などが MLX の対象です。
# インストール(Homebrew の場合)
brew install ollama
# 32GB 以上なら
ollama run qwen3.8:27b
# 速さ優先の MoE(48GB 以上推奨)
ollama run qwen3.6:35b-a3b
# 16GB なら
ollama run gemma4:12b
コマンド一つで動き、OpenAI 互換の API もそのまま立つので、エディタやエージェントからつなぐ用途にも向いています。
LM Studio:画面で選びたいなら
GUI でモデルを探して、量子化の種類やパラメータを見比べながら試せます。Mac では MLX のエンジンを選べるので、速度面で Ollama に劣ることはありません。
mlx-lm:いちばん素の MLX
Apple の MLX をそのまま Python から使います。新しいモデルの MLX 版は、まず Hugging Face の mlx-community に上がることが多く、Ollama より早く試せます。なお mlx-lm で動かすと文章専用になるので、画像入力も使いたいときは mlx-vlm 用の版を選んでください。
pip install mlx-lm
mlx_lm.generate --model mlx-community/Qwen3.8-27B-4bit --prompt "こんにちは"
llama.cpp:MLX が未対応のモデル用
新しい構造のモデルは、MLX の対応が後回しになることがあります。そういうときは GGUF 形式の量子化版を llama.cpp で動かします。M5 Pro で同じモデルの MLX 版が GGUF 版より生成で 4 割ほど速かったという測定もあるので、MLX 版があるならそちらを優先してください。
7. はまりやすい点
- 「載った」と「使える」は違う。 6〜7 割の目安を超えると、文脈が取れない、ほかのアプリが落ちる、急に遅くなる、が起きます
- リポジトリ名や「実効」の数字でサイズを判断しない。 「4GB」と名の付いたモデルが実際は 6GB あったり、「実効 2B」のモデルが 4GB 超あったりします。必ず実ファイルのサイズを確認してください
- MoE は低ビットの量子化に弱いことがある。 どのエキスパートを使うかの判定がずれて、密モデルより品質が落ちやすい傾向があります。メモリに余裕があれば、MoE は 4bit より 5〜6bit を選ぶと安定します
- M5 Max の GPU コア数を確認する。 32 コアと 40 コアで帯域が 460GB/秒と 614GB/秒に分かれます
- ライセンスは一つずつ確認する。 Apache 2.0 や MIT のほかに、NVIDIA の OpenMDW、Qwen Community、売上の規模で別契約が必要になる Muse Model License などが混在しています。商用で使うなら、使う版の LICENSE を必ず読んでください
- 新しい構造はランタイムの対応待ちがある。 公開直後のモデルは、MLX や llama.cpp が対応するまで数日〜数週間かかることがあります。動かないときは、モデルではなくランタイムの版を疑ってください
まとめ:迷ったらこう選ぶ
| 手元の Mac | まず試すモデル |
|---|---|
| 8GB | Qwen 3.5 4B、Gemma 4 E2B |
| 16GB | Gemma 4 12B(QAT 版) |
| 24GB | Qwen3.8-27B 4bit(短い用途向け) |
| 32〜48GB | Qwen3.8-27B(賢さ)/ Qwen3.6-35B-A3B(速さ、48GB 推奨) |
| 64GB | Qwen3.8-27B 8bit |
| 96〜128GB | Nemotron 3.5 Super VL 120B-A12B |
| 256GB | GLM-5.3-Flash、Qwen3.8-Flash-Next |
| 512GB | DeepSeek V4.1-Flash |
これから買うなら、目安は次の三つです。
- コーディングやエージェント用途なら 32GB 以上。 密な 27B を余裕を持って動かせる最小ラインです
- 速さが大事なら帯域を見る。 同じ容量で迷ったら、帯域の広い機種を選んでください
- 100B 超の MoE を動かしたいなら M5 Ultra。 帯域と容量の両方が、ほかの Mac と別格です
いちばん大事なのは、ツールより先にモデルの大きさを Mac に合わせること です。大きなモデルを極端に量子化して押し込むより、メモリに見合ったモデルを適度な量子化で動かすほうが、たいてい良い結果になります。
参考資料
Mac のハードウェア
- Mac Studio 技術仕様(Apple)
- Mac mini 技術仕様(Apple)
- MacBook Pro 技術仕様(Apple)
- Apple introduces M6 and M5 Ultra(Apple Newsroom, 2026-08)
- Memory and Storage Configurations and Pricing for the New Mac Minis and Mac Studios(Daring Fireball)
- Apple drops 512GB M3 Ultra Mac Studio option(MacDailyNews, 2026-03-06)
- Mac Pro officially discontinued(Notebookcheck)
- Apple unveils M1 Ultra(Apple Newsroom, 2022-03)(M1 Ultra の帯域と最大メモリ)
- Apple M3 / Apple M4(Wikipedia、M3 Ultra と M4 Pro の帯域)
モデル(公式リポジトリ)
- Qwen/Qwen3.8-27B / Qwen/Qwen3.8-Flash-Next / Qwen/Qwen3.6-35B-A3B / Qwen/Qwen3.6-27B
- deepseek-ai/DeepSeek-V4-Flash / deepseek-ai/DeepSeek-V4.1-Flash / deepseek-ai/DeepSeek-V4.1-Flash-1017
- zai-org/GLM-5.3-Flash
- google/gemma-4-12B-it-qat-q4_0-gguf(Gemma 4 各サイズの仕様表)
- nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 / nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB / nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-BF16
- Meta releases Muse Spark Open(The New Stack)
量子化版のサイズ
- Ollama 公式ライブラリ:qwen3.8 / qwen3.6 / qwen3.5 / gemma4 / nemotron-3.5-bolt / nemotron-3.5-lightning / llama3.3
- MLX 版:mlx-community/Qwen3.8-27B-4bit / mlx-community/Qwen3.8-Flash-Next-4bit / mlx-community/DeepSeek-V4-Flash-4bit / pipenetwork/GLM-5.3-Flash-MLX-4bit / inferencerlabs/Muse-Spark-Open-816B-A42B-MLX-Q4i
- GGUF 版:mrfakename/DeepSeek-V4.1-Flash-1017-GGUF / unsloth/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-GGUF / nvidia/NVIDIA-Nemotron-3.5-Bolt-E4B-4GB
ベンチマーク(公式モデルカード)
- Qwen/Qwen3.5-9B(Qwen 3.5 4B / 9B の表) / google/gemma-4-31B-it(Gemma 4 全サイズの表)
- nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16
- meta-models/Muse-Glimmer-30B(Mac での速度の測定を含む) / meta-models/Muse-Spark-Open-816B-A42B
- そのほかのモデルは、上の「モデル(公式リポジトリ)」の各カード
ベンチマーク(第三者)
- Artificial Analysis:DeepSeek V4.1 Flash 1017 と Qwen3.8 27B の比較
- Artificial Analysis:GLM-5.3-Flash と Muse Spark Open の比較
- Artificial Analysis:DeepSeek V4.1 Flash と Qwen3.8-Flash-Next の比較
- Artificial Analysis:Nemotron 3.5 Super VL と DeepSeek V4 Flash の比較
- Artificial Analysis:Gemma 4 31B と Qwen3.6 35B A3B の比較
- Artificial Analysis:Qwen3.6 27B と Gemma 4 12B の比較
- Artificial Analysis:Nemotron 3.5 Lightning と Gemma 4 26B A4B の比較
- Artificial Analysis:Nemotron 3.5 Bolt 74B-A9B
ランタイムと実測
- Ollama v0.19.0 リリースノート / Ollama v0.40.0 リリースノート / Ollama ブログ:MLX
- Qwen 3.8 27B Hardware Guide(Context Studios)(M5 Max / M5 Pro での MLX と GGUF の実測)
- Run Qwen3.8 27B locally: real numbers from my Mac Studio(Hacker News)(環境による速度のばらつき)
- qwen-mlx-offline のベンチマーク(GitHub)(M5 Max での Qwen3.8-27B の実測。個人による測定)
