ローカル AI ハードウェアの価格性能フロンティア

フロンティア

1 つの点が 1 台のマシンを表す。塗りつぶした点がフロンティアで、左から右へ結んである。薄い点は、少なくとも 1 台のフロンティア上のマシンに負けている。回答が出るまでの速さを最も重視するなら出力の軸を書き込み速度に、長い文書やエージェントのコンテキストを読ませるなら読み取り速度に切り替えるとよい。コストの軸を 5 年コストに切り替えると、終日動かしたときの電気代も含めて比べられる。

図の読み方

あるマシンが別のマシンに勝つのは、コストが高くなく、出力が少なくなく、しかも少なくともどちらか一方で厳密に上回るときである。フロンティア上のマシンは何にも負けない。その左上、つまりより安くてより良い領域は空である。右下にあるものには、すべて勝っている。

フロンティア上の 2 台を結ぶ線は目安であって、マシンではない。厳密には、予算が 2 台の間にあるときに買えるのは安いほうの出力、つまり平らな段である。直線はトレードオフの形を読みやすくするためのものにすぎない。同じ理由で、フロンティア外のマシンは、その価格で実際に買えるものと比べて評価する。同じかそれ以下のコストで得られる最大の出力に対する、そのマシンの出力の比率である。

作り方

データ

すべての数値は、ModelDock の Benchmark にある Qwen3.8 Flash Next のデータから取っている。読み取り（prefill）と書き込み（decode）の速度は公開された出典報告の中央値で、条件とともに Evidence に載っている。報告がまだないマシンには、明示したスケール推定を使い、図では白抜きの点で示す。価格は Data ページにある現在の市場価格である。3 ビット以下でしかモデルが収まらないマシンは、Benchmark とランキングの既定と同じく除外し、価格や消費電力の値がないマシンは図に置けない。

コスト

GPU マシンの本体価格は、カードの価格に 1,200 ドルのホスト（CPU、マザーボード、64 GB の RAM、電源、ケース、ストレージ）を加えたものとする。Mac、Ryzen AI Max+ 395、DGX Spark のような一体型システムは本体の価格で数える。5 年コストには、0.15 ドル/kWh で終日動かしたときの電気代を加える。消費電力 \(W\) ワット、価格 \(P\) ドルのマシンでは次のようになる。

つまり、5 年間動かし続けると、100 W ごとに約 660 ドル増える。

出力

1 日の処理量は Benchmark の既定のワークロードで、トークンの 90% を読み取り、10% を書き込むとき、マシンが 24 時間でこなせるトークン数である。読み取り速度を \(R\)、書き込み速度を \(D\)（いずれもトークン/秒）とすると、次のとおり。

終日エージェントを動かすマシンに合った見方である。書き込み速度だけを見るほうが、回答を待つ一人の利用者の体感に近い。読み取り速度は、長い入力をどれだけ速く読み込めるかを決める。

フロンティア

マシンをコスト順に並べ、最も安いものから順に見ていき、それまでのどのマシンよりも出力が多いものだけを残す。残ったものがフロンティアである。ランキングが並べ替えに使う 100 万トークンあたりのコストは、ここでは軸にしない。コストと出力の比なので、「予算でどれだけ買えるか」ではなく「トークン 1 つがどれだけ安いか」という別の問いに答えるからだ。末尾の全マシンの表に載せてある。

フロンティアからわかること

急に上がり、やがて平らになる

フロンティアが最も急に上がるのは、お金で GPU メモリを買っている区間である。1,560 ドルの RTX 3060 から 16 GB のカード群を経て 2,800 ドルの RTX 5080 まで、1 日の処理量は 1,400 万トークンから 5,800 万トークンに増える。平均すると、1 日 100 万トークン増やすのにかかる購入費は 30 ドル未満である。混合エキスパートモデルでは、ここでエキスパートキャッシュが大きくなる。VRAM が 1 GB 増えるごとに、より多くのエキスパートを CPU に任せずに済むからで、その理由は Strata の記事で説明している。

3,000 ドルを超えるあたりで曲線は折れる。RTX 5080 から、RTX 5070 Ti 2 枚、RTX 4090、Mac Studio M5 Ultra 96 GB を経て 8,450 ドルの RTX 5090 まで、処理量は 1 日 1 億 2,000 万トークンに増えるが、100 万トークン増やすごとに約 90 ドルかかる。最初の区間の 3 倍である。最後の一段、19,200 ドルの RTX PRO 6000 では、10,750 ドル多く払って 1 日 600 万トークン増えるだけで、100 万トークンあたり約 1,760 ドルになる。その 96 GB が生きるのは、より大きなモデルや多数の同時利用者がいるときで、この単一利用者のワークロードでは測っていない。

トークンあたりで最も安いマシンは、買うのに最も安いマシンではない

フロンティア上で最も安い RTX 3060 は、トークンあたりではフロンティア上で最も高い。100 万トークンあたり 0.140 ドルで、少ない出力でも同じ 1,200 ドルのホストを負担するからだ。フロンティア上でトークンあたりのコストが最も低いのは Mac Studio M5 Ultra 96 GB の 0.047 ドルで、RTX 4090 の 0.058 ドル、RTX 5080 の 0.059 ドルが続く。予算が決まっている買い手と、トークン単価を最小にしたい買い手は、同じ図の違う場所を見ることになる。

電気代が中ほどの順位を入れ替える

コストの軸を 5 年コストに切り替えても、フロンティアには 15 台が残るが、顔ぶれは変わる。消費電力の小さいマシンは左に動いてフロンティアに加わる。Mac mini M5 Pro 64 GB、Intel Arc Pro B60、Ryzen AI Max+ 395、RTX 5070 である。電力を食うマシンは右に動いて外れる。RTX 3090 2 枚構成は 850 W を使い、5 年間の電気代は約 5,600 ドルと、購入価格を上回る。

書き込みと読み取りは別の話をする

書き込み速度で見ると、フロンティアは 10 台からなり、2,120 ドルの RTX 4070 Ti SUPER がすでに毎秒 72 トークンを書く。Mac Studio M5 Ultra 96 GB の 140 は、RTX 5090 の 174 の一段手前である。RTX PRO 6000 は、より安い RTX 5090 の 98% の速さで、わずかにフロンティアから外れる。読み取り速度で見ると、フロンティアはすべて GPU カードで、2,800 ドルの RTX 5080 が毎秒 3,591 トークン、RTX 5090 が 6,257、RTX PRO 6000 が 8,988 を読む。Mac は 1 台もない。

信じすぎてはいけないところ

• 出典がそれぞれ違う。 中央値には、量子化、ランタイムのバージョン、コンテキスト長、ホストマシンが異なる報告がまとめられている。同じ GPU でも別の PC では 2 倍速くなることがあり、それはメモリと PCIe リンクしだいである。
• 推定は推定にすぎない。 白抜きの点は、近いハードウェアでの実測値を基準にスケールしたもので、実測ではない。フロンティア上の位置は暫定的である。
• 僅差は同点とみなす。 フロンティアまで 10% 程度以内のマシンは、出典のばらつきを考えれば実質的にフロンティア上にある。図にその一覧を載せている。
• 価格は動く。 フロンティアはその日の市場価格で描いている。Data ページに価格の履歴がある。
• ワークロードは 1 つだけ。 単一ストリームでの利用、読み取りと書き込みが 90 対 10、1 日 24 時間である。比率を変えればどの点も動く。Benchmark のワークベンチで、自分の条件に合わせて計算し直せる。
• 含まれていないもの。 より長いコンテキストやより大きなモデルへの余裕、騒音、大きさ、ソフトウェアの対応状況は、どちらの軸にもない。

使い方

予算から出発し、それと同じかやや下にあるフロンティア上のマシンを見つける。そのうえで「フロンティアまで 10% 以内」の一覧から、出典のばらつきでは優劣をつけられない代わりの候補を確かめる。次に、そのマシン自身のページで出典と条件を確認する。自分のマシンがどこに位置するかを知りたいなら、ModelDock スピードテストを実行するとよい。エージェントが 1 行でベンチマークを行い、シェアカードを返してくれる。提出を選んだ結果は、審査を経てから公開データに加わる。

出典と条件

• ModelDock Benchmark の Qwen3.8 Flash Next のデータ：速度は Evidence の中央値、価格と消費電力は Data、経済性は共有の Benchmark モデルによる。同じデータは JSON と CSV でダウンロードできる。図の下にデータの日付を示している。
• 既定値：読み取り 90%、書き込み 10%、1 日 24 時間、0.15 ドル/kWh、使用期間 5 年、GPU マシンには 1,200 ドルのホスト。いずれも Benchmark ページで変更できる。
• 本文で引用した数値は 2026 年 10 月 15 日のデータによる。