本地 AI 硬件的性价比前沿
哪些机器花同样的钱能换来最多的本地 AI 算力?用 ModelDock 公开的 Qwen3.8 Flash Next 基准数据画出帕累托前沿:它说明了什么、怎样计算,以及哪些地方不能全信。
要点
ModelDock 为它在 Qwen3.8 Flash Next 上跟踪的每台机器公布价格、功耗,以及读取和写入速度。把每台机器的价格和它一天能完成的工作量画在一张图上,只保留没有更便宜的机器能胜过的那些,就得到性价比前沿:每个预算能买到的最高产出。按 2026 年 10 月 15 日的数据:
- 35 台机器中有 15 台位于前沿。 其余 20 台都被某台更便宜、产出又更高的机器胜过。
- 先陡,后平。 从 1,560 美元到 2,800 美元,日产量大约翻了两番,从 1400 万 token 涨到 5800 万。最后一档,从 8,450 美元的 RTX 5090 到 19,200 美元的 RTX PRO 6000,只多了 5%。
- 每 token 最便宜的,不是买起来最便宜的。 前沿上每百万 token 成本最低的是 5,499 美元的 Mac Studio M5 Ultra 96 GB:0.047 美元,只有 RTX 3060(0.140 美元)的三分之一。
- 电费会重排中段。 算上五年的电费,低功耗机器进入前沿,而功耗 850 W 的双 RTX 3090 则掉出前沿。
下面的图会随 ModelDock 每次数据发布重新绘制;正文中的数字是 2026 年 10 月 15 日的数据。
前沿
在当前视角下,15 台机器位于前沿,共 35 台。
前沿上的机器,从便宜到贵
| 配置 | 整机价格 | 百万 token/天 | 再上一档 |
|---|---|---|---|
| RTX 3060 12 GB | US$1,560 | 14.3 | 多花 US$109,多 7.1 百万 token/天 |
| AMD Radeon RX 6900 XT 16GB | US$1,669 | 21.4 | 多花 US$145,多 6.0 百万 token/天 |
| 2x RTX 3060 12 GB | US$1,814 | 27.4 | 多花 US$186,多 9.1 百万 token/天 |
| AMD Radeon RX 9070 XT 16GB | US$2,000 | 36.6 | 多花 US$120,多 8.5 百万 token/天 |
| RTX 4070 Ti SUPER 16GB | US$2,120 | 45.0 | 多花 US$316,多 3.9 百万 token/天 |
| RTX 5070 Ti | US$2,435 | 48.9 | 多花 US$164,多 5.6 百万 token/天 |
| RTX 3090 | US$2,599 | 54.5 | 多花 US$201,多 3.1 百万 token/天 |
| RTX 5080 | US$2,800 | 57.6 | 多花 US$300,多 1.0 百万 token/天 |
| RTX 3090 Ti 估算 | US$3,100 | 58.6 | 多花 US$571,多 5.9 百万 token/天 |
| 2× RTX 5070 Ti | US$3,671 | 64.5 | 多花 US$327,多 0.9 百万 token/天 |
| 2x RTX 3090 24 GB | US$3,998 | 65.5 | 多花 US$401,多 10.3 百万 token/天 |
| RTX 4090 | US$4,399 | 75.8 | 多花 US$1,100,多 16.4 百万 token/天 |
| Mac Studio M5 Ultra 96 GB | US$5,499 | 92.2 | 多花 US$2,951,多 27.9 百万 token/天 |
| RTX 5090 | US$8,450 | 120.1 | 多花 US$10,750,多 6.1 百万 token/天 |
| RTX PRO 6000 Blackwell | US$19,200 | 126.2 | — |
离前沿不到 10%
- AMD Radeon RX 7900 XTX96%
- 2× Tesla V100 32GB96%
- AMD Radeon AI PRO R970091%
与“同等或更低成本下任何机器能达到的最高产出”之比。这么小的差距落在各来源的离散范围之内。
Qwen3.8 Flash Next。价格和速度均为 ModelDock Benchmark 公布的数值:独显整机价格 = 显卡价 + 1,200 美元主机(一体机按整机价);日产量按 90% 读取、10% 写入、每天 24 小时计算;5 年成本再加上按 0.15 美元/kWh 全天运行的电费。只能以 3-bit 及以下量化装下模型的机器不计入,与 Benchmark 和排行榜的默认做法一致。悬停或聚焦某个点可查看其数值。每次数据发布都会重新绘制; 数据日期 2026-10-15。
每个点是一台机器。实心点是前沿,从左到右相连;淡色的点至少被一台前沿机器胜过。如果你最在意答案出来得多快,把产出轴切到写入速度;如果你常喂长文档和长的智能体上下文,切到读取速度。把成本轴切到 5 年成本,就能把一台机器全天运行所耗的电费算进去。
怎样读这张图
一台机器胜过另一台,是指它花费不更多、产出不更少,并且至少在其中一项上严格更好。前沿上的机器不被任何机器胜过:它左上方那块更便宜又更好的区域是空的。它右下方的一切,都被它胜过。
示意图,不是数据。前沿把相邻的前沿机器用直线连起来;两台之间的点只是方便看趋势,并不是能买到的机器。
两台前沿机器之间的连线只是参考,并不是一台机器。严格来说,预算落在两者之间时,能买到的是较便宜那台的产出,也就是一级平台;直线段只是让取舍的形状更容易看清。出于同样的理由,不在前沿上的机器要和它自己的价钱实际能买到的东西比:它的产出,占同等或更低成本下任何机器能达到的最高产出的比例。
怎样计算
数据
所有数字都来自 ModelDock Benchmark 中 Qwen3.8 Flash Next 的数据。读取(prefill)和写入(decode)速度是公开来源报告的中位数,连同测试条件列在 Evidence 页面;还没有报告的机器使用明确标注的比例估算,图中以空心点表示。价格是 Data 页面上的当前市场价。只能以 3-bit 及以下量化装下模型的机器不计入,与 Benchmark 和排行榜的默认做法一致;没有价格或功耗数据的机器也无法放上图。
成本
独立显卡整机的价格 = 显卡价 + 1,200 美元的主机:处理器、主板、64 GB 内存、电源、机箱和存储。Mac、Ryzen AI Max+ 395 和 DGX Spark 这类一体机按整机价计算。5 年成本再加上按 0.15 美元/kWh 全天运行的电费;一台功耗 \(W\) 瓦、价格 \(P\) 美元的机器:
也就是说,连续运行五年,每多 100 W 大约多花 660 美元。
产出
日产量是 Benchmark 的默认工作负载:读取占 90%、写入占 10% 时,一台机器 24 小时能处理的 token 数。读取速度为 \(R\)、写入速度为 \(D\)(单位都是 token/秒)时:
它适合全天候跑智能体的机器。单看写入速度,更接近一个人等答案时的感受;读取速度决定长输入被读进去的快慢。
前沿
把机器按成本排序,从最便宜的开始往上走,保留每一台比之前所有机器产出都高的。留下来的就是前沿。排行榜所用的每百万 token 成本在这里不当作轴:它是成本与产出的比值,回答的是“每个 token 有多便宜”,而不是“我的预算能买多少”。它列在文末的完整表格里。
前沿说明了什么
先陡,后平
前沿在“花钱买显存”的阶段上升最快。从 1,560 美元的 RTX 3060,经过各款 16 GB 显卡,到 2,800 美元的 RTX 5080,日产量从 1400 万 token 涨到 5800 万:平均每多 100 万 token/天,只需不到 30 美元的购置成本。对混合专家模型来说,这正是专家缓存变大的阶段:每多 1 GB 显存,就有更多专家不必交给 CPU 计算,Strata 那篇文章解释了原因。
过了大约 3,000 美元,曲线开始变平。从 RTX 5080 到 8,450 美元的 RTX 5090,中间经过双 RTX 5070 Ti、RTX 4090 和 Mac Studio M5 Ultra 96 GB,日产量涨到 1.2 亿 token,平均每多 100 万 token/天约要 90 美元,是第一段的三倍。最后一档升到 19,200 美元的 RTX PRO 6000,多花 10,750 美元只多 600 万 token/天,相当于每多 100 万要 1,760 美元。它的 96 GB 显存在更大的模型或多人并发时才能发挥价值,而这个单用户工作负载没有衡量这些。
每 token 最便宜的,不是买起来最便宜的
前沿上最便宜的机器 RTX 3060,每 token 的成本反而是前沿上最高的:每百万 token 0.140 美元,因为它较低的产出同样要分摊 1,200 美元的主机。前沿上每 token 成本最低的是 Mac Studio M5 Ultra 96 GB,0.047 美元,其次是 RTX 4090 的 0.058 美元和 RTX 5080 的 0.059 美元。预算固定的买家和追求每个 token 最便宜的买家,在同一张图上看的是不同的位置。
电费会重排中段
把成本轴切到 5 年成本,前沿上仍是 15 台,但成员变了。低功耗机器左移进入前沿:Mac mini M5 Pro 64 GB、Intel Arc Pro B60、Ryzen AI Max+ 395 和 RTX 5070。耗电大的机器右移、掉出前沿:双 RTX 3090 功耗 850 W,五年电费约 5,600 美元,比它的购置价还高。
写入和读取讲的是不同的故事
按写入速度,前沿上有十台机器,2,120 美元的 RTX 4070 Ti SUPER 已经能每秒写 72 个 token。Mac Studio M5 Ultra 96 GB 的 140 是 RTX 5090(174)之前的一档;RTX PRO 6000 刚好掉出前沿,写入速度是更便宜的 RTX 5090 的 98%。按读取速度,前沿上全是独立显卡:2,800 美元的 RTX 5080 每秒读 3,591 个 token,RTX 5090 是 6,257,RTX PRO 6000 是 8,988,没有一台 Mac。
哪些地方不能全信
- 来源各不相同。 一个中位数合并了量化、运行时版本、上下文长度和主机各不相同的报告。同一张显卡放进另一台电脑,速度可能相差一倍,取决于它的内存和 PCIe 链路。
- 估算只是估算。 空心点是根据相近硬件上的实测锚点按比例推算的,不是实测;它在前沿上的位置是暂定的。
- 接近就等于打平。 离前沿不到 10% 左右的机器,考虑到来源的离散,实际上就在前沿上;图中把它们列了出来。
- 价格会变。 前沿按当天的市场价绘制;Data 页面保留了价格历史。
- 只有一种工作负载。 单流使用、90/10 的读写比例、每天 24 小时。换一种比例,每个点都会移动:Benchmark 工作台可以按你的情况重新计算。
- 它没有反映的东西。 更长上下文或更大模型的余量、噪音、体积和软件支持,都不在任何一条轴上。
怎么用
从预算出发,找到等于或略低于预算的前沿机器,再看“离前沿不到 10%”的列表里,有没有来源离散度分不出高下的替代选择。然后到这台机器自己的页面核对它的来源和条件。想知道你自己的机器会落在哪里,可以运行 ModelDock 测速:你的智能体用一行文字完成测试并返回一张分享卡;你选择提交的结果,经审核后才会进入公开数据。
来源与条件
- ModelDock Benchmark 中 Qwen3.8 Flash Next 的数据:速度来自 Evidence 上的中位数,价格和功耗来自 Data,经济性来自共享的 Benchmark 模型;同样的数据可以下载为 JSON 和 CSV。图的下方注明了数据日期。
- 默认值:90% 读取、10% 写入,每天 24 小时,0.15 美元/kWh,5 年使用寿命,独立显卡机器加 1,200 美元主机。都可以在 Benchmark 页面上修改。
- 正文中引用的数字来自 2026 年 10 月 15 日的数据。
图中每台机器及其全部数值 35
| 配置 | 整机价格 | 5 年成本 | 百万 token/天 | 写入 tok/s | 读取 tok/s | 每百万 token 成本 | 功耗(W) | 对比前沿 |
|---|---|---|---|---|---|---|---|---|
| RTX 3060 12 GB | US$1,560 | US$3,662 | 14.3 | 20.2 | 820 | $0.140 | 320 | 位于前沿 |
| AMD Radeon RX 6900 XT 16GB | US$1,669 | US$4,626 | 21.4 | 47.6 | 466 | $0.118 | 450 | 位于前沿 |
| 2x RTX 3060 12 GB | US$1,814 | US$5,033 | 27.4 | 41.3 | 1,240 | $0.101 | 490 | 位于前沿 |
| Intel Arc Pro B60 24GB | US$1,950 | US$4,249 | 23.4 | 35.5 | 1,034 | $0.099 | 350 | 85% |
| AMD Radeon RX 9070 XT 16GB | US$2,000 | US$4,983 | 36.6 | 54.9 | 1,660 | $0.075 | 454 | 位于前沿 |
| RTX 5070 12 GB | US$2,035 | US$4,663 | 32.1 | 48.3 | 1,443 | $0.080 | 400 | 88% |
| RTX 4070 Ti SUPER 16GB | US$2,120 | US$4,978 | 45.0 | 72.0 | 1,700 | $0.061 | 435 | 位于前沿 |
| 2x AMD Radeon RX 6900 XT 16GB | US$2,138 | US$7,065 | 31.4 | 63.0 | 772 | $0.123 | 750 | 70% |
| AMD Radeon RX 7900 XTX | US$2,400 | US$5,521 | 43.4 | 71.2 | 1,529 | $0.070 | 475 | 96% |
| RTX 5070 Ti | US$2,435 | US$5,392 | 48.9 | 71.1 | 2,498 | $0.060 | 450 | 位于前沿 |
| Intel Arc Pro B70 | US$2,500 | US$4,799 | 27.9 | 51.4 | 783 | $0.094 | 350 | 57% |
| RTX 3090 | US$2,599 | US$5,884 | 54.5 | 86.5 | 2,094 | $0.059 | 500 | 位于前沿 |
| 2× Tesla V100 32GB | US$2,700 | US$6,970 | 52.3 | 78.8 | 2,355 | $0.073 | 650 | 96% |
| RTX 5080 | US$2,800 | US$6,151 | 57.6 | 80.1 | 3,591 | $0.059 | 510 | 位于前沿 |
| 2x TITAN RTX 24 GB | US$2,881 | US$7,546 | 42.4 | 66.1 | 1,713 | $0.098 | 710 | 74% |
| Mac mini M5 Pro 64 GB | US$2,899 | US$3,622 | 11.8 | 19.2 | 430 | $0.168 | 110 | 21% |
| AMD Radeon AI PRO R9700 | US$2,900 | US$5,659 | 52.5 | 80.8 | 2,197 | $0.059 | 420 | 91% |
| 2× RTX 5060 Ti | US$2,960 | US$6,114 | 42.3 | 67.6 | 1,602 | $0.079 | 480 | 73% |
| RTX 3090 Ti 估算 | US$3,100 | US$7,042 | 58.6 | 93.1 | 2,255 | $0.066 | 600 | 位于前沿 |
| Ryzen AI Max+ 395 128 GB | US$3,500 | US$4,617 | 30.5 | 47.5 | 1,243 | $0.083 | 170 | 52% |
| 2× RTX 5070 Ti | US$3,671 | US$7,744 | 64.5 | 96.0 | 3,030 | $0.066 | 620 | 位于前沿 |
| Mac Studio M5 Max 64 GB 估算 | US$3,799 | US$4,982 | 19.1 | 36.0 | 518 | $0.143 | 180 | 30% |
| 2x RTX 3090 24 GB | US$3,998 | US$9,583 | 65.5 | 111.3 | 2,138 | $0.080 | 850 | 位于前沿 |
| RTX 4090 | US$4,399 | US$8,013 | 75.8 | 109.3 | 4,000 | $0.058 | 550 | 位于前沿 |
| 2× AMD Radeon AI PRO R9700 32 GB | US$4,600 | US$9,527 | 58.6 | 79.2 | 4,245 | $0.089 | 750 | 77% |
| MacBook Pro M5 Max 64 GB | US$5,099 | US$5,887 | 19.1 | 36.0 | 518 | $0.169 | 120 | 25% |
| DGX Spark | US$5,100 | US$6,217 | 35.2 | 48.7 | 2,229 | $0.097 | 170 | 46% |
| Mac Studio M5 Max 128 GB | US$5,399 | US$6,582 | 44.3 | 65.2 | 2,147 | $0.081 | 180 | 58% |
| Mac Studio M5 Ultra 96 GB | US$5,499 | US$7,864 | 92.2 | 139.6 | 4,083 | $0.047 | 360 | 位于前沿 |
| Mac Studio M4 Max 128 GB | US$6,500 | US$7,453 | 17.0 | 32.5 | 447 | $0.241 | 145 | 18% |
| MacBook Pro M5 Max 128 GB | US$6,699 | US$7,487 | 43.0 | 77.6 | 1,246 | $0.096 | 120 | 47% |
| RTX 5090 | US$8,450 | US$13,049 | 120.1 | 173.8 | 6,257 | $0.060 | 700 | 位于前沿 |
| Mac Studio M3 Ultra 512 GB | US$9,499 | US$11,667 | 11.7 | 18.1 | 480 | $0.548 | 330 | 10% |
| Mac Studio M5 Ultra 256 GB | US$10,799 | US$13,164 | 95.3 | 155.0 | 3,442 | $0.076 | 360 | 79% |
| RTX PRO 6000 Blackwell | US$19,200 | US$23,930 | 126.2 | 171.1 | 8,988 | $0.104 | 720 | 位于前沿 |
按图中当前的成本轴排序。“对比前沿”是该机器的产出,占同等或更低成本下任何机器能达到的最高产出的比例,按图中当前的两条轴计算。