zh

本地 AI 的 GPU 选购指南

按显存、带宽、后端、功耗和每 GiB 价格比较用于本地 AI 的显卡。只有条件相同的实测结果才会相互比较。

本计算器提供基于模型的参考性估算,不构成任何金融、税务或法律建议。详见免责声明
  • 埃及
  • 巴基斯坦
  • 巴西
  • 保加利亚
  • 波兰
  • 德国
  • 俄罗斯
  • 法国
  • 韩国
  • 荷兰
  • 肯尼亚
  • 马来西亚
  • 美国
  • 孟加拉国
  • 墨西哥
  • 尼日利亚
  • 欧元区
  • 葡萄牙
  • 日本
  • 瑞典
  • 台湾
  • 泰国
  • 土耳其
  • 乌克兰
  • 西班牙
  • 意大利
  • 印度
  • 印度尼西亚
  • 英国
  • 越南
  • 中国
GPU 候选 CSV:名称;显存;带宽 GB/s;后端;功耗 W;价格;币种;运费;来源
实测 CSV:GPU 名称;词元/s;类型 tg/pp;模型;量化;上下文;后端;来源
你的软件需要的后端
  • 不限
  • CUDA
  • ROCm
  • Vulkan
  • Metal
  • SYCL
工作负载:模型总参数(十亿)
工作负载:每个权重的位数(量化,如 4.5)
工作负载:上下文词元数
工作负载:带 KV 缓存的层数(模型卡)
工作负载:KV 头数(模型卡)
工作负载:每个头的维度(模型卡)
工作负载:每个 KV 元素的位数
  • 16 (FP16/BF16)
  • 8
  • 4
每块 GPU 的运行缓冲和预留(GiB,假设)
将以 GB 标注的显存按 GiB 读取(常见标注)
币种(未注明币种的行和电价)
  • ¤
  • USD
  • EUR
  • GBP
  • JPY
  • CHF
  • CAD
  • AUD
  • CNY
  • INR
  • KRW
  • BRL
  • MXN
  • SEK
  • PLN
  • TRY
  • SGD
CSV 中的小数点符号
  • 自动识别
  • 逗号(12,50)
  • 小数点(12.50)
每 kWh 电价(留空 = 不计电费)
每天满载小时数
市场或卖家所在国家(自由填写)
价格时间,如日期(自由填写)

计算结果

尚无有效候选
能否装入显存(✓ 能装下 · ✗ 装不下 · ? 未确认)
工作负载不完整:请填写参数量和每个权重的位数
所需内存总量
工作负载不完整:请填写参数量和每个权重的位数
计算方法:权重 + KV 缓存 + 缓冲
不要求特定后端
各候选所需的后端
0
有效候选
没有带价格的候选
每 GiB 显存最低价格(按币种)
没有带价格的候选
币种比较
0
无价格的候选
没有可比较的测试
测试组(只在组内排名)
0
无排名的测试(条件不完整)
0
无测试的候选(保持未知)
未填写
年电费计算方法
无
无效的候选行
无
无效的测试行
未粘贴 CSV
识别出的 CSV 分隔符
仅使用你的数值和来源,没有内置 GPU 表
技术数据来源
未填写
市场
未填写
价格日期
✓ 能装下或有来源 · ~ 有填写但无来源 · ✗ 装不下或不支持 · ? 未知 · ≠ 测试条件不完整,无排名 · ≥ 运费未知,为最低值
表格中的符号
line;name;vram_gib;fit;bandwidth_gb_s;backends;power_w;price_total;currency;shipping_unknown;price_per_gib;rank_in_currency;source line;gpu;tokens_per_s;metric;model;quant;context;backend;group;rank_in_group;source
可复制的 CSV 报告(分号,小数点)

GPU 候选对比

GPU 候选对比
行GPU显存能否装下带宽(规格表)后端所需后端功耗(规格表)每年电费总价每 GiB 显存价格(按币种排名)每 GB/s 价格测试(实测,组 排名/数量)来源
我的文件会被上传吗?

不会。一切都在你的浏览器中运行,你的文件永不离开你的设备。这一点如何验证

无需上传100% 本地处理
内容只属于你第三方无法访问
托管于德国全球内容分发
经独立审计TLS A+ · 标头 A+

对本地 AI 来说,首先决定一切的是 GPU(图形处理器)的显存(VRAM,视频内存):模型必须连同权重、KV 缓存(保存注意力机制的键和值)和运行缓冲一起放得下。检查沿用本地语言模型工具的同一套计算:80 亿参数按 4.5 位存储是 4.19 GiB 权重;32 层、8 个 KV 头、头维度 128、FP16 下 8192 个词元的上下文带来 1.00 GiB KV 缓存,加上 1 GiB 缓冲共 6.19 GiB。缺少某一部分时,需求会带“≥”显示;只有已知部分本身就放不下时,显卡才会被判定为太小。

规格表数值与实测结果分开处理。显存、以 GB/s 计的显存带宽和以瓦计的功耗属于理论值;每秒词元数(tok/s)只来自你填写的实测,并附带测试类型(tg = 文本生成,pp = 提示词处理)、模型、量化、上下文和后端。排名只在条件完全一致的组内进行:同一模型、Q4_K_M、8192 个词元和 Vulkan 下的 40 与 55 tok/s 组成 G1,而用 CUDA 的实测单独成组。工具绝不会从带宽推算速度。

价格只影响可计算的指标:按币种排名的每 GiB 显存价格、每 GB/s 价格,以及有排名的实测对应的每 tok/s 价格。例如:16 GB 售 450 EUR 即每 GiB 28.13 EUR,24 GB 售 900 EUR 即每 GiB 37.50 EUR。币种从不混合,运费未知时数值视为最低值。CUDA、ROCm、Vulkan、Metal 或 SYCL 等后端是 AI 软件调用 GPU 的编程接口;有来源的信息视为有据可查,没有来源视为未确认,未列出的后端保持未知。

免费,无需账户:想算几次就算几次,你输入的内容留在你的设备上。

技术规格

技术规格
输入格式表单输入(无需文件)
处理方式在浏览器中本地处理 (JavaScript)
文件上传无

三步完成

  1. 以 CSV 粘贴 GPU 候选,包括显存、带宽、后端、功耗、价格和来源。
  2. 填写工作负载:参数量、每个权重的位数、上下文、模型卡数值和缓冲,以及所需后端。
  3. 添加自己的或有据可查的实测,附上类型、模型、量化、上下文和后端。
  4. 在表格中比较能否装下、后端情况、每 GiB 价格和测试组,然后以 CSV 复制报告。

限制: 本指南不认识任何产品,也不提供购买建议或保证:它只用你的数值计算。没有 tok/s 预测、没有瓶颈百分比,也没有综合评分。装载检查针对单块 GPU,不考虑卸载到系统内存;不检查驱动、散热、噪音、尺寸和电源。价格以你填写时为准,不使用汇率。

常见问题

为什么工具不根据带宽估算每秒词元数?

因为实际速度取决于模型、量化、上下文、后端、驱动和软件。根据规格表得出的预测看似精确,实则是编造的。所以表格只显示带条件的实测值;缺少实测时显示“?”。

为什么有些实测没有排名?

只有类型、模型、量化、上下文和后端都相同的实测之间才有排名。缺少其中任何一项时,表格用“≠”代替排名,该实测计为无排名。条件不同的实测会进入不同的组。

表格里的 ✓、~、✗ 和 ? 是什么意思?

在能否装下一栏,✓ 表示按计算能装下,✗ 表示装不下,? 表示未确认。在后端一栏,✓ 表示据来源支持,~ 表示有填写但无来源,✗ 表示标注为不支持(带减号的条目,如 -CUDA),? 表示未知。未列出的后端绝不会被当作“不支持”。

为什么显存“16 GB”按 16 GiB 计算?

显存按二进制容量组织,但和内存一样通常标为“GB”。因此开关会把这类数值读作 GiB(2³⁰ 字节)。如果你的来源确实指十进制千兆字节,请关闭它;表格随后会显示换算成 GiB 的数值。

本地 AI 的 GPU 选购指南可以免费、无需账户使用吗?

可以。使用免费,也无需账户:想算几次就算几次,你输入的内容留在你的设备上。

相关工具

LLM 显存计算器 · 内存和 SSD 每 GB 价格 · 本地 AI 还是云端 · 电脑升级与电源规划器 · 电费计算器