zh-Hant

本機 AI 的 GPU 選購指南

依顯示記憶體、頻寬、後端、功耗與每 GiB 價格比較本機 AI 用顯示卡。只有條件相同的實測結果才會互相比較。

本計算器提供以模型為基礎的參考性估算,不構成任何金融、稅務或法律建議。詳見免責聲明
  • 土耳其
  • 中國
  • 巴西
  • 巴基斯坦
  • 日本
  • 台灣
  • 印尼
  • 印度
  • 西班牙
  • 奈及利亞
  • 孟加拉
  • 法國
  • 波蘭
  • 肯亞
  • 俄羅斯
  • 保加利亞
  • 美國
  • 英國
  • 埃及
  • 泰國
  • 烏克蘭
  • 馬來西亞
  • 荷蘭
  • 越南
  • 瑞典
  • 義大利
  • 葡萄牙
  • 德國
  • 歐元區
  • 墨西哥
  • 韓國
GPU 候選 CSV:名稱;顯示記憶體;頻寬 GB/s;後端;功耗 W;價格;幣別;運費;來源
實測 CSV:GPU 名稱;詞元/s;類型 tg/pp;模型;量化;上下文;後端;來源
你的軟體需要的後端
  • 不限
  • CUDA
  • ROCm
  • Vulkan
  • Metal
  • SYCL
工作負載:模型總參數(十億)
工作負載:每個權重的位元數(量化,如 4.5)
工作負載:上下文詞元數
工作負載:含 KV 快取的層數(模型卡)
工作負載:KV 頭數(模型卡)
工作負載:每個頭的維度(模型卡)
工作負載:每個 KV 元素的位元數
  • 16 (FP16/BF16)
  • 8
  • 4
每張 GPU 的執行緩衝與預留(GiB,假設)
將以 GB 標示的顯示記憶體按 GiB 讀取(常見標示)
幣別(未註明幣別的列與電價)
  • ¤
  • USD
  • EUR
  • GBP
  • JPY
  • CHF
  • CAD
  • AUD
  • CNY
  • INR
  • KRW
  • BRL
  • MXN
  • SEK
  • PLN
  • TRY
  • SGD
CSV 中的小數點符號
  • 自動辨識
  • 逗號(12,50)
  • 小數點(12.50)
每 kWh 電價(留空 = 不計電費)
每天滿載時數
市場或賣家所在國家(自由填寫)
價格時間,如日期(自由填寫)

計算結果

尚無有效候選
能否裝入顯示記憶體(✓ 裝得下 · ✗ 裝不下 · ? 未確認)
工作負載不完整:請填寫參數量和每個權重的位元數
所需記憶體總量
工作負載不完整:請填寫參數量和每個權重的位元數
計算方式:權重 + KV 快取 + 緩衝
不要求特定後端
各候選所需的後端
0
有效候選
沒有附價格的候選
每 GiB 顯示記憶體最低價格(依幣別)
沒有附價格的候選
幣別比較
0
沒有價格的候選
沒有可比較的測試
測試組(只在組內排名)
0
無排名的測試(條件不完整)
0
沒有測試的候選(維持未知)
未填寫
年電費計算方式
無
無效的候選列
無
無效的測試列
未貼上 CSV
偵測到的 CSV 分隔符號
僅使用你的數值和來源,沒有內建 GPU 表
技術資料來源
未填寫
市場
未填寫
價格日期
✓ 裝得下或有來源 · ~ 有填寫但無來源 · ✗ 裝不下或不支援 · ? 未知 · ≠ 測試條件不完整,無排名 · ≥ 運費未知,為最低值
表格中的符號
line;name;vram_gib;fit;bandwidth_gb_s;backends;power_w;price_total;currency;shipping_unknown;price_per_gib;rank_in_currency;source line;gpu;tokens_per_s;metric;model;quant;context;backend;group;rank_in_group;source
可複製的 CSV 報告(分號,小數點)

GPU 候選比較

GPU 候選比較
列GPU顯示記憶體能否裝下頻寬(規格表)後端所需後端功耗(規格表)每年電費總價每 GiB 顯示記憶體價格(依幣別排名)每 GB/s 價格測試(實測,組 排名/數量)來源
我的檔案會被上傳嗎?

不會。一切都在你的瀏覽器中執行,你的檔案永遠不會離開你的裝置。這一點如何查證

無需上傳100% 本機處理
內容只留在你這裡第三方無法存取
託管於德國全球內容傳遞
通過獨立稽核TLS A+ · 標頭 A+

對本機 AI 來說,最先決定一切的是 GPU(圖形處理器)的顯示記憶體(VRAM,視訊記憶體):模型必須連同權重、KV 快取(存放注意力機制的鍵與值)和執行緩衝一起裝得下。檢查沿用本機語言模型工具的同一套計算:80 億參數以 4.5 位元儲存是 4.19 GiB 權重;32 層、8 個 KV 頭、頭維度 128、FP16 下 8192 個詞元的上下文帶來 1.00 GiB KV 快取,加上 1 GiB 緩衝共 6.19 GiB。缺少某一部分時,需求會帶「≥」顯示;只有已知部分本身就裝不下時,顯示卡才會被判定為太小。

規格表數值與實測結果分開處理。顯示記憶體、以 GB/s 計的記憶體頻寬和以瓦計的功耗屬於理論值;每秒詞元數(tok/s)只來自你填寫的實測,並附上測試類型(tg = 文字生成,pp = 提示詞處理)、模型、量化、上下文與後端。排名只在條件完全一致的組內進行:同一模型、Q4_K_M、8192 個詞元與 Vulkan 下的 40 與 55 tok/s 組成 G1,而使用 CUDA 的實測自成一組。工具絕不會從頻寬推算速度。

價格只影響可計算的指標:依幣別排名的每 GiB 顯示記憶體價格、每 GB/s 價格,以及有排名的實測對應的每 tok/s 價格。例如:16 GB 售 450 EUR 即每 GiB 28.13 EUR,24 GB 售 900 EUR 即每 GiB 37.50 EUR。幣別從不混用,運費不明時數值視為最低值。CUDA、ROCm、Vulkan、Metal 或 SYCL 等後端是 AI 軟體使用 GPU 的程式介面;有來源的資訊視為有據可查,沒有來源視為未確認,未列出的後端維持未知。

免費,不需帳號:想算幾次就算幾次,你輸入的內容留在你的裝置上。

技術規格

技術規格
輸入格式表單輸入(無需檔案)
處理方式在瀏覽器中本機處理 (JavaScript)
檔案上傳無

三個步驟

  1. 以 CSV 貼上 GPU 候選,包含顯示記憶體、頻寬、後端、功耗、價格與來源。
  2. 填寫工作負載:參數量、每個權重的位元數、上下文、模型卡數值與緩衝,以及所需後端。
  3. 加入自己的或有據可查的實測,附上類型、模型、量化、上下文與後端。
  4. 在表格中比較能否裝下、後端狀況、每 GiB 價格與測試組,再以 CSV 複製報告。

限制: 本指南不認識任何產品,也不提供購買建議或保證:它只用你的數值計算。沒有 tok/s 預測、沒有瓶頸百分比,也沒有綜合評分。裝載檢查針對單張 GPU,不考慮卸載到系統記憶體;不檢查驅動程式、散熱、噪音、尺寸與電源供應器。價格以你填寫時為準,不使用匯率。

常見問題

為什麼工具不根據頻寬估算每秒詞元數?

因為實際速度取決於模型、量化、上下文、後端、驅動程式與軟體。根據規格表得出的預測看似精確,實則是編造的。所以表格只顯示附條件的實測值;缺少實測時顯示「?」。

為什麼有些實測沒有排名?

只有類型、模型、量化、上下文與後端都相同的實測之間才有排名。缺少其中任何一項時,表格以「≠」取代排名,該實測計為無排名。條件不同的實測會進入不同的組。

表格裡的 ✓、~、✗ 與 ? 是什麼意思?

在能否裝下一欄,✓ 表示依計算裝得下,✗ 表示裝不下,? 表示未確認。在後端一欄,✓ 表示依來源支援,~ 表示有填寫但無來源,✗ 表示標註為不支援(帶減號的項目,如 -CUDA),? 表示未知。未列出的後端絕不會被當作「不支援」。

為什麼顯示記憶體「16 GB」以 16 GiB 計算?

顯示記憶體以二進位容量組織,但和系統記憶體一樣通常標示為「GB」。因此開關會把這類數值讀作 GiB(2³⁰ 位元組)。若你的來源確實指十進位十億位元組,請關閉它;表格隨後會顯示換算成 GiB 的數值。

本機 AI 的 GPU 選購指南可以免費、不需帳號使用嗎?

可以。使用免費,也不需帳號:想算幾次就算幾次,你輸入的內容留在你的裝置上。

相關工具

LLM VRAM 計算機 · 記憶體與 SSD 每 GB 價格 · 本機 AI 或雲端 · 電腦升級與電源規劃工具 · 電費計算器