vi

Mua GPU cho AI cục bộ

So sánh card đồ họa cho AI cục bộ theo VRAM, băng thông, backend, công suất và giá mỗi GiB. Số đo chỉ được tính khi cùng điều kiện.

Công cụ tính này đưa ra ước tính dựa trên mô hình, không ràng buộc và không phải là tư vấn tài chính, thuế hay pháp lý. Xem thêm trong tuyên bố miễn trừ
  • Ai Cập
  • Ấn Độ
  • Ba Lan
  • Bangladesh
  • Bồ Đào Nha
  • Brasil
  • Bulgaria
  • Đài Loan
  • Đức
  • Hà Lan
  • Hàn Quốc
  • Hoa Kỳ
  • Indonesia
  • Kenya
  • Khu vực đồng Euro
  • Malaysia
  • México
  • Nga
  • Nhật Bản
  • Nigeria
  • Pakistan
  • Pháp
  • Tây Ban Nha
  • Thái Lan
  • Thổ Nhĩ Kỳ
  • Thụy Điển
  • Trung Quốc
  • Ukraina
  • Việt Nam
  • Vương quốc Anh
  • Ý
Ứng viên GPU dạng CSV: tên; VRAM; băng thông GB/s; backend; công suất W; giá; tiền tệ; vận chuyển; nguồn
Số đo dạng CSV: tên GPU; token/s; loại tg/pp; mô hình; lượng tử hóa; ngữ cảnh; backend; nguồn
Backend phần mềm của bạn cần
  • Không cụ thể
  • CUDA
  • ROCm
  • Vulkan
  • Metal
  • SYCL
Khối lượng: tổng tham số mô hình (tỷ)
Khối lượng: số bit mỗi trọng số (lượng tử hóa, vd. 4,5)
Khối lượng: ngữ cảnh tính bằng token
Khối lượng: số lớp có bộ đệm KV (thẻ mô hình)
Khối lượng: số đầu KV (thẻ mô hình)
Khối lượng: kích thước mỗi đầu (thẻ mô hình)
Khối lượng: số bit mỗi phần tử KV
  • 16 (FP16/BF16)
  • 8
  • 4
Vùng dự phòng khi chạy và dự trữ mỗi GPU (GiB, giả định)
Đọc VRAM ghi GB là GiB (cách ghi thông dụng)
Tiền tệ (dòng không có tiền tệ và giá điện)
  • ¤
  • USD
  • EUR
  • GBP
  • JPY
  • CHF
  • CAD
  • AUD
  • CNY
  • INR
  • KRW
  • BRL
  • MXN
  • SEK
  • PLN
  • TRY
  • SGD
Dấu thập phân trong CSV
  • Tự động nhận diện
  • Dấu phẩy (12,50)
  • Dấu chấm (12.50)
Giá điện mỗi kWh (trống = không tính chi phí điện)
Số giờ chạy tải mỗi ngày
Thị trường hoặc quốc gia người bán (văn bản tự do)
Thời điểm giá, vd. ngày (văn bản tự do)

Kết quả

Chưa có ứng viên hợp lệ
Vừa VRAM (✓ vừa · ✗ không vừa · ? chưa xác nhận)
Khối lượng công việc chưa đủ: nhập tham số và số bit mỗi trọng số
Tổng bộ nhớ cần
Khối lượng công việc chưa đủ: nhập tham số và số bit mỗi trọng số
Cách tính: trọng số + bộ đệm KV + vùng dự phòng
Không yêu cầu backend cụ thể
Backend cần thiết theo từng ứng viên
0
Ứng viên hợp lệ
Không có ứng viên nào có giá
Giá thấp nhất mỗi GiB VRAM (theo tiền tệ)
Không có ứng viên nào có giá
So sánh tiền tệ
0
Ứng viên không có giá
Không có phép đo so sánh được
Nhóm đo (chỉ xếp hạng trong nhóm)
0
Phép đo không xếp hạng (điều kiện chưa đủ)
0
Ứng viên chưa có phép đo (vẫn chưa biết)
Chưa nhập
Cách tính chi phí điện mỗi năm
Không có
Dòng ứng viên không hợp lệ
Không có
Dòng đo không hợp lệ
Chưa dán CSV
Dấu phân tách CSV đã nhận diện
Chỉ dùng giá trị và nguồn của bạn, không có bảng GPU tích hợp
Nguồn gốc dữ liệu kỹ thuật
Chưa nhập
Thị trường
Chưa nhập
Giá tính đến
✓ vừa hoặc theo nguồn · ~ theo khai báo không có nguồn · ✗ không vừa hoặc không hỗ trợ · ? chưa biết · ≠ điều kiện đo chưa đủ, không xếp hạng · ≥ chưa biết phí vận chuyển, giá tối thiểu
Ký hiệu trong bảng
line;name;vram_gib;fit;bandwidth_gb_s;backends;power_w;price_total;currency;shipping_unknown;price_per_gib;rank_in_currency;source line;gpu;tokens_per_s;metric;model;quant;context;backend;group;rank_in_group;source
Báo cáo CSV để sao chép (dấu chấm phẩy, dấu chấm thập phân)

So sánh các GPU ứng viên

So sánh các GPU ứng viên
DòngGPUVRAMVừaBăng thông (bảng dữ liệu)BackendBackend cần thiếtCông suất (bảng dữ liệu)Điện mỗi nămTổng giáGiá mỗi GiB VRAM (hạng theo tiền tệ)Giá mỗi GB/sPhép đo (đo thực tế, nhóm hạng/số lượng)Nguồn
Tệp của tôi có bị tải lên không?

Không. Mọi thứ chạy trong trình duyệt của bạn - tệp của bạn không bao giờ rời khỏi thiết bị. Cách kiểm chứng điều này

Không tải lên100% cục bộ
Nội dung ở lại với bạnkhông ai khác chạm tới
Hosting tại ĐứcPhân phối toàn cầu
Kiểm định độc lậpTLS A+ · HTTP header A+

Với AI cục bộ, điều quyết định trước tiên là bộ nhớ đồ họa (VRAM, bộ nhớ video) của GPU (bộ xử lý đồ họa): mô hình phải vừa cùng trọng số, bộ đệm KV (lưu khóa và giá trị của cơ chế attention) và vùng dự phòng khi chạy. Phép kiểm tra dùng cùng cách tính với công cụ cho mô hình ngôn ngữ cục bộ: 8 tỷ tham số ở 4,5 bit là 4,19 GiB trọng số; 32 lớp với 8 đầu KV, kích thước đầu 128 và ngữ cảnh 8192 token ở FP16 cho 1,00 GiB bộ đệm KV, cộng 1 GiB dự phòng là 6,19 GiB. Nếu thiếu một phần, nhu cầu hiển thị kèm «≥» và một card chỉ bị coi là quá nhỏ khi riêng các phần đã biết đã không vừa.

Giá trị trong bảng dữ liệu và số đo được tách riêng. VRAM, băng thông bộ nhớ tính bằng GB/s và công suất tính bằng watt là giá trị lý thuyết; token mỗi giây (tok/s) chỉ đến từ số đo bạn nhập, kèm loại đo (tg = sinh văn bản, pp = xử lý prompt), mô hình, lượng tử hóa, ngữ cảnh và backend. Xếp hạng chỉ diễn ra trong một nhóm có điều kiện giống hệt nhau: 40 và 55 tok/s với cùng mô hình, Q4_K_M, 8192 token và Vulkan tạo thành G1, còn số đo với CUDA nằm ở nhóm riêng. Tốc độ không bao giờ được ước tính từ băng thông.

Giá chỉ ảnh hưởng đến các chỉ số tính được: giá mỗi GiB VRAM kèm hạng theo tiền tệ, giá mỗi GB/s và với số đo có hạng là giá mỗi tok/s. Ví dụ: 16 GB giá 450 EUR là 28,13 EUR mỗi GiB, 24 GB giá 900 EUR là 37,50 EUR mỗi GiB. Tiền tệ không bao giờ bị trộn lẫn, và phí vận chuyển chưa biết biến giá trị thành mức tối thiểu. Các backend như CUDA, ROCm, Vulkan, Metal hay SYCL là giao diện lập trình mà phần mềm AI dùng để sử dụng GPU; thông tin có nguồn được coi là có tài liệu, không có nguồn là chưa xác nhận, còn backend không được nêu vẫn là chưa biết.

Miễn phí, không cần tài khoản: tính bao nhiêu lần tùy thích, dữ liệu bạn nhập vẫn ở trên thiết bị của bạn.

Thông số kỹ thuật

Thông số kỹ thuật
Định dạng đầu vàoNhập liệu biểu mẫu (không cần tệp)
Xử lýCục bộ trong trình duyệt (JavaScript)
Tải tệp lênKhông có

Trong 3 bước

  1. Dán các GPU ứng viên kèm VRAM, băng thông, backend, công suất, giá và nguồn dưới dạng CSV.
  2. Nhập khối lượng công việc: tham số, số bit mỗi trọng số, ngữ cảnh, giá trị từ thẻ mô hình và vùng dự phòng, cùng backend cần dùng.
  3. Thêm số đo của bạn hoặc có tài liệu, kèm loại đo, mô hình, lượng tử hóa, ngữ cảnh và backend.
  4. So sánh độ vừa, hồ sơ backend, giá mỗi GiB và các nhóm đo trong bảng, rồi sao chép báo cáo CSV.

Giới hạn: Hướng dẫn không biết sản phẩm nào và không đưa ra khuyến nghị mua hay bảo đảm: nó chỉ tính bằng giá trị của bạn. Không có dự báo tok/s, phần trăm nghẽn cổ chai hay điểm tổng. Phép kiểm tra áp dụng cho một GPU không chuyển sang bộ nhớ hệ thống; driver, tản nhiệt, độ ồn, kích thước và nguồn điện không được kiểm tra. Giá là giá tại lúc bạn nhập, không có tỷ giá.

Câu hỏi thường gặp

Vì sao công cụ không ước tính token mỗi giây từ băng thông?

Vì tốc độ thực tế phụ thuộc vào mô hình, lượng tử hóa, ngữ cảnh, backend, driver và phần mềm. Một dự báo từ bảng dữ liệu trông có vẻ chính xác nhưng là bịa đặt. Vì vậy bảng chỉ hiển thị giá trị đo được cùng điều kiện; nếu thiếu số đo, ô đó là «?».

Vì sao một số số đo không được xếp hạng?

Chỉ có hạng giữa các số đo cùng loại, cùng mô hình, cùng lượng tử hóa, cùng ngữ cảnh và cùng backend. Nếu thiếu một trong các thông tin này, bảng hiển thị «≠» thay cho hạng và số đo được tính là không xếp hạng. Điều kiện khác nhau được đưa vào các nhóm riêng.

✓, ~, ✗ và ? trong bảng có nghĩa là gì?

Với độ vừa, ✓ là vừa theo tính toán, ✗ là không vừa và ? là chưa xác nhận. Với backend, ✓ là hỗ trợ theo nguồn, ~ là khai báo không có nguồn, ✗ là khai báo không hỗ trợ (mục có dấu trừ, như -CUDA) và ? là chưa biết. Backend không được nêu không bao giờ bị tính là «không».

Vì sao VRAM «16 GB» được tính là 16 GiB?

Bộ nhớ đồ họa được tổ chức theo kích thước nhị phân nhưng thường ghi là «GB», giống RAM. Vì thế công tắc đọc các giá trị đó là GiB (2³⁰ byte). Hãy tắt nó nếu nguồn của bạn thật sự nói về gigabyte thập phân; khi đó bảng hiển thị giá trị đã đổi sang GiB.

Có thể dùng Mua GPU cho AI cục bộ miễn phí và không cần tài khoản không?

Có. Bạn dùng miễn phí và không cần tài khoản: có thể tính bao nhiêu lần tùy thích, và dữ liệu bạn nhập vẫn ở trên thiết bị của bạn.

Công cụ liên quan

Tính VRAM cho LLM · Giá RAM và SSD mỗi GB · AI tại chỗ hay đám mây · Kế hoạch nâng cấp PC · Chi phí năng lượng