So sánh card đồ họa cho AI cục bộ theo VRAM, băng thông, backend, công suất và giá mỗi GiB. Số đo chỉ được tính khi cùng điều kiện.
i
Công cụ tính này đưa ra ước tính dựa trên mô hình, không ràng buộc và không phải là tư vấn tài chính, thuế hay pháp lý. Xem thêm trong tuyên bố miễn trừ
Thị trường
Ai Cập✓
Ấn Độ✓
Ba Lan✓
Bangladesh✓
Bồ Đào Nha✓
Brasil✓
Bulgaria✓
Đài Loan✓
Đức✓
Hà Lan✓
Hàn Quốc✓
Hoa Kỳ✓
Indonesia✓
Kenya✓
Khu vực đồng Euro✓
Malaysia✓
México✓
Nga✓
Nhật Bản✓
Nigeria✓
Pakistan✓
Pháp✓
Tây Ban Nha✓
Thái Lan✓
Thổ Nhĩ Kỳ✓
Thụy Điển✓
Trung Quốc✓
Ukraina✓
Việt Nam✓
Vương quốc Anh✓
Ý✓
Kết quả
Chưa có ứng viên hợp lệ
Vừa VRAM (✓ vừa · ✗ không vừa · ? chưa xác nhận)
Khối lượng công việc chưa đủ: nhập tham số và số bit mỗi trọng số
Tổng bộ nhớ cần
Khối lượng công việc chưa đủ: nhập tham số và số bit mỗi trọng số
Cách tính: trọng số + bộ đệm KV + vùng dự phòng
Không yêu cầu backend cụ thể
Backend cần thiết theo từng ứng viên
0
Ứng viên hợp lệ
Không có ứng viên nào có giá
Giá thấp nhất mỗi GiB VRAM (theo tiền tệ)
Không có ứng viên nào có giá
So sánh tiền tệ
0
Ứng viên không có giá
Không có phép đo so sánh được
Nhóm đo (chỉ xếp hạng trong nhóm)
0
Phép đo không xếp hạng (điều kiện chưa đủ)
0
Ứng viên chưa có phép đo (vẫn chưa biết)
Chưa nhập
Cách tính chi phí điện mỗi năm
Không có
Dòng ứng viên không hợp lệ
Không có
Dòng đo không hợp lệ
Chưa dán CSV
Dấu phân tách CSV đã nhận diện
Chỉ dùng giá trị và nguồn của bạn, không có bảng GPU tích hợp
Nguồn gốc dữ liệu kỹ thuật
Chưa nhập
Thị trường
Chưa nhập
Giá tính đến
✓ vừa hoặc theo nguồn · ~ theo khai báo không có nguồn · ✗ không vừa hoặc không hỗ trợ · ? chưa biết · ≠ điều kiện đo chưa đủ, không xếp hạng · ≥ chưa biết phí vận chuyển, giá tối thiểu
Không có hoạt động xử lý nội dung tệp của bạn trên bất kỳ máy chủ nào. Bạn không cần ký thỏa thuận xử lý dữ liệu với gottrix để làm việc với tài liệu mật hay tài liệu công việc.
Hosting tại ĐứcPhân phối toàn cầu
Máy chủ gốc đặt tại Hetzner ở Đức, phân phối trên toàn cầu qua mạng phân phối nội dung (CDN). Nội dung tệp của bạn không bao giờ được truyền đi trong quá trình này - tệp không bao giờ rời khỏi thiết bị của bạn.
Với AI cục bộ, điều quyết định trước tiên là bộ nhớ đồ họa (VRAM, bộ nhớ video) của GPU (bộ xử lý đồ họa): mô hình phải vừa cùng trọng số, bộ đệm KV (lưu khóa và giá trị của cơ chế attention) và vùng dự phòng khi chạy. Phép kiểm tra dùng cùng cách tính với công cụ cho mô hình ngôn ngữ cục bộ: 8 tỷ tham số ở 4,5 bit là 4,19 GiB trọng số; 32 lớp với 8 đầu KV, kích thước đầu 128 và ngữ cảnh 8192 token ở FP16 cho 1,00 GiB bộ đệm KV, cộng 1 GiB dự phòng là 6,19 GiB. Nếu thiếu một phần, nhu cầu hiển thị kèm «≥» và một card chỉ bị coi là quá nhỏ khi riêng các phần đã biết đã không vừa.
Giá trị trong bảng dữ liệu và số đo được tách riêng. VRAM, băng thông bộ nhớ tính bằng GB/s và công suất tính bằng watt là giá trị lý thuyết; token mỗi giây (tok/s) chỉ đến từ số đo bạn nhập, kèm loại đo (tg = sinh văn bản, pp = xử lý prompt), mô hình, lượng tử hóa, ngữ cảnh và backend. Xếp hạng chỉ diễn ra trong một nhóm có điều kiện giống hệt nhau: 40 và 55 tok/s với cùng mô hình, Q4_K_M, 8192 token và Vulkan tạo thành G1, còn số đo với CUDA nằm ở nhóm riêng. Tốc độ không bao giờ được ước tính từ băng thông.
Giá chỉ ảnh hưởng đến các chỉ số tính được: giá mỗi GiB VRAM kèm hạng theo tiền tệ, giá mỗi GB/s và với số đo có hạng là giá mỗi tok/s. Ví dụ: 16 GB giá 450 EUR là 28,13 EUR mỗi GiB, 24 GB giá 900 EUR là 37,50 EUR mỗi GiB. Tiền tệ không bao giờ bị trộn lẫn, và phí vận chuyển chưa biết biến giá trị thành mức tối thiểu. Các backend như CUDA, ROCm, Vulkan, Metal hay SYCL là giao diện lập trình mà phần mềm AI dùng để sử dụng GPU; thông tin có nguồn được coi là có tài liệu, không có nguồn là chưa xác nhận, còn backend không được nêu vẫn là chưa biết.
Miễn phí, không cần tài khoản: tính bao nhiêu lần tùy thích, dữ liệu bạn nhập vẫn ở trên thiết bị của bạn.
Thông số kỹ thuật
Thông số kỹ thuật
Định dạng đầu vào
Nhập liệu biểu mẫu (không cần tệp)
Xử lý
Cục bộ trong trình duyệt (JavaScript)
Tải tệp lên
Không có
Trong 3 bước
Dán các GPU ứng viên kèm VRAM, băng thông, backend, công suất, giá và nguồn dưới dạng CSV.
Nhập khối lượng công việc: tham số, số bit mỗi trọng số, ngữ cảnh, giá trị từ thẻ mô hình và vùng dự phòng, cùng backend cần dùng.
Thêm số đo của bạn hoặc có tài liệu, kèm loại đo, mô hình, lượng tử hóa, ngữ cảnh và backend.
So sánh độ vừa, hồ sơ backend, giá mỗi GiB và các nhóm đo trong bảng, rồi sao chép báo cáo CSV.
Giới hạn: Hướng dẫn không biết sản phẩm nào và không đưa ra khuyến nghị mua hay bảo đảm: nó chỉ tính bằng giá trị của bạn. Không có dự báo tok/s, phần trăm nghẽn cổ chai hay điểm tổng. Phép kiểm tra áp dụng cho một GPU không chuyển sang bộ nhớ hệ thống; driver, tản nhiệt, độ ồn, kích thước và nguồn điện không được kiểm tra. Giá là giá tại lúc bạn nhập, không có tỷ giá.
Câu hỏi thường gặp
Vì sao công cụ không ước tính token mỗi giây từ băng thông?
Vì tốc độ thực tế phụ thuộc vào mô hình, lượng tử hóa, ngữ cảnh, backend, driver và phần mềm. Một dự báo từ bảng dữ liệu trông có vẻ chính xác nhưng là bịa đặt. Vì vậy bảng chỉ hiển thị giá trị đo được cùng điều kiện; nếu thiếu số đo, ô đó là «?».
Vì sao một số số đo không được xếp hạng?
Chỉ có hạng giữa các số đo cùng loại, cùng mô hình, cùng lượng tử hóa, cùng ngữ cảnh và cùng backend. Nếu thiếu một trong các thông tin này, bảng hiển thị «≠» thay cho hạng và số đo được tính là không xếp hạng. Điều kiện khác nhau được đưa vào các nhóm riêng.
✓, ~, ✗ và ? trong bảng có nghĩa là gì?
Với độ vừa, ✓ là vừa theo tính toán, ✗ là không vừa và ? là chưa xác nhận. Với backend, ✓ là hỗ trợ theo nguồn, ~ là khai báo không có nguồn, ✗ là khai báo không hỗ trợ (mục có dấu trừ, như -CUDA) và ? là chưa biết. Backend không được nêu không bao giờ bị tính là «không».
Vì sao VRAM «16 GB» được tính là 16 GiB?
Bộ nhớ đồ họa được tổ chức theo kích thước nhị phân nhưng thường ghi là «GB», giống RAM. Vì thế công tắc đọc các giá trị đó là GiB (2³⁰ byte). Hãy tắt nó nếu nguồn của bạn thật sự nói về gigabyte thập phân; khi đó bảng hiển thị giá trị đã đổi sang GiB.
Có thể dùng Mua GPU cho AI cục bộ miễn phí và không cần tài khoản không?
Có. Bạn dùng miễn phí và không cần tài khoản: có thể tính bao nhiêu lần tùy thích, và dữ liệu bạn nhập vẫn ở trên thiết bị của bạn.
Chỉ khi có sự đồng ý của bạn, chúng tôi mới đo lường mức sử dụng ẩn danh qua cookie để cải thiện gottrix. Tệp của bạn luôn nằm cục bộ trên thiết bị của bạn. Quyền riêng tư