Yerel yapay zekâ için ekran kartlarını VRAM, bant genişliği, arka uç, güç ve GiB başına fiyata göre karşılaştır. Ölçümler yalnızca aynı koşullarda sayılır.
i
Bu hesaplayıcı, modele dayalı bağlayıcı olmayan bir tahmin sunar ve finansal, vergisel veya hukuki danışmanlık niteliği taşımaz. Sorumluluk reddinde ayrıntılar
İş yükü eksik: parametreleri ve ağırlık başına biti girin
Toplam bellek ihtiyacı
İş yükü eksik: parametreleri ve ağırlık başına biti girin
Hesap: ağırlıklar + KV önbelleği + tampon
Belirli bir arka uç gerekmiyor
Aday başına gereken arka uç
0
Geçerli adaylar
Fiyatı olan aday yok
VRAM'in GiB başına en düşük fiyatı (para birimine göre)
Fiyatı olan aday yok
Para birimi karşılaştırması
0
Fiyatı olmayan adaylar
Karşılaştırılabilir ölçüm yok
Ölçüm grupları (sıralama yalnızca grup içinde)
0
Sırasız ölçümler (koşullar eksik)
0
Ölçümü olmayan adaylar (bilinmiyor olarak kalır)
Belirtilmedi
Yıllık elektrik maliyeti hesabı
Yok
Geçersiz aday satırları
Yok
Geçersiz ölçüm satırları
CSV yapıştırılmadı
Algılanan CSV ayırıcısı
Yalnızca sizin değerleriniz ve kaynaklarınız, yerleşik GPU tablosu yok
Teknik verilerin kaynağı
Belirtilmedi
Pazar
Belirtilmedi
Fiyat tarihi
✓ sığar ya da kaynağa göre · ~ kaynaksız beyana göre · ✗ sığmaz ya da desteklenmiyor · ? bilinmiyor · ≠ ölçüm koşulları eksik, sıra yok · ≥ kargo bilinmiyor, en düşük değer
Dosya içeriklerinizin sunucuda işlenmesi söz konusu değildir. Gizli veya ticari belgeleri işlemek için gottrix ile bir veri işleme sözleşmesine ihtiyacınız yoktur.
Almanya’da barındırılırKüresel içerik dağıtımı
Almanya'da Hetzner'deki kaynak sunucular, bir içerik dağıtım ağı (CDN) üzerinden dünya çapında dağıtılır. Bu sırada dosya içerikleriniz asla aktarılmaz - cihazınızdan hiç ayrılmaz.
Yerel yapay zekâda önce GPU'nun (grafik işlemcisi) grafik belleği (VRAM, video belleği) belirleyicidir: model ağırlıklarıyla, KV önbelleğiyle (dikkat mekanizmasının anahtar ve değerlerini tutar) ve bir çalışma tamponuyla birlikte sığmalıdır. Kontrol, yerel dil modelleri aracındaki hesabın aynısını kullanır: 4,5 bitte 8 milyar parametre 4,19 GiB ağırlık eder; 8 KV başlı, 128 baş boyutlu 32 katman ve FP16'da 8192 token bağlam 1,00 GiB KV önbelleği verir, 1 GiB tamponla toplam 6,19 GiB. Bir parça eksikse ihtiyaç “≥” ile gösterilir ve kart yalnızca bilinen parçalar bile sığmıyorsa küçük sayılır.
Veri sayfası değerleri ile ölçümler ayrı tutulur. VRAM, GB/s cinsinden bellek bant genişliği ve watt cinsinden güç teoriktir; saniye başına token (tok/s) yalnızca senin girdiğin ölçümlerden gelir; ölçüm türü (tg = metin üretimi, pp = istem işleme), model, niceleme, bağlam ve arka uç ile birlikte. Sıralama yalnızca koşulları tamamen aynı olan bir grup içinde yapılır: aynı model, Q4_K_M, 8192 token ve Vulkan ile 40 ve 55 tok/s G1'i oluşturur, CUDA ile yapılan ölçüm ayrı bir gruptadır. Bant genişliğinden asla hız tahmin edilmez.
Fiyat yalnızca hesaplanabilir değerleri etkiler: para birimine göre sıralı GiB VRAM başına fiyat, GB/s başına fiyat ve sıralanmış ölçümlerde tok/s başına fiyat. Örnek: 450 EUR'ya 16 GB, GiB başına 28,13 EUR; 900 EUR'ya 24 GB, GiB başına 37,50 EUR eder. Para birimleri asla karıştırılmaz, bilinmeyen kargo değeri en düşük değere çevirir. CUDA, ROCm, Vulkan, Metal veya SYCL gibi arka uçlar, yapay zekâ yazılımının GPU'yu kullandığı programlama arayüzleridir; kaynaklı bilgi belgelenmiş, kaynaksız bilgi doğrulanmamış sayılır, anılmayan arka uç bilinmiyor olarak kalır.
Ücretsiz ve hesap gerektirmez: istediğiniz kadar hesaplayın, girdiğiniz veriler cihazınızda kalır.
Teknik özellikler
Teknik özellikler
Giriş formatları
Form girişleri (dosya yok)
İşleme
Tarayıcıda yerel (JavaScript)
Dosya yükleme
Yok
3 adımda
GPU adaylarını VRAM, bant genişliği, arka uçlar, güç, fiyat ve kaynakla CSV olarak yapıştır.
İş yükünü gir: parametreler, ağırlık başına bit, bağlam, model kartındaki değerler ve tampon ile gereken arka uç.
Kendi ya da belgelenmiş ölçümlerini tür, model, niceleme, bağlam ve arka uçla ekle.
Tabloda sığmayı, arka uç profilini, GiB başına fiyatı ve ölçüm gruplarını karşılaştır, raporu CSV olarak kopyala.
Sınırlar: Rehber hiçbir ürünü tanımaz, satın alma önerisi ya da garanti vermez: yalnızca senin değerlerinle hesap yapar. Tok/s tahmini, darboğaz yüzdesi ya da toplam puan yoktur. Sığma kontrolü, belleğe aktarma olmadan tek bir GPU için geçerlidir; sürücü, soğutma, ses, kasa boyutu ve güç kaynağı kontrol edilmez. Fiyatlar girdiğin andaki fiyatlardır, döviz kuru yoktur.
Sık sorulan sorular
Araç neden bant genişliğinden saniye başına token tahmin etmiyor?
Çünkü gerçek hız modele, nicelemeye, bağlama, arka uca, sürücüye ve yazılıma bağlıdır. Veri sayfasından yapılan bir tahmin kesin görünür ama uydurma olur. Bu yüzden tablo yalnızca koşullarıyla birlikte ölçülmüş değerleri gösterir; ölçüm yoksa “?” yazar.
Bazı ölçümler neden sıra almıyor?
Sıra yalnızca türü, modeli, nicelemesi, bağlamı ve arka ucu aynı olan ölçümler arasında oluşur. Bu bilgilerden biri eksikse tablo sıra yerine “≠” gösterir ve ölçüm sırasız sayılır. Farklı koşullar ayrı gruplara girer.
Tablodaki ✓, ~, ✗ ve ? ne anlama geliyor?
Sığmada ✓ hesaba göre sığar, ✗ sığmaz, ? doğrulanmadı demektir. Arka uçlarda ✓ kaynağa göre desteklenir, ~ kaynaksız beyan, ✗ desteklenmediği belirtilmiş (eksi ile giriş, örneğin -CUDA) ve ? bilinmiyor demektir. Anılmayan bir arka uç asla “hayır” sayılmaz.
Neden “16 GB” VRAM 16 GiB sayılıyor?
Grafik belleği ikili boyutlarda düzenlenir ama RAM gibi genellikle “GB” ile etiketlenir. Bu yüzden anahtar bu değerleri GiB (2³⁰ bayt) olarak okur. Kaynağın gerçekten ondalık gigabaytı kastediyorsa kapat; tablo o zaman GiB'ye çevrilmiş değeri gösterir.
Yerel yapay zekâ için GPU ücretsiz ve hesapsız kullanılabilir mi?
Evet. Kullanımı ücretsizdir ve hesap gerektirmez: istediğiniz kadar hesaplama yapabilirsiniz, girdiğiniz veriler cihazınızda kalır.
Yalnızca onayınızla, gottrix'i iyileştirmek için kullanımı çerezlerle anonimleştirilmiş biçimde ölçeriz. Dosyalarınız her zaman yerelde, cihazınızda kalır. Gizlilik