tr

Yerel yapay zekâ için GPU

Yerel yapay zekâ için ekran kartlarını VRAM, bant genişliği, arka uç, güç ve GiB başına fiyata göre karşılaştır. Ölçümler yalnızca aynı koşullarda sayılır.

Bu hesaplayıcı, modele dayalı bağlayıcı olmayan bir tahmin sunar ve finansal, vergisel veya hukuki danışmanlık niteliği taşımaz. Sorumluluk reddinde ayrıntılar
  • Almanya
  • Amerika Birleşik Devletleri
  • Bangladeş
  • Birleşik Krallık
  • Brezilya
  • Bulgaristan
  • Çin
  • Endonezya
  • Euro Bölgesi
  • Fransa
  • Güney Kore
  • Hindistan
  • Hollanda
  • İspanya
  • İsveç
  • İtalya
  • Japonya
  • Kenya
  • Malezya
  • Meksika
  • Mısır
  • Nijerya
  • Pakistan
  • Polonya
  • Portekiz
  • Rusya
  • Tayland
  • Tayvan
  • Türkiye
  • Ukrayna
  • Vietnam
CSV olarak GPU adayları: ad; VRAM; bant genişliği GB/s; arka uçlar; güç W; fiyat; para birimi; kargo; kaynak
CSV olarak ölçümler: GPU adı; token/s; tür tg/pp; model; niceleme; bağlam; arka uç; kaynak
Yazılımının ihtiyaç duyduğu arka uç
  • Belirli bir arka uç yok
  • CUDA
  • ROCm
  • Vulkan
  • Metal
  • SYCL
İş yükü: modelin toplam parametresi (milyar)
İş yükü: ağırlık başına bit (niceleme, örn. 4,5)
İş yükü: token cinsinden bağlam
İş yükü: KV önbellekli katmanlar (model kartı)
İş yükü: KV başları (model kartı)
İş yükü: baş başına boyut (model kartı)
İş yükü: KV öğesi başına bit
  • 16 (FP16/BF16)
  • 8
  • 4
GPU başına çalışma tamponu ve yedek (GiB, varsayım)
GB cinsinden VRAM'i GiB olarak oku (yaygın etiketleme)
Para birimi (para birimsiz satırlar ve elektrik fiyatı)
  • ¤
  • USD
  • EUR
  • GBP
  • JPY
  • CHF
  • CAD
  • AUD
  • CNY
  • INR
  • KRW
  • BRL
  • MXN
  • SEK
  • PLN
  • TRY
  • SGD
CSV'deki ondalık ayırıcı
  • Otomatik algıla
  • Virgül (12,50)
  • Nokta (12.50)
kWh başına elektrik fiyatı (boş = elektrik maliyeti yok)
Günlük yük altındaki saat
Pazar veya satıcı ülkesi (serbest metin)
Fiyat tarihi, örn. gün (serbest metin)

Sonuç

Henüz geçerli aday yok
VRAM'e sığma (✓ sığar · ✗ sığmaz · ? doğrulanmadı)
İş yükü eksik: parametreleri ve ağırlık başına biti girin
Toplam bellek ihtiyacı
İş yükü eksik: parametreleri ve ağırlık başına biti girin
Hesap: ağırlıklar + KV önbelleği + tampon
Belirli bir arka uç gerekmiyor
Aday başına gereken arka uç
0
Geçerli adaylar
Fiyatı olan aday yok
VRAM'in GiB başına en düşük fiyatı (para birimine göre)
Fiyatı olan aday yok
Para birimi karşılaştırması
0
Fiyatı olmayan adaylar
Karşılaştırılabilir ölçüm yok
Ölçüm grupları (sıralama yalnızca grup içinde)
0
Sırasız ölçümler (koşullar eksik)
0
Ölçümü olmayan adaylar (bilinmiyor olarak kalır)
Belirtilmedi
Yıllık elektrik maliyeti hesabı
Yok
Geçersiz aday satırları
Yok
Geçersiz ölçüm satırları
CSV yapıştırılmadı
Algılanan CSV ayırıcısı
Yalnızca sizin değerleriniz ve kaynaklarınız, yerleşik GPU tablosu yok
Teknik verilerin kaynağı
Belirtilmedi
Pazar
Belirtilmedi
Fiyat tarihi
✓ sığar ya da kaynağa göre · ~ kaynaksız beyana göre · ✗ sığmaz ya da desteklenmiyor · ? bilinmiyor · ≠ ölçüm koşulları eksik, sıra yok · ≥ kargo bilinmiyor, en düşük değer
Tablodaki işaretler
line;name;vram_gib;fit;bandwidth_gb_s;backends;power_w;price_total;currency;shipping_unknown;price_per_gib;rank_in_currency;source line;gpu;tokens_per_s;metric;model;quant;context;backend;group;rank_in_group;source
Kopyalamak için CSV rapor (noktalı virgül, ondalık nokta)

GPU adaylarının karşılaştırması

GPU adaylarının karşılaştırması
SatırGPUVRAMSığmaBant genişliği (veri sayfası)Arka uçlarGereken arka uçGüç (veri sayfası)Yıllık elektrikToplam fiyatVRAM GiB başına fiyat (para birimine göre sıra)GB/s başına fiyatÖlçüm (ölçülen, grup sıra/sayı)Kaynak
Dosyam yükleniyor mu?

Hayır. Her şey tarayıcınızda çalışır - dosyanız cihazınızdan asla çıkmaz. Bunu nasıl doğrularsınız

Yükleme yok%100 yerel
İçerik sizde kalırüçüncü taraf erişimi yok
Almanya’da barındırılırKüresel içerik dağıtımı
Bağımsız denetlendiTLS A+ · Başlıklar A+

Yerel yapay zekâda önce GPU'nun (grafik işlemcisi) grafik belleği (VRAM, video belleği) belirleyicidir: model ağırlıklarıyla, KV önbelleğiyle (dikkat mekanizmasının anahtar ve değerlerini tutar) ve bir çalışma tamponuyla birlikte sığmalıdır. Kontrol, yerel dil modelleri aracındaki hesabın aynısını kullanır: 4,5 bitte 8 milyar parametre 4,19 GiB ağırlık eder; 8 KV başlı, 128 baş boyutlu 32 katman ve FP16'da 8192 token bağlam 1,00 GiB KV önbelleği verir, 1 GiB tamponla toplam 6,19 GiB. Bir parça eksikse ihtiyaç “≥” ile gösterilir ve kart yalnızca bilinen parçalar bile sığmıyorsa küçük sayılır.

Veri sayfası değerleri ile ölçümler ayrı tutulur. VRAM, GB/s cinsinden bellek bant genişliği ve watt cinsinden güç teoriktir; saniye başına token (tok/s) yalnızca senin girdiğin ölçümlerden gelir; ölçüm türü (tg = metin üretimi, pp = istem işleme), model, niceleme, bağlam ve arka uç ile birlikte. Sıralama yalnızca koşulları tamamen aynı olan bir grup içinde yapılır: aynı model, Q4_K_M, 8192 token ve Vulkan ile 40 ve 55 tok/s G1'i oluşturur, CUDA ile yapılan ölçüm ayrı bir gruptadır. Bant genişliğinden asla hız tahmin edilmez.

Fiyat yalnızca hesaplanabilir değerleri etkiler: para birimine göre sıralı GiB VRAM başına fiyat, GB/s başına fiyat ve sıralanmış ölçümlerde tok/s başına fiyat. Örnek: 450 EUR'ya 16 GB, GiB başına 28,13 EUR; 900 EUR'ya 24 GB, GiB başına 37,50 EUR eder. Para birimleri asla karıştırılmaz, bilinmeyen kargo değeri en düşük değere çevirir. CUDA, ROCm, Vulkan, Metal veya SYCL gibi arka uçlar, yapay zekâ yazılımının GPU'yu kullandığı programlama arayüzleridir; kaynaklı bilgi belgelenmiş, kaynaksız bilgi doğrulanmamış sayılır, anılmayan arka uç bilinmiyor olarak kalır.

Ücretsiz ve hesap gerektirmez: istediğiniz kadar hesaplayın, girdiğiniz veriler cihazınızda kalır.

Teknik özellikler

Teknik özellikler
Giriş formatlarıForm girişleri (dosya yok)
İşlemeTarayıcıda yerel (JavaScript)
Dosya yüklemeYok

3 adımda

  1. GPU adaylarını VRAM, bant genişliği, arka uçlar, güç, fiyat ve kaynakla CSV olarak yapıştır.
  2. İş yükünü gir: parametreler, ağırlık başına bit, bağlam, model kartındaki değerler ve tampon ile gereken arka uç.
  3. Kendi ya da belgelenmiş ölçümlerini tür, model, niceleme, bağlam ve arka uçla ekle.
  4. Tabloda sığmayı, arka uç profilini, GiB başına fiyatı ve ölçüm gruplarını karşılaştır, raporu CSV olarak kopyala.

Sınırlar: Rehber hiçbir ürünü tanımaz, satın alma önerisi ya da garanti vermez: yalnızca senin değerlerinle hesap yapar. Tok/s tahmini, darboğaz yüzdesi ya da toplam puan yoktur. Sığma kontrolü, belleğe aktarma olmadan tek bir GPU için geçerlidir; sürücü, soğutma, ses, kasa boyutu ve güç kaynağı kontrol edilmez. Fiyatlar girdiğin andaki fiyatlardır, döviz kuru yoktur.

Sık sorulan sorular

Araç neden bant genişliğinden saniye başına token tahmin etmiyor?

Çünkü gerçek hız modele, nicelemeye, bağlama, arka uca, sürücüye ve yazılıma bağlıdır. Veri sayfasından yapılan bir tahmin kesin görünür ama uydurma olur. Bu yüzden tablo yalnızca koşullarıyla birlikte ölçülmüş değerleri gösterir; ölçüm yoksa “?” yazar.

Bazı ölçümler neden sıra almıyor?

Sıra yalnızca türü, modeli, nicelemesi, bağlamı ve arka ucu aynı olan ölçümler arasında oluşur. Bu bilgilerden biri eksikse tablo sıra yerine “≠” gösterir ve ölçüm sırasız sayılır. Farklı koşullar ayrı gruplara girer.

Tablodaki ✓, ~, ✗ ve ? ne anlama geliyor?

Sığmada ✓ hesaba göre sığar, ✗ sığmaz, ? doğrulanmadı demektir. Arka uçlarda ✓ kaynağa göre desteklenir, ~ kaynaksız beyan, ✗ desteklenmediği belirtilmiş (eksi ile giriş, örneğin -CUDA) ve ? bilinmiyor demektir. Anılmayan bir arka uç asla “hayır” sayılmaz.

Neden “16 GB” VRAM 16 GiB sayılıyor?

Grafik belleği ikili boyutlarda düzenlenir ama RAM gibi genellikle “GB” ile etiketlenir. Bu yüzden anahtar bu değerleri GiB (2³⁰ bayt) olarak okur. Kaynağın gerçekten ondalık gigabaytı kastediyorsa kapat; tablo o zaman GiB'ye çevrilmiş değeri gösterir.

Yerel yapay zekâ için GPU ücretsiz ve hesapsız kullanılabilir mi?

Evet. Kullanımı ücretsizdir ve hesap gerektirmez: istediğiniz kadar hesaplama yapabilirsiniz, girdiğiniz veriler cihazınızda kalır.

İlgili araçlar

LLM VRAM Hesaplayıcı · RAM ve SSD GB başına fiyat · Yerel YZ mi bulut mu · PC yükseltme planlayıcı · Enerji maliyeti