hi

लोकल AI के लिए GPU खरीद गाइड

लोकल AI के लिए ग्राफ़िक्स कार्ड की तुलना VRAM, बैंडविड्थ, बैकएंड, पावर और प्रति GiB कीमत से करें। माप केवल समान शर्तों पर गिने जाते हैं।

यह कैलकुलेटर मॉडल पर आधारित एक गैर-बाध्यकारी अनुमान देता है और यह वित्तीय, कर या कानूनी सलाह नहीं है। अस्वीकरण में और पढ़ें
  • इंडोनेशिया
  • इटली
  • केन्या
  • चीन
  • जर्मनी
  • जापान
  • ताइवान
  • तुर्की
  • थाईलैंड
  • दक्षिण कोरिया
  • नाइजीरिया
  • नीदरलैंड
  • पाकिस्तान
  • पुर्तगाल
  • पोलैंड
  • फ़्रांस
  • बांग्लादेश
  • बुल्गारिया
  • ब्राज़ील
  • भारत
  • मलेशिया
  • मिस्र
  • मेक्सिको
  • यूक्रेन
  • यूनाइटेड किंगडम
  • यूरो क्षेत्र
  • रूस
  • वियतनाम
  • संयुक्त राज्य अमेरिका
  • स्पेन
  • स्वीडन
CSV में GPU उम्मीदवार: नाम; VRAM; बैंडविड्थ GB/s; बैकएंड; पावर W; कीमत; मुद्रा; शिपिंग; स्रोत
CSV में माप: GPU नाम; टोकन/s; प्रकार tg/pp; मॉडल; क्वांटाइज़ेशन; कॉन्टेक्स्ट; बैकएंड; स्रोत
आपके सॉफ़्टवेयर को चाहिए बैकएंड
  • कोई खास नहीं
  • CUDA
  • ROCm
  • Vulkan
  • Metal
  • SYCL
वर्कलोड: मॉडल के कुल पैरामीटर (अरब)
वर्कलोड: प्रति वेट बिट्स (क्वांटाइज़ेशन, जैसे 4.5)
वर्कलोड: टोकन में कॉन्टेक्स्ट
वर्कलोड: KV कैश वाली लेयर (मॉडल कार्ड)
वर्कलोड: KV हेड (मॉडल कार्ड)
वर्कलोड: प्रति हेड डाइमेंशन (मॉडल कार्ड)
वर्कलोड: प्रति KV एलिमेंट बिट्स
  • 16 (FP16/BF16)
  • 8
  • 4
प्रति GPU रनटाइम बफ़र और रिज़र्व (GiB, अनुमान)
GB में दी गई VRAM को GiB पढ़ें (सामान्य लेबलिंग)
मुद्रा (बिना मुद्रा वाली पंक्तियाँ और बिजली दर)
  • ¤
  • USD
  • EUR
  • GBP
  • JPY
  • CHF
  • CAD
  • AUD
  • CNY
  • INR
  • KRW
  • BRL
  • MXN
  • SEK
  • PLN
  • TRY
  • SGD
CSV में दशमलव चिह्न
  • अपने आप पहचानें
  • कॉमा (12,50)
  • बिंदु (12.50)
प्रति kWh बिजली दर (खाली = बिजली खर्च नहीं)
प्रति दिन लोड वाले घंटे
बाज़ार या विक्रेता का देश (मुक्त पाठ)
कीमतों की तारीख, जैसे दिन (मुक्त पाठ)

परिणाम

अभी कोई मान्य उम्मीदवार नहीं
VRAM में फिट (✓ फिट · ✗ फिट नहीं · ? अपुष्ट)
वर्कलोड अधूरा: पैरामीटर और प्रति वेट बिट्स दर्ज करें
कुल ज़रूरी मेमोरी
वर्कलोड अधूरा: पैरामीटर और प्रति वेट बिट्स दर्ज करें
गणना: वेट्स + KV कैश + बफ़र
कोई खास बैकएंड ज़रूरी नहीं
हर उम्मीदवार के लिए ज़रूरी बैकएंड
0
मान्य उम्मीदवार
किसी उम्मीदवार की कीमत नहीं
VRAM के प्रति GiB सबसे कम कीमत (हर मुद्रा में)
किसी उम्मीदवार की कीमत नहीं
मुद्राओं की तुलना
0
बिना कीमत वाले उम्मीदवार
कोई तुलनीय माप नहीं
माप समूह (रैंक केवल समूह के भीतर)
0
बिना रैंक वाले माप (शर्तें अधूरी)
0
बिना माप वाले उम्मीदवार (अज्ञात रहता है)
नहीं बताया
सालाना बिजली खर्च की गणना
कोई नहीं
उम्मीदवारों की अमान्य पंक्तियाँ
कोई नहीं
माप की अमान्य पंक्तियाँ
कोई CSV चिपकाया नहीं गया
पहचाना गया CSV विभाजक
केवल आपके मान और स्रोत, कोई अंतर्निहित GPU तालिका नहीं
तकनीकी डेटा का स्रोत
नहीं बताया
बाज़ार
नहीं बताया
मूल्य की तारीख
✓ फिट या स्रोत के अनुसार · ~ बिना स्रोत के दी गई जानकारी · ✗ फिट नहीं या समर्थित नहीं · ? अज्ञात · ≠ माप की शर्तें अधूरी, कोई रैंक नहीं · ≥ शिपिंग अज्ञात, न्यूनतम मान
तालिका के चिह्न
line;name;vram_gib;fit;bandwidth_gb_s;backends;power_w;price_total;currency;shipping_unknown;price_per_gib;rank_in_currency;source line;gpu;tokens_per_s;metric;model;quant;context;backend;group;rank_in_group;source
कॉपी करने के लिए CSV रिपोर्ट (सेमीकोलन, दशमलव बिंदु)

GPU उम्मीदवारों की तुलना

GPU उम्मीदवारों की तुलना
पंक्तिGPUVRAMफिटबैंडविड्थ (डेटाशीट)बैकएंडज़रूरी बैकएंडपावर (डेटाशीट)सालाना बिजलीकुल मूल्यVRAM के प्रति GiB कीमत (हर मुद्रा में रैंक)प्रति GB/s कीमतमाप (मापा गया, समूह रैंक/संख्या)स्रोत
क्या मेरी फ़ाइल अपलोड होती है?

नहीं। सब कुछ आपके ब्राउज़र में चलता है - आपकी फ़ाइल कभी आपके डिवाइस से बाहर नहीं जाती। यह कैसे सत्यापित किया जा सकता है

कोई अपलोड नहीं100% स्थानीय
सामग्री आपके पास रहती हैकिसी तीसरे की पहुँच नहीं
जर्मनी में होस्ट किया गयावैश्विक कंटेंट डिलीवरी
स्वतंत्र रूप से जाँचा गयाTLS A+ · हेडर A+

लोकल AI में सबसे पहले GPU (ग्राफ़िक्स प्रोसेसर) की ग्राफ़िक्स मेमोरी (VRAM, वीडियो मेमोरी) तय करती है: मॉडल को अपने वेट्स, KV कैश (अटेंशन की कुंजियाँ और मान रखने वाली मेमोरी) और रनटाइम बफ़र के साथ उसमें समाना होता है। यह जाँच लोकल भाषा मॉडल वाले टूल जैसी ही गणना करती है: 4.5 बिट पर 8 अरब पैरामीटर 4.19 GiB वेट्स होते हैं; 8 KV हेड, हेड डाइमेंशन 128 वाली 32 लेयर और FP16 में 8192 टोकन का कॉन्टेक्स्ट 1.00 GiB KV कैश देते हैं, 1 GiB बफ़र के साथ कुल 6.19 GiB। कोई हिस्सा न हो तो ज़रूरत «≥» के साथ दिखती है और कार्ड तभी छोटा माना जाता है जब ज्ञात हिस्से ही न समाएँ।

डेटाशीट के मान और माप अलग रहते हैं। VRAM, GB/s में मेमोरी बैंडविड्थ और वॉट में पावर सैद्धांतिक मान हैं; प्रति सेकंड टोकन (tok/s) केवल आपके दर्ज किए मापों से आते हैं, साथ में माप का प्रकार (tg = टेक्स्ट जनरेशन, pp = प्रॉम्प्ट प्रोसेसिंग), मॉडल, क्वांटाइज़ेशन, कॉन्टेक्स्ट और बैकएंड। रैंक केवल बिल्कुल समान शर्तों वाले समूह के भीतर बनती है: एक ही मॉडल, Q4_K_M, 8192 टोकन और Vulkan के साथ 40 और 55 tok/s मिलकर G1 बनाते हैं, जबकि CUDA वाला माप अलग समूह में जाता है। बैंडविड्थ से कभी गति का अनुमान नहीं लगाया जाता।

कीमत केवल गणना योग्य आँकड़ों पर असर डालती है: हर मुद्रा में रैंक के साथ प्रति GiB VRAM कीमत, प्रति GB/s कीमत और रैंक वाले मापों में प्रति tok/s कीमत। उदाहरण: 450 EUR में 16 GB यानी 28.13 EUR प्रति GiB, 900 EUR में 24 GB यानी 37.50 EUR प्रति GiB। मुद्राएँ कभी मिलाई नहीं जातीं और अज्ञात शिपिंग मान को न्यूनतम बना देती है। CUDA, ROCm, Vulkan, Metal या SYCL जैसे बैकएंड प्रोग्रामिंग इंटरफ़ेस हैं जिनसे AI सॉफ़्टवेयर GPU का उपयोग करता है; स्रोत वाली जानकारी प्रमाणित, बिना स्रोत वाली अपुष्ट मानी जाती है, और न लिखा गया बैकएंड अज्ञात रहता है।

मुफ़्त और बिना खाते के: जितनी बार चाहें गणना करें, और आपकी दर्ज की गई जानकारी आपके डिवाइस पर ही रहती है।

तकनीकी विवरण

तकनीकी विवरण
इनपुट फ़ॉर्मैटफ़ॉर्म इनपुट (कोई फ़ाइल नहीं)
प्रोसेसिंगब्राउज़र में स्थानीय रूप से (JavaScript)
फ़ाइल अपलोडकोई नहीं

3 चरणों में

  1. GPU उम्मीदवारों को VRAM, बैंडविड्थ, बैकएंड, पावर, कीमत और स्रोत के साथ CSV में चिपकाएँ।
  2. वर्कलोड दर्ज करें: पैरामीटर, प्रति वेट बिट्स, कॉन्टेक्स्ट, मॉडल कार्ड के मान और बफ़र, साथ में ज़रूरी बैकएंड।
  3. अपने या प्रमाणित माप प्रकार, मॉडल, क्वांटाइज़ेशन, कॉन्टेक्स्ट और बैकएंड के साथ जोड़ें।
  4. तालिका में फिट, बैकएंड प्रोफ़ाइल, प्रति GiB कीमत और माप समूहों की तुलना करें और रिपोर्ट CSV में कॉपी करें।

सीमाएँ: यह गाइड किसी उत्पाद को नहीं जानती और न खरीद की सलाह देती है, न गारंटी: यह केवल आपके मानों से गणना करती है। कोई tok/s अनुमान, बॉटलनेक प्रतिशत या कुल स्कोर नहीं है। फिट जाँच एक GPU के लिए है, सिस्टम मेमोरी में ऑफ़लोड के बिना; ड्राइवर, कूलिंग, शोर, आकार और पावर सप्लाई की जाँच नहीं होती। कीमतें आपकी प्रविष्टि के समय की हैं, विनिमय दर के बिना।

अक्सर पूछे जाने वाले प्रश्न

टूल बैंडविड्थ से प्रति सेकंड टोकन का अनुमान क्यों नहीं लगाता?

क्योंकि असली गति मॉडल, क्वांटाइज़ेशन, कॉन्टेक्स्ट, बैकएंड, ड्राइवर और सॉफ़्टवेयर पर निर्भर करती है। डेटाशीट से बना अनुमान सटीक दिखेगा, पर गढ़ा हुआ होगा। इसलिए तालिका केवल शर्तों सहित मापे गए मान दिखाती है; माप न हो तो वहाँ «?» दिखता है।

कुछ मापों को रैंक क्यों नहीं मिलती?

रैंक केवल उन मापों के बीच बनती है जिनका प्रकार, मॉडल, क्वांटाइज़ेशन, कॉन्टेक्स्ट और बैकएंड एक जैसा हो। इनमें से कोई जानकारी न हो तो तालिका रैंक की जगह «≠» दिखाती है और माप बिना रैंक गिना जाता है। अलग शर्तें अलग समूहों में जाती हैं।

तालिका में ✓, ~, ✗ और ? का क्या मतलब है?

फिट में ✓ का मतलब गणना के अनुसार समाता है, ✗ नहीं समाता और ? अपुष्ट। बैकएंड में ✓ का मतलब स्रोत के अनुसार समर्थित, ~ बिना स्रोत के बताया गया, ✗ असमर्थित बताया गया (माइनस वाली प्रविष्टि, जैसे -CUDA) और ? अज्ञात। न लिखा गया बैकएंड कभी «नहीं» नहीं माना जाता।

«16 GB» VRAM को 16 GiB क्यों गिना जाता है?

ग्राफ़िक्स मेमोरी बाइनरी आकारों में होती है, पर सिस्टम मेमोरी की तरह आम तौर पर «GB» लिखी जाती है। इसलिए स्विच ऐसे मानों को GiB (2³⁰ बाइट) के रूप में पढ़ता है। अगर आपका स्रोत सच में दशमलव गीगाबाइट बताता है तो इसे बंद करें; तब तालिका GiB में बदला हुआ मान दिखाती है।

क्या लोकल AI के लिए GPU खरीद गाइड मुफ़्त है और बिना खाते के चलता है?

हाँ। इसका इस्तेमाल मुफ़्त है और कोई खाता नहीं चाहिए: आप जितनी बार चाहें गणना कर सकते हैं, और आपकी दर्ज की गई जानकारी आपके डिवाइस पर ही रहती है।

संबंधित टूल

LLM VRAM कैलकुलेटर · RAM और SSD की प्रति GB कीमत · लोकल AI या क्लाउड · PC अपग्रेड और PSU प्लानर · ऊर्जा लागत कैलकुलेटर