लोकल AI के लिए ग्राफ़िक्स कार्ड की तुलना VRAM, बैंडविड्थ, बैकएंड, पावर और प्रति GiB कीमत से करें। माप केवल समान शर्तों पर गिने जाते हैं।
i
यह कैलकुलेटर मॉडल पर आधारित एक गैर-बाध्यकारी अनुमान देता है और यह वित्तीय, कर या कानूनी सलाह नहीं है। अस्वीकरण में और पढ़ें
बाज़ार
इंडोनेशिया✓
इटली✓
केन्या✓
चीन✓
जर्मनी✓
जापान✓
ताइवान✓
तुर्की✓
थाईलैंड✓
दक्षिण कोरिया✓
नाइजीरिया✓
नीदरलैंड✓
पाकिस्तान✓
पुर्तगाल✓
पोलैंड✓
फ़्रांस✓
बांग्लादेश✓
बुल्गारिया✓
ब्राज़ील✓
भारत✓
मलेशिया✓
मिस्र✓
मेक्सिको✓
यूक्रेन✓
यूनाइटेड किंगडम✓
यूरो क्षेत्र✓
रूस✓
वियतनाम✓
संयुक्त राज्य अमेरिका✓
स्पेन✓
स्वीडन✓
परिणाम
अभी कोई मान्य उम्मीदवार नहीं
VRAM में फिट (✓ फिट · ✗ फिट नहीं · ? अपुष्ट)
वर्कलोड अधूरा: पैरामीटर और प्रति वेट बिट्स दर्ज करें
कुल ज़रूरी मेमोरी
वर्कलोड अधूरा: पैरामीटर और प्रति वेट बिट्स दर्ज करें
गणना: वेट्स + KV कैश + बफ़र
कोई खास बैकएंड ज़रूरी नहीं
हर उम्मीदवार के लिए ज़रूरी बैकएंड
0
मान्य उम्मीदवार
किसी उम्मीदवार की कीमत नहीं
VRAM के प्रति GiB सबसे कम कीमत (हर मुद्रा में)
किसी उम्मीदवार की कीमत नहीं
मुद्राओं की तुलना
0
बिना कीमत वाले उम्मीदवार
कोई तुलनीय माप नहीं
माप समूह (रैंक केवल समूह के भीतर)
0
बिना रैंक वाले माप (शर्तें अधूरी)
0
बिना माप वाले उम्मीदवार (अज्ञात रहता है)
नहीं बताया
सालाना बिजली खर्च की गणना
कोई नहीं
उम्मीदवारों की अमान्य पंक्तियाँ
कोई नहीं
माप की अमान्य पंक्तियाँ
कोई CSV चिपकाया नहीं गया
पहचाना गया CSV विभाजक
केवल आपके मान और स्रोत, कोई अंतर्निहित GPU तालिका नहीं
तकनीकी डेटा का स्रोत
नहीं बताया
बाज़ार
नहीं बताया
मूल्य की तारीख
✓ फिट या स्रोत के अनुसार · ~ बिना स्रोत के दी गई जानकारी · ✗ फिट नहीं या समर्थित नहीं · ? अज्ञात · ≠ माप की शर्तें अधूरी, कोई रैंक नहीं · ≥ शिपिंग अज्ञात, न्यूनतम मान
किसी सर्वर पर आपकी फ़ाइल की सामग्री की कोई प्रोसेसिंग नहीं होती। गोपनीय या व्यावसायिक दस्तावेज़ संभालने के लिए आपको gottrix के साथ किसी डेटा-प्रोसेसिंग समझौते की ज़रूरत नहीं।
जर्मनी में होस्ट किया गयावैश्विक कंटेंट डिलीवरी
ओरिजिन सर्वर जर्मनी में Hetzner पर हैं, और कंटेंट डिलीवरी नेटवर्क (CDN) के ज़रिए दुनिया भर में डिलीवरी होती है। इस दौरान आपकी फ़ाइल की सामग्री कभी ट्रांसमिट नहीं होती - वह आपके डिवाइस से बाहर नहीं जाती।
लोकल AI में सबसे पहले GPU (ग्राफ़िक्स प्रोसेसर) की ग्राफ़िक्स मेमोरी (VRAM, वीडियो मेमोरी) तय करती है: मॉडल को अपने वेट्स, KV कैश (अटेंशन की कुंजियाँ और मान रखने वाली मेमोरी) और रनटाइम बफ़र के साथ उसमें समाना होता है। यह जाँच लोकल भाषा मॉडल वाले टूल जैसी ही गणना करती है: 4.5 बिट पर 8 अरब पैरामीटर 4.19 GiB वेट्स होते हैं; 8 KV हेड, हेड डाइमेंशन 128 वाली 32 लेयर और FP16 में 8192 टोकन का कॉन्टेक्स्ट 1.00 GiB KV कैश देते हैं, 1 GiB बफ़र के साथ कुल 6.19 GiB। कोई हिस्सा न हो तो ज़रूरत «≥» के साथ दिखती है और कार्ड तभी छोटा माना जाता है जब ज्ञात हिस्से ही न समाएँ।
डेटाशीट के मान और माप अलग रहते हैं। VRAM, GB/s में मेमोरी बैंडविड्थ और वॉट में पावर सैद्धांतिक मान हैं; प्रति सेकंड टोकन (tok/s) केवल आपके दर्ज किए मापों से आते हैं, साथ में माप का प्रकार (tg = टेक्स्ट जनरेशन, pp = प्रॉम्प्ट प्रोसेसिंग), मॉडल, क्वांटाइज़ेशन, कॉन्टेक्स्ट और बैकएंड। रैंक केवल बिल्कुल समान शर्तों वाले समूह के भीतर बनती है: एक ही मॉडल, Q4_K_M, 8192 टोकन और Vulkan के साथ 40 और 55 tok/s मिलकर G1 बनाते हैं, जबकि CUDA वाला माप अलग समूह में जाता है। बैंडविड्थ से कभी गति का अनुमान नहीं लगाया जाता।
कीमत केवल गणना योग्य आँकड़ों पर असर डालती है: हर मुद्रा में रैंक के साथ प्रति GiB VRAM कीमत, प्रति GB/s कीमत और रैंक वाले मापों में प्रति tok/s कीमत। उदाहरण: 450 EUR में 16 GB यानी 28.13 EUR प्रति GiB, 900 EUR में 24 GB यानी 37.50 EUR प्रति GiB। मुद्राएँ कभी मिलाई नहीं जातीं और अज्ञात शिपिंग मान को न्यूनतम बना देती है। CUDA, ROCm, Vulkan, Metal या SYCL जैसे बैकएंड प्रोग्रामिंग इंटरफ़ेस हैं जिनसे AI सॉफ़्टवेयर GPU का उपयोग करता है; स्रोत वाली जानकारी प्रमाणित, बिना स्रोत वाली अपुष्ट मानी जाती है, और न लिखा गया बैकएंड अज्ञात रहता है।
मुफ़्त और बिना खाते के: जितनी बार चाहें गणना करें, और आपकी दर्ज की गई जानकारी आपके डिवाइस पर ही रहती है।
तकनीकी विवरण
तकनीकी विवरण
इनपुट फ़ॉर्मैट
फ़ॉर्म इनपुट (कोई फ़ाइल नहीं)
प्रोसेसिंग
ब्राउज़र में स्थानीय रूप से (JavaScript)
फ़ाइल अपलोड
कोई नहीं
3 चरणों में
GPU उम्मीदवारों को VRAM, बैंडविड्थ, बैकएंड, पावर, कीमत और स्रोत के साथ CSV में चिपकाएँ।
वर्कलोड दर्ज करें: पैरामीटर, प्रति वेट बिट्स, कॉन्टेक्स्ट, मॉडल कार्ड के मान और बफ़र, साथ में ज़रूरी बैकएंड।
अपने या प्रमाणित माप प्रकार, मॉडल, क्वांटाइज़ेशन, कॉन्टेक्स्ट और बैकएंड के साथ जोड़ें।
तालिका में फिट, बैकएंड प्रोफ़ाइल, प्रति GiB कीमत और माप समूहों की तुलना करें और रिपोर्ट CSV में कॉपी करें।
सीमाएँ: यह गाइड किसी उत्पाद को नहीं जानती और न खरीद की सलाह देती है, न गारंटी: यह केवल आपके मानों से गणना करती है। कोई tok/s अनुमान, बॉटलनेक प्रतिशत या कुल स्कोर नहीं है। फिट जाँच एक GPU के लिए है, सिस्टम मेमोरी में ऑफ़लोड के बिना; ड्राइवर, कूलिंग, शोर, आकार और पावर सप्लाई की जाँच नहीं होती। कीमतें आपकी प्रविष्टि के समय की हैं, विनिमय दर के बिना।
अक्सर पूछे जाने वाले प्रश्न
टूल बैंडविड्थ से प्रति सेकंड टोकन का अनुमान क्यों नहीं लगाता?
क्योंकि असली गति मॉडल, क्वांटाइज़ेशन, कॉन्टेक्स्ट, बैकएंड, ड्राइवर और सॉफ़्टवेयर पर निर्भर करती है। डेटाशीट से बना अनुमान सटीक दिखेगा, पर गढ़ा हुआ होगा। इसलिए तालिका केवल शर्तों सहित मापे गए मान दिखाती है; माप न हो तो वहाँ «?» दिखता है।
कुछ मापों को रैंक क्यों नहीं मिलती?
रैंक केवल उन मापों के बीच बनती है जिनका प्रकार, मॉडल, क्वांटाइज़ेशन, कॉन्टेक्स्ट और बैकएंड एक जैसा हो। इनमें से कोई जानकारी न हो तो तालिका रैंक की जगह «≠» दिखाती है और माप बिना रैंक गिना जाता है। अलग शर्तें अलग समूहों में जाती हैं।
तालिका में ✓, ~, ✗ और ? का क्या मतलब है?
फिट में ✓ का मतलब गणना के अनुसार समाता है, ✗ नहीं समाता और ? अपुष्ट। बैकएंड में ✓ का मतलब स्रोत के अनुसार समर्थित, ~ बिना स्रोत के बताया गया, ✗ असमर्थित बताया गया (माइनस वाली प्रविष्टि, जैसे -CUDA) और ? अज्ञात। न लिखा गया बैकएंड कभी «नहीं» नहीं माना जाता।
«16 GB» VRAM को 16 GiB क्यों गिना जाता है?
ग्राफ़िक्स मेमोरी बाइनरी आकारों में होती है, पर सिस्टम मेमोरी की तरह आम तौर पर «GB» लिखी जाती है। इसलिए स्विच ऐसे मानों को GiB (2³⁰ बाइट) के रूप में पढ़ता है। अगर आपका स्रोत सच में दशमलव गीगाबाइट बताता है तो इसे बंद करें; तब तालिका GiB में बदला हुआ मान दिखाती है।
क्या लोकल AI के लिए GPU खरीद गाइड मुफ़्त है और बिना खाते के चलता है?
हाँ। इसका इस्तेमाल मुफ़्त है और कोई खाता नहीं चाहिए: आप जितनी बार चाहें गणना कर सकते हैं, और आपकी दर्ज की गई जानकारी आपके डिवाइस पर ही रहती है।
केवल आपकी सहमति से ही हम gottrix को बेहतर बनाने के लिए कुकीज़ के ज़रिए उपयोग को गुमनाम रूप से मापते हैं। आपकी फ़ाइलें हमेशा आपके डिवाइस पर ही स्थानीय रहती हैं। गोपनीयता