Порівняйте відеокарти для локального ШІ за VRAM, пропускною здатністю, бекендом, потужністю й ціною за ГіБ. Виміри зважаються лише за рівних умов.
i
Цей калькулятор дає необовʼязкову оцінку на основі моделі та не є фінансовою, податковою чи юридичною консультацією. Докладніше в застереженні
Ринок
Бангладеш✓
Болгарія✓
Бразилія✓
В'єтнам✓
Велика Британія✓
Єврозона✓
Єгипет✓
Індія✓
Індонезія✓
Іспанія✓
Італія✓
Кенія✓
Китай✓
Малайзія✓
Мексика✓
Нігерія✓
Нідерланди✓
Німеччина✓
Пакистан✓
Південна Корея✓
Польща✓
Португалія✓
Росія✓
США✓
Таїланд✓
Тайвань✓
Туреччина✓
Україна✓
Франція✓
Швеція✓
Японія✓
Результат
Коректних кандидатів поки немає
Вміщується у VRAM (✓ вміщується · ✗ не вміщується · ? не підтверджено)
Навантаження неповне: вкажіть параметри та біти на вагу
Загальна потреба в пам'яті
Навантаження неповне: вкажіть параметри та біти на вагу
Розрахунок: ваги + KV-кеш + буфер
Конкретний бекенд не потрібен
Потрібний бекенд за кандидатами
0
Коректні кандидати
Немає кандидата з ціною
Найнижча ціна за ГіБ VRAM (за валютами)
Немає кандидата з ціною
Порівняння валют
0
Кандидати без ціни
Немає порівнянних вимірювань
Групи вимірювань (місце лише в межах групи)
0
Вимірювання без місця (неповні умови)
0
Кандидати без вимірювання (лишається невідомим)
Не вказано
Розрахунок витрат на електроенергію за рік
Немає
Помилкові рядки кандидатів
Немає
Помилкові рядки вимірювань
CSV не вставлено
Виявлений роздільник CSV
Лише ваші значення та джерела, без вбудованої таблиці GPU
Походження технічних даних
Не вказано
Ринок
Не вказано
Ціни станом на
✓ вміщується або за джерелом · ~ за даними без джерела · ✗ не вміщується або не підтримується · ? невідомо · ≠ умови неповні, без місця · ≥ доставка невідома, мінімум
Жодної обробки вмісту ваших файлів на сервері не відбувається. Вам не потрібен договір про обробку даних із gottrix, щоб працювати з конфіденційними чи службовими документами.
Хостинг у НімеччиніГлобальна доставка
Основні сервери розміщено в Hetzner у Німеччині, доставлення по всьому світу відбувається через мережу доставлення контенту (CDN). Вміст ваших файлів при цьому ніколи не передається - він не залишає ваш пристрій.
Для локального ШІ насамперед важлива відеопам’ять (VRAM) графічного процесора (GPU): модель має вміститися разом із вагами, KV-кешем (зберігає ключі й значення механізму уваги) і робочим буфером. Перевірка використовує той самий розрахунок, що й інструмент для локальних мовних моделей: 8 млрд параметрів по 4,5 біта - це 4,19 ГіБ ваг; 32 шари з 8 KV-головами, розмірністю 128 і контекстом 8192 токени у FP16 дають 1,00 ГіБ KV-кешу, а з буфером 1 ГіБ разом 6,19 ГіБ. Якщо якоїсь частини бракує, потреба показується зі знаком «≥», а карта вважається замалою лише тоді, коли не вміщуються вже відомі частини.
Паспортні дані й виміри розділено. VRAM, пропускна здатність пам’яті в ГБ/с і потужність у ватах - теоретичні значення; токени за секунду (tok/s) беруться лише з вимірів, які ви вводите, разом із видом (tg = генерація тексту, pp = обробка промпту), моделлю, квантуванням, контекстом і бекендом. Ранжування відбувається лише всередині групи з повністю однаковими умовами: 40 і 55 tok/s з тією самою моделлю, Q4_K_M, 8192 токенами й Vulkan утворюють G1, а вимір із CUDA потрапляє до окремої групи. Швидкість ніколи не оцінюється за пропускною здатністю.
Ціна впливає лише на обчислювані показники: ціну за ГіБ VRAM із місцем у своїй валюті, ціну за ГБ/с і, для ранжованих вимірів, ціну за tok/s. Приклад: 16 ГБ за 450 EUR - це 28,13 EUR за ГіБ, 24 ГБ за 900 EUR - 37,50 EUR за ГіБ. Валюти ніколи не змішуються, а невідома доставка робить значення мінімальним. Бекенди на кшталт CUDA, ROCm, Vulkan, Metal чи SYCL - це програмні інтерфейси, через які програми ШІ працюють із GPU; дані з джерелом вважаються підтвердженими, без джерела - непідтвердженими, а невказаний бекенд лишається невідомим.
Безкоштовно і без акаунта: рахуйте скільки завгодно разів, а введені дані лишаються на вашому пристрої.
Технічні дані
Технічні дані
Вхідні формати
Дані форми (без файлу)
Обробка
Локально в браузері (JavaScript)
Завантаження файлів
Немає
У 3 кроки
Вставте кандидатів GPU з VRAM, пропускною здатністю, бекендами, потужністю, ціною та джерелом у форматі CSV.
Вкажіть навантаження: параметри, біти на вагу, контекст, значення з картки моделі й буфер, а також потрібний бекенд.
Додайте власні або підтверджені виміри з видом, моделлю, квантуванням, контекстом і бекендом.
Порівняйте в таблиці вміщуваність, профіль бекендів, ціну за ГіБ і групи вимірів та скопіюйте звіт CSV.
Обмеження: Помічник не знає товарів і не дає порад щодо купівлі чи гарантій: він рахує лише з вашими значеннями. Немає прогнозу tok/s, відсотків вузького місця й загальної оцінки. Перевірка стосується однієї GPU без вивантаження в оперативну пам’ять; драйвери, охолодження, шум, розміри й блок живлення не перевіряються. Ціни чинні на момент введення, без курсів валют.
Часті запитання
Чому інструмент не оцінює токени за секунду за пропускною здатністю?
Бо реальна швидкість залежить від моделі, квантування, контексту, бекенда, драйвера й програми. Прогноз за паспортними даними виглядав би точним, але був би вигаданим. Тому таблиця показує лише виміряні значення з їхніми умовами; якщо виміру немає, там стоїть «?».
Чому деякі виміри не мають місця?
Місце є лише у вимірів з однаковим видом, моделлю, квантуванням, контекстом і бекендом. Якщо чогось із цього бракує, таблиця показує «≠» замість місця, а вимір вважається неранжованим. Різні умови потрапляють до окремих груп.
Що означають ✓, ~, ✗ і ? у таблиці?
Для вміщуваності ✓ означає вміщується за розрахунком, ✗ не вміщується, ? не підтверджено. Для бекендів ✓ означає підтримується за джерелом, ~ вказано без джерела, ✗ вказано як непідтримуване (запис із мінусом, наприклад -CUDA), ? невідомо. Невказаний бекенд ніколи не вважається «ні».
Чому «16 ГБ» відеопам’яті рахуються як 16 ГіБ?
Відеопам’ять організована у двійкових розмірах, але зазвичай позначається в «ГБ», як і оперативна. Тому перемикач читає такі значення як ГіБ (2³⁰ байт). Вимкніть його, якщо ваше джерело справді має на увазі десяткові гігабайти; тоді таблиця покаже перераховане значення в ГіБ.
Вибір GPU для ШІ: це безкоштовно і без акаунта?
Так. Це безкоштовно, акаунт не потрібен: рахувати можна скільки завгодно разів, а введені дані лишаються на вашому пристрої.
Лише за вашою згодою ми анонімно вимірюємо використання за допомогою файлів cookie, щоб покращувати gottrix. Ваші файли завжди залишаються локально, на вашому пристрої. Конфіденційність