uk

Вибір GPU для ШІ

Порівняйте відеокарти для локального ШІ за VRAM, пропускною здатністю, бекендом, потужністю й ціною за ГіБ. Виміри зважаються лише за рівних умов.

Цей калькулятор дає необовʼязкову оцінку на основі моделі та не є фінансовою, податковою чи юридичною консультацією. Докладніше в застереженні
  • Бангладеш
  • Болгарія
  • Бразилія
  • В'єтнам
  • Велика Британія
  • Єврозона
  • Єгипет
  • Індія
  • Індонезія
  • Іспанія
  • Італія
  • Кенія
  • Китай
  • Малайзія
  • Мексика
  • Нігерія
  • Нідерланди
  • Німеччина
  • Пакистан
  • Південна Корея
  • Польща
  • Португалія
  • Росія
  • США
  • Таїланд
  • Тайвань
  • Туреччина
  • Україна
  • Франція
  • Швеція
  • Японія
Кандидати GPU у CSV: назва; VRAM; пропускна здатність ГБ/с; бекенди; потужність Вт; ціна; валюта; доставка; джерело
Виміри у CSV: назва GPU; токени/с; вид tg/pp; модель; квантування; контекст; бекенд; джерело
Бекенд, потрібний вашій програмі
  • Будь-який
  • CUDA
  • ROCm
  • Vulkan
  • Metal
  • SYCL
Навантаження: усього параметрів моделі (млрд)
Навантаження: біти на вагу (квантування, напр. 4,5)
Навантаження: контекст у токенах
Навантаження: шари з KV-кешем (картка моделі)
Навантаження: KV-голови (картка моделі)
Навантаження: розмірність голови (картка моделі)
Навантаження: біти на елемент KV
  • 16 (FP16/BF16)
  • 8
  • 4
Робочий буфер і резерв на GPU (ГіБ, припущення)
Читати VRAM у ГБ як ГіБ (звичайне маркування)
Валюта (рядки без валюти й ціна електроенергії)
  • ¤
  • USD
  • EUR
  • GBP
  • JPY
  • CHF
  • CAD
  • AUD
  • CNY
  • INR
  • KRW
  • BRL
  • MXN
  • SEK
  • PLN
  • TRY
  • SGD
Десятковий роздільник у CSV
  • Визначити автоматично
  • Кома (12,50)
  • Крапка (12.50)
Ціна електроенергії за кВт·год (порожньо = без витрат на електроенергію)
Годин під навантаженням на день
Ринок або країна продавця (вільний текст)
Дата цін, напр. день (вільний текст)

Результат

Коректних кандидатів поки немає
Вміщується у VRAM (✓ вміщується · ✗ не вміщується · ? не підтверджено)
Навантаження неповне: вкажіть параметри та біти на вагу
Загальна потреба в пам'яті
Навантаження неповне: вкажіть параметри та біти на вагу
Розрахунок: ваги + KV-кеш + буфер
Конкретний бекенд не потрібен
Потрібний бекенд за кандидатами
0
Коректні кандидати
Немає кандидата з ціною
Найнижча ціна за ГіБ VRAM (за валютами)
Немає кандидата з ціною
Порівняння валют
0
Кандидати без ціни
Немає порівнянних вимірювань
Групи вимірювань (місце лише в межах групи)
0
Вимірювання без місця (неповні умови)
0
Кандидати без вимірювання (лишається невідомим)
Не вказано
Розрахунок витрат на електроенергію за рік
Немає
Помилкові рядки кандидатів
Немає
Помилкові рядки вимірювань
CSV не вставлено
Виявлений роздільник CSV
Лише ваші значення та джерела, без вбудованої таблиці GPU
Походження технічних даних
Не вказано
Ринок
Не вказано
Ціни станом на
✓ вміщується або за джерелом · ~ за даними без джерела · ✗ не вміщується або не підтримується · ? невідомо · ≠ умови неповні, без місця · ≥ доставка невідома, мінімум
Знаки в таблиці
line;name;vram_gib;fit;bandwidth_gb_s;backends;power_w;price_total;currency;shipping_unknown;price_per_gib;rank_in_currency;source line;gpu;tokens_per_s;metric;model;quant;context;backend;group;rank_in_group;source
Звіт CSV для копіювання (крапка з комою, десяткова крапка)

Порівняння кандидатів GPU

Порівняння кандидатів GPU
РядокGPUVRAMВміщуєтьсяПропускна здатність (специфікація)БекендиПотрібний бекендПотужність (специфікація)Електроенергія за рікЗагальна цінаЦіна за ГіБ VRAM (місце за валютою)Ціна за ГБ/сВимірювання (виміряно, група місце/усього)Джерело
Чи завантажується мій файл?

Ні. Усе працює у вашому браузері - ваш файл ніколи не залишає пристрій. Як це перевірити

Без завантаження100% локально
Вміст лишається у васбез доступу третіх осіб
Хостинг у НімеччиніГлобальна доставка
Незалежний аудитTLS A+ · Заголовки A+

Для локального ШІ насамперед важлива відеопам’ять (VRAM) графічного процесора (GPU): модель має вміститися разом із вагами, KV-кешем (зберігає ключі й значення механізму уваги) і робочим буфером. Перевірка використовує той самий розрахунок, що й інструмент для локальних мовних моделей: 8 млрд параметрів по 4,5 біта - це 4,19 ГіБ ваг; 32 шари з 8 KV-головами, розмірністю 128 і контекстом 8192 токени у FP16 дають 1,00 ГіБ KV-кешу, а з буфером 1 ГіБ разом 6,19 ГіБ. Якщо якоїсь частини бракує, потреба показується зі знаком «≥», а карта вважається замалою лише тоді, коли не вміщуються вже відомі частини.

Паспортні дані й виміри розділено. VRAM, пропускна здатність пам’яті в ГБ/с і потужність у ватах - теоретичні значення; токени за секунду (tok/s) беруться лише з вимірів, які ви вводите, разом із видом (tg = генерація тексту, pp = обробка промпту), моделлю, квантуванням, контекстом і бекендом. Ранжування відбувається лише всередині групи з повністю однаковими умовами: 40 і 55 tok/s з тією самою моделлю, Q4_K_M, 8192 токенами й Vulkan утворюють G1, а вимір із CUDA потрапляє до окремої групи. Швидкість ніколи не оцінюється за пропускною здатністю.

Ціна впливає лише на обчислювані показники: ціну за ГіБ VRAM із місцем у своїй валюті, ціну за ГБ/с і, для ранжованих вимірів, ціну за tok/s. Приклад: 16 ГБ за 450 EUR - це 28,13 EUR за ГіБ, 24 ГБ за 900 EUR - 37,50 EUR за ГіБ. Валюти ніколи не змішуються, а невідома доставка робить значення мінімальним. Бекенди на кшталт CUDA, ROCm, Vulkan, Metal чи SYCL - це програмні інтерфейси, через які програми ШІ працюють із GPU; дані з джерелом вважаються підтвердженими, без джерела - непідтвердженими, а невказаний бекенд лишається невідомим.

Безкоштовно і без акаунта: рахуйте скільки завгодно разів, а введені дані лишаються на вашому пристрої.

Технічні дані

Технічні дані
Вхідні форматиДані форми (без файлу)
ОбробкаЛокально в браузері (JavaScript)
Завантаження файлівНемає

У 3 кроки

  1. Вставте кандидатів GPU з VRAM, пропускною здатністю, бекендами, потужністю, ціною та джерелом у форматі CSV.
  2. Вкажіть навантаження: параметри, біти на вагу, контекст, значення з картки моделі й буфер, а також потрібний бекенд.
  3. Додайте власні або підтверджені виміри з видом, моделлю, квантуванням, контекстом і бекендом.
  4. Порівняйте в таблиці вміщуваність, профіль бекендів, ціну за ГіБ і групи вимірів та скопіюйте звіт CSV.

Обмеження: Помічник не знає товарів і не дає порад щодо купівлі чи гарантій: він рахує лише з вашими значеннями. Немає прогнозу tok/s, відсотків вузького місця й загальної оцінки. Перевірка стосується однієї GPU без вивантаження в оперативну пам’ять; драйвери, охолодження, шум, розміри й блок живлення не перевіряються. Ціни чинні на момент введення, без курсів валют.

Часті запитання

Чому інструмент не оцінює токени за секунду за пропускною здатністю?

Бо реальна швидкість залежить від моделі, квантування, контексту, бекенда, драйвера й програми. Прогноз за паспортними даними виглядав би точним, але був би вигаданим. Тому таблиця показує лише виміряні значення з їхніми умовами; якщо виміру немає, там стоїть «?».

Чому деякі виміри не мають місця?

Місце є лише у вимірів з однаковим видом, моделлю, квантуванням, контекстом і бекендом. Якщо чогось із цього бракує, таблиця показує «≠» замість місця, а вимір вважається неранжованим. Різні умови потрапляють до окремих груп.

Що означають ✓, ~, ✗ і ? у таблиці?

Для вміщуваності ✓ означає вміщується за розрахунком, ✗ не вміщується, ? не підтверджено. Для бекендів ✓ означає підтримується за джерелом, ~ вказано без джерела, ✗ вказано як непідтримуване (запис із мінусом, наприклад -CUDA), ? невідомо. Невказаний бекенд ніколи не вважається «ні».

Чому «16 ГБ» відеопам’яті рахуються як 16 ГіБ?

Відеопам’ять організована у двійкових розмірах, але зазвичай позначається в «ГБ», як і оперативна. Тому перемикач читає такі значення як ГіБ (2³⁰ байт). Вимкніть його, якщо ваше джерело справді має на увазі десяткові гігабайти; тоді таблиця покаже перераховане значення в ГіБ.

Вибір GPU для ШІ: це безкоштовно і без акаунта?

Так. Це безкоштовно, акаунт не потрібен: рахувати можна скільки завгодно разів, а введені дані лишаються на вашому пристрої.

Схожі інструменти

VRAM для LLM · Ціна RAM/SSD за GB · ШІ: ПК чи хмара · План апгрейду ПК · Витрати на енергію