Сравните видеокарты для локального ИИ по VRAM, пропускной способности, бэкенду, мощности и цене за ГиБ. Замеры учитываются только при равных условиях.
i
Этот калькулятор даёт необязывающую оценку на основе модели и не является финансовой, налоговой или юридической консультацией. Подробнее в отказе от ответственности
Рынок
Бангладеш✓
Болгария✓
Бразилия✓
Великобритания✓
Вьетнам✓
Германия✓
Еврозона✓
Египет✓
Индия✓
Индонезия✓
Испания✓
Италия✓
Кения✓
Китай✓
Малайзия✓
Мексика✓
Нигерия✓
Нидерланды✓
Пакистан✓
Польша✓
Португалия✓
Россия✓
США✓
Таиланд✓
Тайвань✓
Турция✓
Украина✓
Франция✓
Швеция✓
Южная Корея✓
Япония✓
Результат
Корректных кандидатов пока нет
Помещается в VRAM (✓ помещается · ✗ не помещается · ? не подтверждено)
Нагрузка неполная: укажите параметры и биты на вес
Общая потребность в памяти
Нагрузка неполная: укажите параметры и биты на вес
Расчёт: веса + KV-кеш + буфер
Конкретный бэкенд не требуется
Нужный бэкенд по кандидатам
0
Корректные кандидаты
Нет кандидата с ценой
Наименьшая цена за ГиБ VRAM (по валютам)
Нет кандидата с ценой
Сравнение валют
0
Кандидаты без цены
Нет сопоставимых замеров
Группы замеров (место только внутри группы)
0
Замеры без места (неполные условия)
0
Кандидаты без замера (остаётся неизвестным)
Не указано
Расчёт затрат на электричество в год
Нет
Ошибочные строки кандидатов
Нет
Ошибочные строки замеров
CSV не вставлен
Найденный разделитель CSV
Только ваши значения и источники, без встроенной таблицы GPU
Происхождение технических данных
Не указано
Рынок
Не указано
Цены на дату
✓ помещается или по источнику · ~ по данным без источника · ✗ не помещается или не поддерживается · ? неизвестно · ≠ условия неполные, без места · ≥ доставка неизвестна, минимум
Содержимое остаётся у васнет доступа у третьих лиц
Содержимое ваших файлов нигде не обрабатывается на стороне сервера. Вам не нужен договор об обработке данных с gottrix, чтобы работать с конфиденциальными или деловыми документами.
Хостинг в ГерманииГлобальная доставка
Исходный сервер у Hetzner в Германии, доставка по всему миру через сеть доставки контента (CDN). Содержимое ваших файлов при этом никогда не передаётся - оно не покидает ваше устройство.
Для локального ИИ прежде всего важна видеопамять (VRAM) графического процессора (GPU): модель должна поместиться вместе с весами, KV-кешем (хранит ключи и значения механизма внимания) и рабочим буфером. Проверка использует тот же расчёт, что и инструмент для локальных языковых моделей: 8 млрд параметров при 4,5 бита дают 4,19 ГиБ весов; 32 слоя с 8 KV-головами, размерностью 128 и контекстом 8192 токена в FP16 дают 1,00 ГиБ KV-кеша, а с буфером 1 ГиБ всего 6,19 ГиБ. Если какой-то части нет, потребность показывается со знаком «≥», а карта считается слишком маленькой, только если не помещаются уже известные части.
Паспортные данные и замеры разделены. VRAM, пропускная способность памяти в ГБ/с и мощность в ваттах - теоретические значения; токены в секунду (tok/s) берутся только из замеров, которые вы вводите, вместе с видом (tg = генерация текста, pp = обработка промпта), моделью, квантованием, контекстом и бэкендом. Ранжирование идёт только внутри группы с полностью одинаковыми условиями: 40 и 55 tok/s с одной моделью, Q4_K_M, 8192 токенами и Vulkan образуют G1, а замер с CUDA попадает в отдельную группу. Скорость никогда не оценивается по пропускной способности.
Цена влияет только на вычислимые показатели: цену за ГиБ VRAM с местом в своей валюте, цену за ГБ/с и, для ранжированных замеров, цену за tok/s. Пример: 16 ГБ за 450 EUR дают 28,13 EUR за ГиБ, 24 ГБ за 900 EUR дают 37,50 EUR за ГиБ. Валюты никогда не смешиваются, а неизвестная доставка делает значение минимальным. Бэкенды вроде CUDA, ROCm, Vulkan, Metal или SYCL - это программные интерфейсы, через которые ИИ-программы работают с GPU; данные с источником считаются подтверждёнными, без источника - неподтверждёнными, а неуказанный бэкенд остаётся неизвестным.
Бесплатно и без аккаунта: считайте сколько угодно раз, а введённые данные остаются на вашем устройстве.
Технические данные
Технические данные
Входные форматы
Данные формы (без файла)
Обработка
Локально в браузере (JavaScript)
Загрузка файлов
Отсутствует
В 3 шага
Вставьте кандидатов GPU с VRAM, пропускной способностью, бэкендами, мощностью, ценой и источником в формате CSV.
Укажите нагрузку: параметры, биты на вес, контекст, значения из карточки модели и буфер, а также нужный бэкенд.
Добавьте собственные или подтверждённые замеры с видом, моделью, квантованием, контекстом и бэкендом.
Сравните в таблице помещаемость, профиль бэкендов, цену за ГиБ и группы замеров и скопируйте отчёт CSV.
Ограничения: Помощник не знает товаров и не даёт рекомендаций по покупке или гарантий: он считает только по вашим значениям. Нет прогноза tok/s, процентов узкого места и общей оценки. Проверка относится к одной GPU без выгрузки в оперативную память; драйверы, охлаждение, шум, размеры и блок питания не проверяются. Цены действуют на момент ввода, без курсов валют.
Частые вопросы
Почему инструмент не оценивает токены в секунду по пропускной способности?
Потому что реальная скорость зависит от модели, квантования, контекста, бэкенда, драйвера и программы. Прогноз по паспортным данным выглядел бы точным, но был бы выдуманным. Поэтому таблица показывает только измеренные значения с их условиями; если замера нет, там стоит «?».
Почему у некоторых замеров нет места?
Место есть только у замеров с одинаковым видом, моделью, квантованием, контекстом и бэкендом. Если что-то из этого не указано, в таблице вместо места стоит «≠», и замер считается неранжированным. Разные условия попадают в разные группы.
Что означают ✓, ~, ✗ и ? в таблице?
Для помещаемости ✓ значит помещается по расчёту, ✗ не помещается, ? не подтверждено. Для бэкендов ✓ значит поддерживается по источнику, ~ указано без источника, ✗ указано как неподдерживаемое (запись с минусом, например -CUDA), ? неизвестно. Неуказанный бэкенд никогда не считается «нет».
Почему «16 ГБ» видеопамяти считаются как 16 ГиБ?
Видеопамять организована в двоичных размерах, но обычно подписывается в «ГБ», как и оперативная память. Поэтому переключатель читает такие значения как ГиБ (2³⁰ байт). Выключите его, если ваш источник действительно имеет в виду десятичные гигабайты; тогда таблица покажет пересчитанное значение в ГиБ.
GPU для локального ИИ: это бесплатно и без аккаунта?
Да. Это бесплатно, аккаунт не нужен: можно считать сколько угодно раз, а введённые данные остаются на вашем устройстве.
Только с вашего согласия мы анонимно измеряем использование с помощью файлов cookie, чтобы улучшать gottrix. Ваши файлы всегда остаются локально, на вашем устройстве. Конфиденциальность