Comprueba si un modelo de lenguaje local cabe en tu VRAM y RAM: pesos, caché KV, búfer y descarga por separado, en GB y GiB, en local y sin subir nada.
i
Esta calculadora ofrece una estimación orientativa basada en un modelo y no constituye asesoramiento financiero, fiscal ni jurídico. Más en el aviso legal
Mercado
Alemania✓
Bangladés✓
Brasil✓
Bulgaria✓
China✓
Corea del Sur✓
Egipto✓
España✓
Estados Unidos✓
Francia✓
India✓
Indonesia✓
Italia✓
Japón✓
Kenia✓
Malasia✓
México✓
Nigeria✓
Países Bajos✓
Pakistán✓
Polonia✓
Portugal✓
Reino Unido✓
Rusia✓
Suecia✓
Tailandia✓
Taiwán✓
Turquía✓
Ucrania✓
Vietnam✓
Zona euro✓
Resultado
Solo cálculo de ejemplo: cambia o confirma los valores
¿Cabe el modelo?
5.65 GB · 5.26 GiB
Memoria total necesaria
5.08 GB - 6.21 GB (± 10 %)
Intervalo de incertidumbre
3.50 GB · 3.26 GiB
Pesos
1.07 GB · 1.00 GiB
Caché KV
1.07 GB · 1.00 GiB
Búfer de ejecución (supuesto)
8.05 GB · 7.50 GiB
Memoria de GPU utilizable
Una GPU
Reparto entre GPU
12.88 GB · 12.00 GiB
RAM del sistema libre
0.00 GB
Descarga a la RAM del sistema
Solo cálculo de ejemplo: cambia o confirma los valores
Mayor contexto que cabe por completo (tokens)
Solo cálculo de ejemplo: cambia o confirma los valores
No se produce ningún tratamiento del contenido de tus archivos en servidores, así que no necesitas firmar un contrato de encargo con gottrix para trabajar con documentos confidenciales o de empresa.
Alojado en AlemaniaDistribución global
Servidores de origen en Hetzner (Alemania), con entrega mundial a través de una red de distribución de contenidos (CDN). El contenido de tus archivos nunca se transmite en el proceso: no sale de tu dispositivo.
Que un modelo de lenguaje funcione en local depende ante todo de la memoria. La calculadora divide la necesidad en partes separadas: los pesos (número de parámetros por bits por peso dividido entre 8), la caché KV del contexto que usas, un búfer de ejecución y una incertidumbre visible. Siete mil millones de parámetros a 4 bits dan 3,5 GB de pesos puros antes de añadir cualquier sobrecarga. Cada tamaño aparece dos veces: en GB (10⁹ bytes) y en GiB (2³⁰ bytes), porque las tarjetas gráficas y la RAM se cuentan en binario y los archivos de modelo suelen indicarse en decimal.
La caché KV crece de forma lineal con el contexto y sigue la arquitectura: dos (claves y valores) por capas por cabezas KV por dimensión de cabeza por tokens por bytes por elemento. Los modelos con grouped-query attention tienen menos cabezas KV que cabezas de consulta y necesitan menos caché. En los modelos mixture-of-experts cuenta para la memoria el total de parámetros, porque todos los expertos deben estar cargados; los parámetros activos por token solo determinan el cálculo. La tabla muestra el mismo modelo con otros niveles de cuantización, junto con el mayor contexto y la mayor cantidad de bits que caben por completo.
Varias tarjetas gráficas solo se suman si tu runtime reparte realmente las capas entre ellas; sin un reparto compatible, dos tarjetas de 8 GiB no son una de 16 GiB. Lo que no cabe en la memoria de la GPU puede descargarse a la RAM del sistema; el resultado indica esa parte, pero no dice nada sobre la velocidad. No hay perfiles de modelo integrados: los valores predefinidos son un ejemplo editable, no un modelo concreto. Introduce los datos de la ficha del modelo; todo se calcula en el navegador y no se guarda en ninguna parte.
Gratis y sin cuenta: calcula tantas veces como quieras; tus datos se quedan en tu dispositivo.
Ficha técnica
Ficha técnica
Formatos de entrada
Datos del formulario (sin archivo)
Procesamiento
Local en el navegador (JavaScript)
Subida de archivos
Ninguna
En 3 pasos
Introduce el tipo de memoria, la VRAM por GPU, el número y el reparto de GPU, además de la RAM y las reservas.
Introduce los datos de la ficha del modelo: parámetros, bits por peso, capas, cabezas KV, dimensión de cabeza y contexto.
Lee el resultado, el desglose en pesos, caché KV y búfer, la descarga y las alternativas de cuantización.
Límites: Que la memoria alcance no garantiza velocidad, compatibilidad del runtime ni de los controladores. El búfer de ejecución y las reservas son supuestos; los runtimes necesitan más o menos según la versión, el tamaño de lote y el backend. La fórmula KV cubre la atención habitual con GQA/MQA; las arquitecturas sliding-window, MLA o híbridas pueden necesitar mucha menos caché. No hay datos de modelos ni de hardware integrados.
Preguntas frecuentes
¿Cuánta memoria necesitan los pesos de un modelo?
Parámetros por bits por peso dividido entre 8. Siete mil millones de parámetros a 4 bits son 3,5 GB, unos 3,26 GiB, antes de sumar la caché KV y el búfer. Los formatos de cuantización con escalas quedan algo por encima de su número nominal de bits; en ese caso introduce los bits efectivos (tamaño del archivo en bytes por 8 dividido entre el número de parámetros).
¿Por qué la calculadora muestra GB y GiB?
Un GB son 10⁹ bytes y un GiB son 2³⁰ bytes, cerca de un 7 % más. Las tarjetas gráficas y la RAM se cuentan en binario aunque la caja diga GB; los archivos de modelo suelen indicarse en decimal. Ambos valores aparecen por separado para que nada se mezcle sin darte cuenta.
¿Dos tarjetas gráficas de 8 GB cuentan como una de 16 GB?
Solo si tu runtime reparte las capas entre ambas tarjetas. Sin un reparto compatible, el modelo tiene que caber en una tarjeta y la calculadora solo cuenta su memoria. Incluso con reparto, cada tarjeta necesita su propia reserva.
¿Cómo calcula la herramienta los modelos mixture-of-experts?
Para la memoria usa el total de parámetros, porque todos los expertos deben estar cargados. Los parámetros activos por token solo se muestran; influyen en el cálculo, no en el espacio necesario.
¿«Cabe» significa que el modelo irá rápido?
No. La calculadora solo comprueba la memoria. La rapidez con la que responde un modelo depende del ancho de banda de memoria, la potencia de cálculo, el runtime y la descarga. Una parte alojada en la RAM del sistema suele ralentizar mucho la salida.
¿Calculadora VRAM LLM es gratis y funciona sin cuenta?
Sí. Usarlo es gratis y no necesitas cuenta: puedes calcular tantas veces como quieras y tus datos se quedan en tu dispositivo.
Solo con tu consentimiento medimos el uso de forma anonimizada mediante cookies para mejorar gottrix. Tus archivos siempre permanecen en local, en tu dispositivo. Privacidad