Vérifiez si un modèle de langage local tient dans votre VRAM et RAM : poids, cache KV, tampon et déchargement séparés, en Go et Gio, en local, sans envoi.
i
Ce calculateur fournit une estimation indicative fondée sur un modèle et ne constitue pas un conseil financier, fiscal ou juridique. Plus dans la clause de non-responsabilité
Marché
Allemagne✓
Bangladesh✓
Brésil✓
Bulgarie✓
Chine✓
Corée du Sud✓
Égypte✓
Espagne✓
États-Unis✓
France✓
Inde✓
Indonésie✓
Italie✓
Japon✓
Kenya✓
Malaisie✓
Mexique✓
Nigéria✓
Pakistan✓
Pays-Bas✓
Pologne✓
Portugal✓
Royaume-Uni✓
Russie✓
Suède✓
Taïwan✓
Thaïlande✓
Turquie✓
Ukraine✓
Vietnam✓
Zone euro✓
Résultat
Calcul d'exemple uniquement : modifiez ou confirmez les valeurs
Le modèle tient-il ?
5,65 GB · 5,26 GiB
Mémoire totale nécessaire
5,08 GB - 6,21 GB (± 10 %)
Intervalle d'incertitude
3,50 GB · 3,26 GiB
Poids
1,07 GB · 1,00 GiB
Cache KV
1,07 GB · 1,00 GiB
Tampon d'exécution (hypothèse)
8,05 GB · 7,50 GiB
Mémoire GPU utilisable
Un GPU
Répartition sur les GPU
12,88 GB · 12,00 GiB
RAM système libre
0,00 GB
Déchargement vers la RAM
Calcul d'exemple uniquement : modifiez ou confirmez les valeurs
Plus grand contexte qui tient entièrement (tokens)
Calcul d'exemple uniquement : modifiez ou confirmez les valeurs
Vos contenus restent chez vousaucun accès par des tiers
Aucun traitement du contenu de vos fichiers n'a lieu sur un serveur. Vous n'avez besoin d'aucun contrat de sous-traitance avec gottrix pour vos documents confidentiels ou professionnels.
Hébergé en AllemagneDiffusion mondiale
Serveurs d'origine chez Hetzner en Allemagne, diffusion mondiale via un réseau de diffusion de contenu (CDN). Le contenu de vos fichiers n'est jamais transmis dans ce cadre - il ne quitte jamais votre appareil.
C'est d'abord la mémoire qui décide si un modèle de langage tourne en local. Le calculateur décompose le besoin en parties distinctes : les poids (nombre de paramètres multiplié par les bits par poids, divisé par 8), le cache KV pour le contexte utilisé, un tampon d'exécution et une incertitude visible. Sept milliards de paramètres en 4 bits donnent 3,5 Go de poids bruts avant tout surcoût. Chaque taille apparaît deux fois : en Go (10⁹ octets) et en Gio (2³⁰ octets), car les cartes graphiques et la RAM se comptent en binaire, alors que les fichiers de modèle sont souvent indiqués en décimal.
Le cache KV croît linéairement avec le contexte et suit l'architecture : deux (clés et valeurs) fois les couches, fois les têtes KV, fois la dimension de tête, fois les tokens, fois les octets par élément. Les modèles avec grouped-query attention ont moins de têtes KV que de têtes de requête et demandent d'autant moins de cache. Pour un modèle mixture-of-experts, c'est le nombre total de paramètres qui compte pour la mémoire, car tous les experts doivent être chargés ; les paramètres actifs par token ne déterminent que le calcul. Le tableau montre le même modèle à d'autres niveaux de quantification, avec le plus grand contexte et le plus grand nombre de bits qui tiennent entièrement.
Plusieurs cartes graphiques ne s'additionnent que si votre runtime répartit réellement les couches entre elles ; sans répartition prise en charge, deux cartes de 8 Gio ne font pas une carte de 16 Gio. Ce qui ne tient pas dans la mémoire du GPU peut être déchargé vers la RAM ; le résultat indique cette part, mais ne dit rien de la vitesse. Aucun profil de modèle n'est intégré : les valeurs préremplies sont un exemple modifiable, pas un modèle précis. Saisissez les valeurs de la fiche du modèle ; tout est calculé dans le navigateur et rien n'est enregistré.
Gratuit et sans compte : calculez aussi souvent que vous le souhaitez, vos saisies restent sur votre appareil.
Fiche technique
Fiche technique
Formats d'entrée
Données du formulaire (aucun fichier)
Traitement
En local dans le navigateur (JavaScript)
Téléversement de fichiers
Aucun
En 3 étapes
Saisissez le type de mémoire, la VRAM par GPU, le nombre et la répartition des GPU, ainsi que la RAM et les réserves.
Saisissez les valeurs de la fiche du modèle : paramètres, bits par poids, couches, têtes KV, dimension de tête et contexte.
Lisez le résultat, la répartition entre poids, cache KV et tampon, le déchargement et les alternatives de quantification.
Limites: Une mémoire suffisante ne garantit ni la vitesse, ni la prise en charge par le runtime, ni les pilotes. Le tampon d'exécution et les réserves sont des hypothèses ; selon la version, la taille de lot et le backend, les runtimes demandent plus ou moins. La formule KV couvre l'attention classique avec GQA/MQA ; les architectures sliding-window, MLA ou hybrides peuvent demander beaucoup moins de cache. Aucune donnée de modèle ou de matériel n'est intégrée.
Questions fréquentes
Combien de mémoire les poids d'un modèle demandent-ils ?
Paramètres multipliés par les bits par poids, divisés par 8. Sept milliards de paramètres en 4 bits font 3,5 Go, soit environ 3,26 Gio, avant d'ajouter le cache KV et le tampon. Les formats de quantification avec facteurs d'échelle dépassent un peu leur nombre nominal de bits ; saisissez alors les bits effectifs (taille du fichier en octets fois 8, divisée par le nombre de paramètres).
Pourquoi le calculateur affiche-t-il des Go et des Gio ?
Un Go vaut 10⁹ octets, un Gio 2³⁰ octets, soit environ 7 % de plus. Les cartes graphiques et la RAM se comptent en binaire même si la boîte indique Go ; les fichiers de modèle sont souvent indiqués en décimal. Les deux valeurs sont affichées séparément pour que rien ne se mélange sans qu'on le remarque.
Deux cartes graphiques de 8 Go valent-elles une carte de 16 Go ?
Seulement si votre runtime répartit les couches sur les deux cartes. Sans répartition prise en charge, le modèle doit tenir sur une seule carte et le calculateur ne compte que sa mémoire. Même avec répartition, chaque carte a besoin de sa propre réserve.
Comment le calculateur traite-t-il les modèles mixture-of-experts ?
Pour la mémoire, il prend le total des paramètres, car tous les experts doivent être chargés. Les paramètres actifs par token sont seulement affichés ; ils influent sur le calcul, pas sur la place nécessaire.
« Tient » veut-il dire que le modèle sera rapide ?
Non. Le calculateur ne vérifie que la mémoire. La vitesse de réponse dépend de la bande passante mémoire, de la puissance de calcul, du runtime et du déchargement. Une partie placée en RAM ralentit généralement nettement la génération.
L'outil « Calculateur VRAM LLM » est-il gratuit et sans compte ?
Oui. L'utilisation est gratuite et ne demande aucun compte : vous pouvez calculer aussi souvent que vous le souhaitez, et vos saisies restent sur votre appareil.
Uniquement avec votre accord, nous mesurons l'utilisation de manière anonymisée via des cookies afin d'améliorer gottrix. Vos fichiers restent toujours en local, sur votre appareil. Confidentialité