de

LLM-VRAM-Rechner

Prüfe, ob ein lokales Sprachmodell in VRAM und RAM passt: Gewichte, KV-Cache, Puffer und Auslagerung getrennt, in GB und GiB - lokal, ohne Upload.

Dieser Rechner liefert eine unverbindliche, modellgestützte Schätzung und ist keine Finanz-, Steuer- oder Rechtsberatung. Mehr im Haftungsausschluss
  • Ägypten
  • Bangladesch
  • Brasilien
  • Bulgarien
  • China
  • Deutschland
  • Euroraum
  • Frankreich
  • Großbritannien
  • Indien
  • Indonesien
  • Italien
  • Japan
  • Kenia
  • Malaysia
  • Mexiko
  • Niederlande
  • Nigeria
  • Pakistan
  • Polen
  • Portugal
  • Russland
  • Schweden
  • Spanien
  • Südkorea
  • Taiwan
  • Thailand
  • Türkei
  • Ukraine
  • USA
  • Vietnam
Speicherart
  • Grafikkarte mit eigenem VRAM
  • Gemeinsamer Speicher (Unified Memory)
  • Nur CPU, ohne GPU
Anzahl GPUs
VRAM je GPU (GiB)
Aufteilung auf mehrere GPUs
  • Keine: das Modell muss auf eine GPU passen
  • Runtime verteilt die Schichten auf die GPUs
Reserve je GPU für Anzeige und Treiber (GiB)
Arbeitsspeicher (GiB)
RAM-Reserve für System und Programme (GiB)
Betriebssystem (frei)
Runtime und Version (frei)
Modell und Revision (frei)
Parameter gesamt (Milliarden, bei MoE alle Experten)
Aktive Parameter je Token (Milliarden, nur MoE)
Bits je Gewicht (Quantisierung, effektiv)
Schichten mit KV-Cache
KV-Köpfe (bei GQA weniger als Abfrageköpfe)
Dimension je Kopf
Genutzter Kontext (Tokens)
Genauigkeit des KV-Cache
  • 16 bit (FP16/BF16)
  • 8 bit
  • 4 bit
Parallele Anfragen
Laufzeitpuffer (GiB, Annahme)
Unsicherheit (±)
Unveränderte Beispielwerte gelten für mein Modell und meinen Rechner

Ergebnis

Nur Beispielrechnung: Werte ändern oder bestätigen
Passt das Modell?
5,65 GB · 5,26 GiB
Speicherbedarf gesamt
5,08 GB - 6,21 GB (± 10 %)
Unsicherheitsintervall
3,50 GB · 3,26 GiB
Gewichte
1,07 GB · 1,00 GiB
KV-Cache
1,07 GB · 1,00 GiB
Laufzeitpuffer (Annahme)
8,05 GB · 7,50 GiB
Nutzbarer GPU-Speicher
Eine GPU
GPU-Aufteilung
12,88 GB · 12,00 GiB
Freier Arbeitsspeicher
0,00 GB
Auslagerung in den Arbeitsspeicher
Nur Beispielrechnung: Werte ändern oder bestätigen
Größter Kontext, der ganz passt (Tokens)
Nur Beispielrechnung: Werte ändern oder bestätigen
Höchste Bitzahl, die ganz passt
Keine Angabe (dichtes Modell)
Aktive Parameter je Token (MoE)
7 × 10⁹ × 4 bit ÷ 8
Rechenweg Gewichte
2 × 32 × 8 × 128 × 8.192 × 1 × 16 bit ÷ 8
Rechenweg KV-Cache
Editierbares Beispiel, kein bestimmtes Modell
Herkunft der Modellwerte
Editierbares Beispiel, nicht dein Rechner
Herkunft der Speicherwerte
Nicht angegeben
Modellprofil
Nicht angegeben
Betriebssystem
Nicht angegeben
Runtime
Nicht verfügbar
Vergleich mit öffentlichem Modellprofil

Speicherauslastung (Obergrenze, %)

Keine BewertungPasstKnappÜberschritten

Dasselbe Modell in anderen Quantisierungen

Dasselbe Modell in anderen Quantisierungen
Bits je GewichtGewichteGesamt (Obergrenze)Rest im Speicher
16 bit14,00 GB17,76 GB-9,71 GB
8 bit7,00 GB10,06 GB-2,01 GB
6 bit5,25 GB8,14 GB-0,08 GB
5 bit4,38 GB7,17 GB0,88 GB
4 bit3,50 GB6,21 GB1,84 GB
3 bit2,63 GB5,25 GB2,80 GB
2 bit1,75 GB4,29 GB3,77 GB
Wird meine Datei hochgeladen?

Nein. Die Umwandlung läuft komplett in Deinem Browser - Deine Datei verlässt Dein Gerät nie. So ist das nachprüfbar

Kein Upload100% lokal
Inhalte bleiben bei dirkein Zugriff durch Dritte
Hosting in DeutschlandWeltweite Auslieferung
Extern geprüftTLS A+ · Header A+

Ob ein Sprachmodell lokal läuft, entscheidet zuerst der Speicher. Der Rechner zerlegt den Bedarf in getrennte Teile: die Gewichte (Parameterzahl mal Bits je Gewicht geteilt durch 8), den KV-Cache für den genutzten Kontext, einen Laufzeitpuffer und eine sichtbare Unsicherheit. Sieben Milliarden Parameter mit 4 Bit ergeben 3,5 GB reine Gewichte, bevor irgendein Overhead dazukommt. Jede Größe steht doppelt da: in GB (10⁹ Byte) und in GiB (2³⁰ Byte), denn Grafikkarten und Arbeitsspeicher werden binär gezählt, Modelldateien oft dezimal.

Der KV-Cache wächst linear mit dem Kontext und folgt der Architektur: zweimal (Schlüssel und Werte) Schichten mal KV-Köpfe mal Kopfdimension mal Tokens mal Bytes je Element. Modelle mit Grouped-Query-Attention haben weniger KV-Köpfe als Abfrageköpfe und brauchen entsprechend weniger Cache. Bei Mixture-of-Experts zählt für den Speicher die Gesamtzahl der Parameter, weil alle Experten geladen sein müssen; die aktiven Parameter je Token bestimmen nur den Rechenaufwand. Die Tabelle zeigt dasselbe Modell in anderen Quantisierungsstufen, dazu kommen der größte Kontext und die höchste Bitzahl, die vollständig passen.

Mehrere Grafikkarten zählen nur zusammen, wenn deine Runtime die Schichten tatsächlich auf sie verteilt; ohne unterstützte Aufteilung sind zwei Karten mit je 8 GiB keine 16-GiB-Karte. Was nicht in den GPU-Speicher passt, kann in den Arbeitsspeicher ausgelagert werden; das Ergebnis nennt diesen Teil, sagt aber nichts über die Geschwindigkeit. Es sind keine Modellprofile hinterlegt: Die vorbelegten Werte sind ein editierbares Beispiel, kein bestimmtes Modell. Trage die Angaben aus der Modellkarte ein; alles wird im Browser gerechnet und nirgends gespeichert.

Kostenlos und ohne Konto - rechne so oft du willst, deine Eingaben bleiben auf deinem Gerät.

Technische Daten

Technische Daten
EingabeformateFormulareingaben (keine Datei)
VerarbeitungLokal im Browser (JavaScript)
Datei-UploadKeiner

In 3 Schritten

  1. Speicherart, VRAM je GPU, Anzahl und Aufteilung der GPUs sowie Arbeitsspeicher und Reserven eintragen.
  2. Modellwerte aus der Modellkarte eintragen: Parameter, Bits je Gewicht, Schichten, KV-Köpfe, Kopfdimension und Kontext.
  3. Ergebnis, Aufteilung in Gewichte, KV-Cache und Puffer, Auslagerung und die Quantisierungs-Alternativen ablesen.

Grenzen: Ein passender Speicherbedarf ist keine Zusage über Geschwindigkeit, Runtime-Unterstützung oder Treiber. Laufzeitpuffer und Reserven sind Annahmen; Runtimes brauchen je nach Version, Batchgröße und Backend mehr oder weniger. Die KV-Formel gilt für übliche Attention mit GQA/MQA; Sliding-Window-, MLA- oder Hybrid-Architekturen können deutlich weniger Cache brauchen. Es sind keine Modell- oder Hardwaredaten hinterlegt.

Häufige Fragen

Wie viel Speicher brauchen die Gewichte eines Modells?

Parameter mal Bits je Gewicht geteilt durch 8. Sieben Milliarden Parameter mit 4 Bit sind 3,5 GB oder rund 3,26 GiB, bevor KV-Cache und Puffer dazukommen. Quantisierungsformate mit Skalen liegen effektiv etwas über ihrer Nennbitzahl; trage dann die effektive Bitzahl ein (Dateigröße in Byte mal 8 geteilt durch die Parameterzahl).

Warum zeigt der Rechner GB und GiB?

Ein GB sind 10⁹ Byte, ein GiB sind 2³⁰ Byte, also etwa 7 Prozent mehr. Grafikkarten und Arbeitsspeicher werden binär gezählt, auch wenn auf der Packung GB steht; Modelldateien werden oft dezimal angegeben. Beide Werte stehen getrennt, damit nichts unbemerkt vermischt wird.

Zählen zwei Grafikkarten mit je 8 GB wie eine mit 16 GB?

Nur, wenn deine Runtime die Schichten auf beide Karten verteilt. Ohne unterstützte Aufteilung muss das Modell auf eine Karte passen, und der Rechner zählt nur deren Speicher. Auch mit Aufteilung braucht jede Karte ihre eigene Reserve.

Wie rechnet der Rechner Mixture-of-Experts-Modelle?

Für den Speicher mit den Gesamtparametern, weil alle Experten geladen sein müssen. Die aktiven Parameter je Token werden nur angezeigt; sie beeinflussen die Rechenarbeit, nicht den Platzbedarf.

Heißt „passt“, dass das Modell schnell läuft?

Nein. Der Rechner prüft nur den Speicher. Wie schnell ein Modell antwortet, hängt von Speicherbandbreite, Rechenleistung, Runtime und Auslagerung ab. Ein Teil im Arbeitsspeicher macht die Ausgabe meist deutlich langsamer.

LLM-VRAM-Rechner: kostenlos und ohne Konto?

Ja. Die Nutzung ist kostenlos und braucht kein Konto: Du kannst so oft rechnen, wie du willst, und deine Eingaben bleiben auf deinem Gerät.

Passende Tools

KI-Tokenrechner · Datengrößen umrechnen · Energiekostenrechner · KI-Modelle vergleichen · PC-Upgrade-Planer · RAM und SSD: Preis pro GB