Green Zone verwenden

Welche Angaben Sie benötigen

Green Zone berechnet eine mögliche Konfiguration aus Ihren Eingaben. Die Website untersucht Ihren Computer nicht, erkennt keine Grafikkarte und misst keinen freien Speicher. Sie können vorhandene oder geplante Hardware vergleichen.

Tragen Sie zwei getrennte Kapazitäten ein. Video Random Access Memory (VRAM) ist der Speicher des Grafikprozessors, Graphics Processing Unit (GPU). Random Access Memory (RAM) ist der Arbeitsspeicher für Betriebssystem, Programme und bei entsprechender Freigabe Teile des Modells. Beispiel: 8 GiB VRAM und 32 GiB RAM. Die Felder verwenden GiB, nicht die identische Einheit GB.

Das RAM-Feld bleibt sichtbar. Aktivieren Sie die Option, einen Teil des Modells im RAM auszuführen, um diesen Speicher einzubeziehen. Danach können Sie Systemreserve und geschätzten GPU-Anteil einstellen. Lassen Sie anderen Programmen Platz. Ohne Freigabe wird vollständige GPU-Platzierung geplant.

Addieren Sie die Kapazitäten nicht zu einer Grafikkarte: 8 und 32 ergeben keine 40 GiB VRAM. Beide Speicher werden getrennt geprüft. Bei gemeinsamem Speicher darf dieselbe Kapazität nicht doppelt eingetragen werden. Unsere angenäherte Aufteilung ist kein speziell validiertes Modell für solche Rechner.

Der erste Besuch

Überlegen Sie zunächst, ob Sie Gespräche führen, programmieren, Dokumente untersuchen oder einem KI-Agenten Aufgaben geben möchten. Die Aufgabenschaltflächen liefern eine erste Verteilung; sie installieren nichts und beweisen keine Eignung jedes Modells.

Steht Ihr Modell fest, beginnen Sie mit der Speicherprüfung. Kennen Sie noch keine Modellnamen, nutzen Sie den Katalog im zweiten Kapitel. Ein bereits ausgewähltes Modell ist ein Startwert der Oberfläche, kein Fund auf Ihrem Computer.

Für den Anfang genügen Modell, Datei, Speicher und Aufgabenart. Drücken Sie dann den Abgleichknopf. Erweiterte Einstellungen können warten. Prüfen Sie zwei Ergebnisse: ausreichenden Speicher und genügend Platz für Materialien und Antwort.

01 · Prüfen, ob das gewählte Modell passt

Wann dieses Werkzeug hilft

Sie haben ein Modell heruntergeladen oder möchten eines vorher prüfen. Die Schätzung umfasst das Modell und seinen Arbeitsbedarf.

So beginnen Sie

Wählen Sie Modell und Datei unter Gewichtsquantisierung. Das sind Varianten desselben Modells mit unterschiedlicher Zahlenspeicherung und Dateigröße. Geben Sie VRAM und RAM an, erlauben Sie RAM bei Bedarf, wählen Sie die Aufgabe und gleichen Sie die Konfiguration ab.

Das Ergebnis lesen

Lesen Sie zuerst Speicherstatus und Kontextbudget. Kontext ist der Arbeitsraum für empfangenen und erzeugten Text einer Anfrage. Eine kleine Datei bedeutet keinen unbegrenzten Dokumentplatz: Gewichte und Gesprächsverarbeitung brauchen jeweils Speicher.

Das Diagramm zeigt die VRAM-Verteilung. Liegt ein Teil im RAM, erscheint dessen eigene Schätzung. Die Kurve zeigt den VRAM-Bedarf bei wachsendem Kontext, nicht die Geschwindigkeit.

Die nächste Entscheidung

Die grüne Zone bedeutet, dass die Schätzung unter den Annahmen passt. Prüfen Sie auch das Textbudget. Die geschätzte Kontextgrenze ist kein Pflichtziel. Versuchen Sie bei Platzmangel weniger Text, eine kleinere Datei oder erlaubte RAM-Nutzung und vergleichen Sie erneut.

02 · Ein Modell ohne Vorkenntnis der Namen finden

Zuerst nach Speicher eingrenzen

Sie müssen keine Namen kennen. Geben Sie VRAM und gewünschten Kontext oben im Katalog ein. Für einen ersten Versuch eignen sich beispielsweise 4.096 Token; später passen Sie das Fenster Ihren Dokumenten an. Das ist kein vorgeschriebenes Minimum. Für RAM-Nutzung konfigurieren und aktivieren Sie diese zuerst im Speicherrechner; die Einstellungen werden übernommen.

Den Katalog durchsehen

Lassen Sie das Suchfeld leer und Familien sowie Präzisionsklassen uneingeschränkt. Aktivieren Sie den Filter für rechnerisch passende Optionen und sortieren Sie nach Dateigröße. So beginnen Sie mit weniger anspruchsvollen Varianten. Die Namenssuche hilft später bei einem bekannten Namen wie Qwen, ist aber keine Voraussetzung.

Öffnen Sie eine Modellseite und prüfen Sie Dateien, Parameterzahl, Kontextgrenze und Herstellerlinks. Größe allein zeigt keine Aufgabeneignung. Prüfen Sie Code-Unterstützung, Anweisungsbefolgung und Sprache in der Herstellerbeschreibung. Der Katalog untersucht nicht die Antwortqualität jedes Modells.

Mit der eigenen Aufgabe fortfahren

Übernehmen Sie eine Datei in den Speicherrechner. Bei leerer Liste entfernen Sie Filter, verlangen weniger Kontext oder prüfen das Budget. Kein Treffer unter diesen Bedingungen bedeutet nicht, dass Ihr Computer grundsätzlich kein lokales Modell ausführen kann.

03 · Eine Konfiguration für Ihre Aufgabe finden

Wann die Auswahl hilft

Modell und ungefährer Platzbedarf stehen fest. Die automatische Auswahl vergleicht verfügbare Kombinationen dieses Modells. Sie wählt kein anderes Modell; dafür gibt es den Katalog.

So starten Sie

Füllen Sie zunächst Material- und Antwortbudget aus. Wählen Sie anschließend Ausgewogenheit, mehr Kontext oder höhere Gewichtspräzision als Ziel. Erlauben Sie RAM bei Bedarf. Cachepräzision und Mindestpräzision können zunächst unverändert bleiben, bis Sie die Erläuterungen gelesen haben.

Unterschied zum Abgleichknopf

Die automatische Auswahl erhält die eingegebenen Budgetanteile und sucht eine passende Konfiguration. Der Abgleichknopf kann ungesperrte Anteile neu verteilen. Aktivieren Sie die Kontextsperre, wenn das gesamte gewünschte Fenster erhalten bleiben muss. Andernfalls kann ein kleineres, für das Budget ausreichendes Fenster vorgeschlagen werden.

Vergleichen Sie Datei, Textkapazität, Speicherbedarf und RAM-Nutzung. Übernehmen Sie einen Vorschlag und prüfen Sie ihn im Hauptrechner. Höhere Präzision ist keine gemessene Qualitätssteigerung. Gibt es keinen Vorschlag, überdenken Sie einzelne Anforderungen statt alle Zahlen zu erhöhen.

04 · Platz für Dokumente und Antworten verteilen

Was gezählt wird

Planen Sie, wie viel Text das Modell lesen und schreiben soll. Ein Token ist ein Textbaustein, keine feste Anzahl Wörter. Der Link erklärt das ausführlich.

Budget eintragen

Beginnen Sie mit der Aufgabe und tatsächlich übergebenen Dokumenten. Ergänzen Sie relevante Anweisungen und Verlauf, eine Antwortreserve sowie Platz für weitere Agentenschritte. Regler planen; sie laden keine Dateien hoch und ändern kein laufendes Modell.

Der zugewiesene Kontext ist die Gesamtkapazität. Die Tokensumme enthält alle Anteile einschließlich zukünftiger Antwort. Verbleibender Platz ist noch nicht verteilt. Bei 8.192 Kapazität und 7.206 zugewiesenen Token bleiben 986. Die Antwortreserve ist bereits enthalten und nicht auf diese 986 begrenzt.

Einen Regler verändern

Der gekoppelte Abgleich nutzt zuerst freien Platz, vergrößert bei ausreichendem Speicher den Kontext und reduziert dann andere ungesperrte Anteile. Beobachten Sie die Summen. Sperren Sie unverzichtbare Anteile. Ein ausgeglichenes Textbudget muss weiterhin die Speicherprüfung bestehen.

05 · Dateien desselben Modells vergleichen

Wozu vergleichen?

Vergleichen Sie kleinere Dateien und höhere Zahlenpräzision bei gleichen Speicher- und Kontexteinstellungen. Dadurch wird die Wirkung eines einzelnen Faktors sichtbar.

Q4, Q5, Q6 und Q8 sind Klassen mit ungefähr 4, 5, 6 und 8 Bit. FP16 und BF16 sind verschiedene 16-Bit-Formate. Auswendiglernen ist nicht nötig: betrachten Sie Dateigröße und gesamten Speicherbedarf. Eine kleinere Datei kann Dokumentplatz schaffen und die Qualität beeinflussen.

Eine Variante auswählen

Vergleichen Sie Speicherbedarf und geschätzte Kontextgrenze. Übernehmen Sie eine Datei mit dem Pfeil und kehren Sie zur Aufgabe zurück. Heften Sie eine Konfiguration zum späteren Vergleich an. Die Tabelle misst weder Tempo noch Antwortqualität. Gewichtsquantisierung und Cachepräzision betreffen unterschiedliche Daten.

06 · Begriffe und Ergebnisse verstehen

Diese Karte öffnet Erklärungen, keinen weiteren Rechner. Beginnen Sie mit Token, Gewichten und Kontext. Verlinkte Begriffe führen ins Glossar; von dort können Sie zur vorherigen Seite zurückkehren.

Die Geschichten zeigen menschliche Beispiele für lokale Modelle und Agenten. Sie lassen sich unabhängig von den Rechnern lesen. Methodik und Daten erläutert Quellen und Annahmen für Interessierte. Für den Einstieg müssen Sie keine Formeln lernen.

Verschiedene Modelle oder Computer vergleichen

Wähle oben auf dieser Seite ein Modell und seine Quantisierung und klicke auf Zum Vergleich hinzufügen. Du kannst bis zu vier Varianten hinzufügen. Auch jede gespeicherte Karte hat eigene Modell- und Quantisierungsmenüs. So ersetzt du eine Variante direkt hier. Die Dateien gehören immer zum Modell dieser Karte.

Öffne Speichereinstellungen dieser Variante, um VRAM, RAM oder die Platzierung zu ändern. Änderungen werden automatisch gespeichert und aktualisieren das Diagramm; die anderen Karten und der Hauptrechner bleiben unverändert. Im Speicherrechner öffnen ist eine separate Schaltfläche für den vollständigen Rechner.

Das gemeinsame Diagramm lesen

Der Regler legt für alle Varianten dasselbe Kontextfenster fest. Jede Farbe gehört zu einer Variante: Die durchgezogene Linie zeigt den geschätzten Bedarf einschließlich Reserven, die gestrichelte Linie die eingegebene Kapazität. Liegt die durchgezogene Linie darüber, braucht diese Variante bei diesem Kontext mehr Speicher. Jede Kurve endet am Kontextlimit ihres Modells. Die Tabelle zeigt vollständige Zahlen ohne K-Abkürzung.

Grafikspeicher und Arbeitsspeicher

Über dem Diagramm wählst du Grafikspeicher (VRAM) oder Arbeitsspeicher (RAM). RAM wird für Varianten angezeigt, bei denen du die Auslagerung eines Modellteils erlaubt hast. Die beiden Kapazitäten werden nicht addiert. Andere Einstellungen wie Cache-Präzision und gleichzeitige Anfragen bleiben je Kopie erhalten. Verglichen wird der Speicherbedarf, nicht Geschwindigkeit oder Antwortqualität. Öffne eine Kopie im Rechner, um sie zu ändern, oder entferne sie, um Platz zu schaffen.

Was der Konfigurationsabgleich verändert

Der Knopf erstellt einen Anfangsplan. Er versucht zuerst die aktuelle Datei und bei Bedarf kleinere Varianten. Kontext, erlaubtes Cacheformat, Arbeitsspielraum, Reserven und Tokenanteile können sich ändern. Das betrifft die Website, nicht Ihr installiertes Modell.

Ohne RAM-Freigabe wird vollständige GPU-Platzierung betrachtet, mit Freigabe auch eine Aufteilung. Prüfen Sie anschließend Datei, Kontext, GPU-Anteil sowie Speicher- und Budgetergebnis.

Schlösser schützen Anteile vor automatischer Verringerung. Passen sie nicht, reduzieren Sie manuell nur Vertretbares oder schaffen Sie mehr Platz. Erneutes Drücken kann ohne Änderung bleiben, wenn der Plan bereits passt.

Wenn du im Speicherrechner ein anderes Modell auswählst oder es aus dem Katalog öffnest, erstellt Green Zone eine neue Beispielaufgabe. Deine VRAM- und RAM-Angaben bleiben erhalten; Tokenwerte und Sperren werden ersetzt, und es wird zunächst eine Anfrage gleichzeitig geplant. Chat beginnt mit bis zu 8.192 Tokens, Programmierung und Agenten mit bis zu 16.384, Recherche mit bis zu 32.768. Bei weniger Speicher oder einer niedrigeren Modellgrenze wird der Kontext kleiner. Speichere oder merke die vorherige Konfiguration vor, um später zurückzukehren. Vergleichskarten behalten ihre eigenen Einstellungen.

Findet der Ausgleich keinen Plan, stehen die nächsten Schritte direkt im Speicherergebnis. Dort wird die Kontextgrenze des Modells von fehlendem VRAM oder RAM unterschieden. Jeder Speichervorschlag nennt Datei und Kontext. Eine Variante legt das gesamte Modell auf die GPU, eine andere nutzt deinen VRAM zusammen mit RAM. Die RAM-Schätzung enthält die Betriebssystemreserve. Du kannst die vorgeschlagenen Kapazitäten ausdrücklich im Rechner ausprobieren. Dein Computer wird dabei weder gemessen noch umgestellt. Mehr Kapazität schafft Spielraum, sagt aber nichts über Tempo oder Laufzeitunterstützung aus.

Manueller Ausgleich und die Aufgaben-Schaltflächen erhalten gesperrte Tokenwerte. Gehören diese zu einer alten Aufgabe, ersetzt „Neue Beispielaufgabe starten“ die Werte und Sperren bei unveränderten Hardwareangaben. Ein gesperrter Kontext wird nur mit deiner Zustimmung gekürzt.

Was gehört in welches Feld?

Systemanweisungen legen Regeln und Rolle fest. Werkzeugbeschreibungen nennen Aktionen und Argumente, nicht den gesamten Programmcode.

Geladene Skill-Anweisungen sind vom Modell gelesene Arbeitsanleitungen. Ein installierter Ordner verbraucht nicht automatisch Token; zählen Sie tatsächlich eingebundenes Material.

Dateien und Dokumente sind übergebener Text, Auszüge oder Code. Verlauf umfasst jetzt einbezogene frühere Nachrichten. Aktuelle Aufgabe ist die neue Bitte. Der Chat-Format-Spielraum deckt zusätzliche Nachrichtenmarkierungen ab.

Die Antwortreserve enthält zukünftigen Text einschließlich erzeugter Überlegungen. Weitere Schritte erlauben neue Werkzeugergebnisse. Zählen Sie nichts doppelt. Ein Unteragent kann eigenen Kontext haben und nur eine Zusammenfassung zurückgeben.

Schätzen ohne genaue Zahlen

Beginnen Sie mit einer kleinen Arbeitsprobe. Eine kurze Anweisung könnte beispielhaft 300–800 Token brauchen, ein ausführlicher Ablauf 1.000–3.000. Das sind keine festen Anforderungen. Drei geladene Anweisungen mit je 700 benötigen 2.100 vor Dokumenten und Antwort.

Reservieren Sie versuchsweise 300–800 für eine kurze Antwort oder 1.500–4.000 für Erklärung oder Code. Überlegungen und Werkzeugausgaben können mehr benötigen. Seitenzahlen sind unzuverlässig: Sprache, Tabellen, Code und Tokenizer beeinflussen die Anzahl.

Die Bereiche helfen beim Einstieg, nicht beim Maximieren aller Felder. Mehr Budget garantiert keine bessere Antwort. Ersetzen Sie Schätzungen nach und nach durch Zählungen Ihres Materials.

Beispiele vollständiger Budgets

Die Tabelle zeigt vier Übungsaufgaben mit Anteilen, Summe, Fenster und freiem Platz. Ein einfacher Chat benötigt möglicherweise keine Werkzeuge oder Skills. Recherche braucht eher Dokumentplatz, ein Agent eher Platz für weitere Aktionen.

Diese Token-Budgets sind keine Empfehlungen für jede Grafikkarte. Wählen Sie ein ähnliches Beispiel, ersetzen Sie Werte und prüfen Sie den Speicher. Aufgabenknöpfe können wegen Ihrer Einstellungen und Sperren andere Zahlen erzeugen.

Material zählen und nächste Schritte abschätzen

Öffnen Sie im Kontextwerkzeug die Textzählung. Fügen Sie Text ein oder wählen Sie eine unterstützte Datei, ordnen Sie eine Kategorie zu und prüfen Sie das Ergebnis. Bei PDF zuerst Text extrahieren: Megabyte sind keine Tokenzahl.

Beachten Sie die Ergebniskennzeichnung. Ohne passenden Tokenizer wird geschätzt. Ein eingerichteter genauer Zähldienst kann den Text erhalten; lokal ist das der Dienst der Website auf Ihrem Computer. Einzeltextzählung enthält nicht automatisch die komplette Anfrageformatierung.

Der Schrittsimulator schätzt Fortsetzungen: vier Schritte mit 500 ergeben 2.000. Er nimmt das Maximum aus diesem Wert und der vorhandenen Reserve, ohne doppelt zu zählen. Er führt keinen Agenten aus und sagt keine wirklichen Aktionen voraus.

Zwei Bedeutungen von „hybrid“

Hybride Architektur beschreibt das Modellinnere: Schichten können Informationen unterschiedlich speichern. Das verlangt keinen gemeinsamen CPU/GPU-Betrieb und bedeutet keinen Defekt.

Aufteilung zwischen GPU und RAM beschreibt den Speicherort des Modells. Sie ist auch bei anderen Architekturen möglich. RAM schafft Platz; CPU-Verarbeitung kann langsamer sein. Wir schätzen Kapazität, nicht Geschwindigkeit.

Katalogmodelle haben Architekturprofile. Die Schätzungen gelten für Text, nicht Bild- oder Audioverarbeitung. Beginnen Sie normal mit Auswahl und Budget; öffnen Sie bei Bedarf die Erläuterung zur Berechnung.

Wann zusätzliche Einstellungen sinnvoll sind

Das Ausführungsprogramm, etwa Ollama oder llama.cpp, lädt und betreibt das Modell. Green Zone plant dafür. Wählen Sie Ihr Programm, falls bekannt; die Website installiert nichts und prüft keine Treiber.

Der Schlüssel-Wert-Zwischenspeicher, Key-Value Cache (KV cache), hält Informationen über verarbeiteten Text. Arbeitspuffer unterstützen Berechnungen. Andere Programme und die Sicherheitsreserve brauchen zusätzlichen Platz. Deshalb darf die Datei nicht einfach den ganzen Speicher belegen.

Parallele Anfragen sind gleichzeitige Gespräche. Beginnen Sie mit einer; aufeinanderfolgende Agentenaktionen sind nicht gleichzeitig. Fenster-Cache, Zustandskopien und Flash Attention sollten Sie erst mit Kenntnis Ihrer tatsächlichen Programmeinstellungen ändern.

Eine Konfiguration aufbewahren

Einstellungen werden zwischen Werkzeugen übernommen und im Browser gespeichert. Anheften hilft beim Vergleich; Speichern und Export bewahren Konfiguration oder Bericht. Import stellt Werte aus einer Datei wieder her.

Der Bericht enthält Annahmen, keine Computermessungen. Sichern Sie Wichtiges vor dem Löschen von Browserdaten. Übertragen Sie den Plan zum Ausführen in Ihr Programm und beginnen Sie mit einer kleinen Aufgabe.

Wenn das Ergebnis nicht zur Aufgabe passt

Datei passt, vollständige Schätzung nicht? Reduzieren Sie Kontext oder Dateigröße: Arbeit braucht ebenfalls Platz. RAM vorhanden, aber ungenutzt? Prüfen Sie Freigabe, Kapazität und Systemreserve.

Katalog leer? Entfernen Sie Filter und prüfen Sie das übernommene Budget. Abgleich erfolglos? Prüfen Sie Schlösser und Kontextsperre. Text passt, Speicher nicht? Kehren Sie zum ersten Rechner zurück: Das sind getrennte Prüfungen.

Ändern Sie jeweils eine Bedingung und vergleichen Sie. Die Website verändert keine Modelldateien oder Einstellungen auf Ihrem Computer.