Как пользоваться Green Zone

Какие данные нужно ввести

Green Zone рассчитывает возможную конфигурацию по значениям, которые вы вводите. Сайт не сканирует компьютер, не узнаёт модель видеокарты и не измеряет свободную память. Здесь можно проверить и свой компьютер, и оборудование, которое вы только рассматриваете для покупки.

Начните с двух отдельных величин. Видеопамять — Video Random Access Memory (VRAM) находится на графическом процессоре — Graphics Processing Unit (GPU). Системная память — Random Access Memory (RAM) используется операционной системой, программами и, при соответствующей настройке, частью модели. Впишите общий объём каждой памяти в своё поле. Например: 8 GiB VRAM и 32 GiB RAM. Единицы GiB и GB немного отличаются; в наших полях указаны GiB.

Поле RAM видно постоянно. Чтобы разрешить калькулятору использовать её для модели, включите «Разрешить размещать часть модели в RAM». Появятся резерв для системы и предполагаемая доля весов на GPU. Оставьте системе и остальным программам место: весь объём RAM не свободен для модели. Если переключатель выключен, планируется размещение модели целиком на GPU.

Не складывайте VRAM и RAM в одно число: 8 и 32 не означают видеокарту с 40 GiB. Это разные виды памяти, и калькулятор проверяет их отдельно. У компьютеров с объединённой памятью один общий объём нельзя учитывать дважды. Наше приближённое разделение GPU/RAM не является отдельной проверенной схемой для таких компьютеров.

С чего начать, если вы здесь впервые

Сначала решите, что вы хотите делать: переписываться с помощником, работать с кодом, разбирать документы или поручать действия ИИ-агенту. Выбор типа работы задаёт начальное распределение места. Он не устанавливает программу и не доказывает, что любая выбранная модель хорошо справится с вашей задачей.

Если модель уже есть, переходите к первому инструменту — проверке размещения. Если название пока неизвестно, начните со второй главы — каталога. В калькуляторе может быть заранее выбрана модель: это отправная точка интерфейса, а не автоматически найденная модель на вашем компьютере.

Для первого знакомства достаточно выбрать модель и файл, ввести память, выбрать тип работы и нажать балансировку. Не нужно сразу разбираться во всех расширенных настройках. После этого проверьте два результата: хватит ли памяти и хватит ли места для материалов и ответа. Ниже эти действия разобраны отдельно для каждого инструмента.

01 · Проверить, поместится ли выбранная модель

Когда открыть этот калькулятор

Вы уже скачали модель или хотите проверить конкретный вариант перед скачиванием. Этот инструмент оценивает, хватит ли указанной памяти не только для самой модели, но и для работы с ней.

Что сделать

Выберите модель в списке. Затем выберите её файл в поле квантования весов: это варианты одной модели с разным способом хранения чисел и разным размером. Введите VRAM и RAM, при необходимости разрешите использование RAM. Выберите тип работы и нажмите «Сбалансировать конфигурацию».

Что смотреть в результате

Сначала прочитайте карточку размещения в памяти и карточку бюджета контекста. Контекст — рабочее место для текста, который модель получает и создаёт в одном запросе. Небольшой файл модели не означает, что к нему можно добавить сколько угодно документов. Веса модели занимают память сами, а обработка разговора требует дополнительного места.

Диаграмма показывает, на что распределена видеопамять. Если часть модели размещена в RAM, появляется отдельная оценка системной памяти. График ниже позволяет увидеть, как меняется потребность в видеопамяти при увеличении контекста. Его не нужно читать как график скорости.

Как принять решение

Зелёная зона означает, что оценка укладывается в выбранные условия. Отдельно проверьте, что бюджет текста тоже сбалансирован. «Расчётный предел контекста» — возможная граница в этой оценке, а не цель, которую обязательно нужно достигнуть. Если места мало, попробуйте меньший объём текста, более компактный файл или разрешённое использование RAM. Затем пересчитайте и сравните результат.

02 · Найти модель, если вы ещё не знаете названий

Сначала ограничьте выбор памятью

Знать названия моделей заранее не нужно. Введите VRAM и желаемый контекст вверху каталога. Для первого знакомства можно проверить окно 4 096 токенов, а затем увеличить его под собственные документы. Это учебная отправная точка, не обязательный минимум. Если хотите учитывать RAM, сначала задайте её и разрешите использование в калькуляторе памяти: настройки переходят между инструментами.

Как пользоваться списком

Оставьте поле поиска пустым, семейства и точности — без ограничений. Включите фильтр вариантов, которые помещаются по расчёту, и отсортируйте по размеру файлов. Так легче начать с менее требовательных вариантов. Поиск по названию нужен позже, если вы уже встретили конкретное имя, например Qwen; выбирать семейство для первого поиска необязательно.

Откройте карточку кандидата. Посмотрите размер доступных файлов, число параметров, предел контекста модели и ссылки на описание производителя. Размер помогает оценить требования, но не заменяет проверку назначения модели. Для программирования ищите описание поддержки кода, для общения — следования инструкциям и нужного языка. Эти возможности нужно уточнять по карточке производителя: каталог не проводит экзамен качества каждой модели.

Как продолжить

Выберите файл и перенесите его в калькулятор памяти. Проверьте уже свою задачу, а не только строку каталога. Если список пуст, снимите ограничения семейства и точности, уменьшите запрашиваемый контекст или пересмотрите бюджет. Отсутствие результата означает, что выбранные условия не прошли наш подбор; это не доказательство, что компьютер вообще не способен запускать локальные модели.

03 · Подобрать конфигурацию под вашу задачу

Когда полезен автоподбор

Модель уже выбрана, и вы примерно знаете, сколько места нужно для работы. Вместо ручного перебора её файлов автоподбор сравнивает доступные сочетания настроек этой модели. Другую модель он за вас не выбирает — для этого служит каталог.

Как начать

Сначала заполните бюджет материалов и ответа в инструменте контекста. Затем откройте автоподбор и выберите приоритет: сбалансированный вариант, больше контекста или более высокая точность хранения весов. При необходимости разрешите использование RAM. Настройки точности кэша и минимальной точности весов можно оставить текущими, пока вы не познакомитесь с их объяснениями.

Чем он отличается от балансировки

Автоподбор сохраняет заданные части бюджета и ищет вариант, в котором они помещаются. Кнопка балансировки может перераспределять незаблокированные части. Если важно сохранить всё запрошенное окно, включите фиксацию контекста; иначе автоподбор может предложить меньшее окно, но достаточное для введённого бюджета.

Сравните карточки: какой файл выбран, сколько места для текста, сколько памяти требуется и используется ли RAM. Нажмите «Применить» у подходящего варианта и проверьте его в основном калькуляторе. «Более высокая точность» здесь не означает измеренное улучшение качества ответа. Если вариантов нет, пересмотрите конкретные требования, а не увеличивайте все числа одновременно.

04 · Распределить место для разговора и документов

Что здесь считается

Этот инструмент помогает решить, сколько текста модель должна прочитать и сколько ещё написать. Единица измерения — токен, небольшой фрагмент текста. Токены не равны словам по постоянному коэффициенту. Если это новое понятие, нажмите на ссылку: в глоссарии есть подробное объяснение с примерами.

Как заполнить бюджет

Начните с текущего задания и документов, которые действительно передадите модели. Добавьте нужную историю разговора и инструкции. Затем оставьте резерв для ответа и, для агента, место для следующих шагов. Ползунки задают план: они не загружают файлы и не меняют работающую у вас модель.

Выбранный контекст — общая вместимость. «Всего токенов» — сумма распределённых частей, включая будущий ответ. Остаток — пока не распределённое место. Например, при окне 8 192 и суммарном бюджете 7 206 остаётся 986 токенов. Резерв ответа уже входит в сумму: эти 986 не являются всей допустимой длиной ответа.

Что происходит при изменении ползунка

Связанная балансировка сначала использует свободное место, затем при возможности увеличивает контекст и после этого уменьшает другие незаблокированные части. Поэтому смотрите не только на изменённое поле, но и на итоговую сумму. Закройте замок у того, что нельзя автоматически уменьшать. Даже сбалансированный текстовый бюджет нужно проверить по памяти в первом калькуляторе.

05 · Сравнить файлы одной модели

Зачем нужно сравнение

Вы выбираете между более компактным файлом и вариантом с более высокой точностью чисел. Здесь видны варианты одной выбранной модели при одинаковых настройках памяти и контекста. Это позволяет менять один фактор и видеть последствия.

Q4, Q5, Q6 и Q8 обозначают классы квантования примерно на 4, 5, 6 и 8 бит. FP16 и BF16 — два разных 16-битных формата. Не нужно запоминать обозначения перед первым расчётом: смотрите на фактический размер файла и общую оценку памяти. Меньший файл часто оставляет больше места для документов, но может изменить качество работы модели.

Как выбрать

Сравните расход памяти и расчётный предел контекста. Примените вариант кнопкой со стрелкой и вернитесь к своей задаче. При необходимости закрепите конфигурацию для последующего сравнения. Таблица не измеряет скорость или точность ответов: подходящий по памяти вариант ещё нужно попробовать на собственном задании. Квантование весов и точность кэша — отдельные настройки, они сжимают разные данные.

06 · Понять термины и результаты

Эта карточка открывает объяснения, а не новый расчёт. Начните с токенов, весов и контекста: эти три понятия связывают размер модели с объёмом вашей работы. Незнакомые термины в этом руководстве выделены ссылками. По ним открывается глоссарий; оттуда можно вернуться к прежней странице.

Истории показывают идеи на человеческих примерах: зачем человеку локальная модель и как агент может работать с инструментами. Их можно читать независимо от калькуляторов. Раздел «Методика и данные» предназначен для тех, кто хочет проверить источники и допущения расчётов. Вам не нужно изучать формулы, чтобы сделать первый подбор.

Сравнить разные модели или компьютеры

Выберите модель и квантование в списках наверху этой страницы, затем нажмите «Добавить в сравнение». Можно добавить до четырёх вариантов. В каждой сохранённой карточке тоже есть списки моделей и квантований: любой вариант можно заменить, оставаясь на странице сравнения. Список файлов всегда относится к модели, выбранной в этой карточке.

Откройте «Память для этого варианта», чтобы изменить VRAM, RAM или размещение модели. Изменения сохраняются автоматически и обновляют общий график. Другие карточки и основной калькулятор остаются без изменений. Для перехода в полный калькулятор есть отдельная кнопка «Открыть в калькуляторе памяти».

Как читать общий график

Ползунок задаёт одинаковое окно контекста для всех вариантов. У каждого свой цвет: сплошная линия показывает расчётный расход памяти с резервами, а пунктир — указанный вами объём. Если сплошная линия выше пунктира, при таком контексте этому варианту нужно больше памяти. Каждая линия заканчивается на пределе контекста своей модели. В таблице под графиком числа показаны полностью, без сокращения K.

Видеопамять и оперативная память

Над графиком можно выбрать видеопамять (VRAM) или оперативную память (RAM). RAM появляется для вариантов, в которых вы разрешили разместить там часть модели; эти два объёма не складываются. Остальные настройки каждой копии, включая точность кэша и число одновременных запросов, остаются сохранёнными. Здесь сравнивается расход памяти, а не скорость и качество ответов. Любой вариант можно открыть в калькуляторе для изменения или убрать из сравнения, чтобы добавить другой.

Что меняет кнопка «Сбалансировать конфигурацию»

Кнопка помогает собрать начальный план для выбранного типа работы. Она сначала пробует текущий файл модели и при необходимости более компактные доступные варианты. Может изменить окно контекста, допустимый формат кэша, рабочие резервы и распределение токенов. Это автоматическая настройка внутри сайта; ваша установленная модель от нажатия не перенастраивается.

Если использование RAM выключено, подбор рассматривает размещение целиком на GPU. Если включено, может выбрать распределение между GPU и RAM. После нажатия посмотрите на выбранный файл, контекст, долю на GPU и оба результата: память и текстовый бюджет.

Замки защищают выбранные части бюджета от автоматического уменьшения. Если защищённые части не помещаются, проверьте их значения: уменьшите вручную только то, что допустимо, либо увеличьте доступное место. Повторное нажатие может ничего не изменить, когда подходящий план уже выбран.

Когда вы выбираете другую модель в калькуляторе памяти или открываете её из каталога, Green Zone создаёт новую примерную задачу. Указанные VRAM и RAM сохраняются, прежний бюджет токенов и его закрепления заменяются, а число одновременных запросов устанавливается равным одному. Для чата стартовый контекст — до 8 192 токенов, для программирования и агента — до 16 384, для исследования — до 32 768. Если памяти или возможностей модели недостаточно, контекст уменьшается. Чтобы вернуться к прежней конфигурации, сохраните её или закрепите для сравнения. Карточки сравнения сохраняют собственные настройки.

Если балансировка не нашла вариант, дальнейшие шаги появятся прямо в результате проверки памяти. Там отдельно объясняются предел контекста модели и нехватка VRAM или RAM. У рекомендации указан конкретный файл и контекст. Один вариант предполагает размещение всей модели на GPU, другой — использование указанной VRAM вместе с оперативной памятью. В оценку RAM входит ваш резерв для операционной системы. Предложенные объёмы можно явно выбрать и попробовать в калькуляторе. Компьютер при этом не проверяется и не перенастраивается. Больший объём оставляет запас, но не определяет скорость или совместимость программы запуска.

Ручная балансировка и кнопки типа работы сохраняют закреплённые токены. Если они остались от старой задачи, кнопка «Начать с новой примерной задачи» заменит бюджет и его закрепления, сохранив параметры компьютера. Закреплённый контекст уменьшается только с вашего разрешения.

Что означает каждое поле бюджета

Системные инструкции — правила и роль помощника. Описания инструментов — сведения о том, какие действия доступны и какие аргументы им нужны. Это не весь программный код инструмента.

Загруженные инструкции навыков — прочитанные моделью руководства по конкретной работе. Установленная папка с навыком сама по себе не занимает токены: учитывайте только инструкции и дополнительные материалы, включённые в запрос.

Файлы и документы — переданные тексты, отрывки или код. История разговора — предыдущие сообщения, включённые в текущий запрос. Текущее задание — ваша новая просьба. Запас на шаблон чата нужен для служебного оформления сообщений.

Резерв для ответа оставляет место для будущего текста модели, включая рассуждения, если они генерируются. Будущие шаги агента оставляют место для новых результатов инструментов и продолжения. Не добавляйте один и тот же текст в две категории. У отдельного субагента может быть собственный контекст; в основной можно передать только итог.

Как оценить объём, если точных чисел пока нет

Начните с небольшого примера вашей работы. Одна короткая инструкция навыка может для учебного планирования занимать 300–800 токенов, подробная процедура — 1 000–3 000. Это ориентиры, а не свойства всех навыков. Три реально загруженные инструкции по 700 токенов займут 2 100 токенов ещё до документов и ответа.

Для краткого ответа можно сначала выделить 300–800 токенов, для развёрнутого объяснения или кода — 1 500–4 000. Нужный объём зависит от задания; длинные рассуждения и вывод инструментов могут потребовать больше. Количество страниц не даёт надёжного подсчёта: язык, таблицы, код и токенизатор меняют результат.

Эти диапазоны нужны, чтобы начать, а не чтобы заполнить все поля максимальными значениями. Увеличение бюджета само по себе не делает ответ лучше. По мере знакомства заменяйте ориентиры подсчётом собственных материалов.

Примеры: как складывается полный бюджет

В таблице четыре учебных задания. Столбцы показывают все части бюджета, общий итог, выбранное окно и свободный остаток. Например, в простом чате инструменты и навыки могут вообще отсутствовать. Для исследования больше места отведено документам, для агента — следующим действиям.

Это примеры распределения токенов, а не готовые рекомендации для каждой видеокарты. Выберите похожую задачу, замените значения своими и проверьте память. Кнопки типов работы могут дать другие числа: балансировка учитывает ваши настройки и замки.

Как подсчитать материал для своего задания

На странице бюджета нажмите «Подсчитать текст». Вставьте свой текст или выберите поддерживаемый текстовый файл, укажите соответствующую часть бюджета и примените результат после проверки. Для PDF сначала нужен извлечённый текст: размер файла в мегабайтах не равен количеству токенов.

Смотрите подпись результата. Без подходящего токенизатора счётчик оценивает количество приблизительно. Если настроена служба точного подсчёта, текст может передаваться ей; в локальной версии это служба сайта на вашем компьютере. Подсчёт отдельного текста не включает автоматически всё оформление полного запроса.

Симулятор шагов помогает прикинуть продолжение: четыре шага по 500 токенов — 2 000. Он сравнивает эту величину с уже выделенным резервом будущих шагов и берёт большее, не складывая их дважды. Он не запускает агента и не предсказывает число реальных действий.

Два разных значения слова «гибридный»

Гибридная архитектура описывает внутреннее устройство модели. Разные её слои могут хранить информацию по-разному. Такая модель не обязана работать сразу на CPU и GPU и не становится неисправной из-за слова «гибридная».

Распределение между GPU и RAM описывает другое: где размещается модель на компьютере. Его можно рассматривать и для обычных архитектур. RAM даёт дополнительное место, но работа через процессор может быть медленнее. Наш калькулятор оценивает вместимость, а не скорость.

Для моделей каталога используются профили их архитектур. Результат остаётся оценкой для работы с текстом; обработка изображений и аудио сюда не входит. Начните с обычного выбора модели и бюджета. Подробности конкретного расчёта раскрываются в блоке «Как устроена эта оценка», когда они понадобятся.

Дополнительные настройки: когда к ним возвращаться

Программа запуска — например Ollama или llama.cpp — действительно загружает и выполняет модель. Green Zone готовит план для такой программы. Выберите её, если уже знаете, чем пользуетесь; сайт не устанавливает её и не проверяет совместимость драйверов.

Кэш ключей и значений (Key-Value Cache, KV cache) хранит промежуточную информацию о прочитанном тексте. Рабочие буферы нужны для вычислений. Память других приложений и запас безопасности оставляют место вне работы модели. Эти настройки объясняют, почему нельзя отдать модели всю память без остатка.

Параллельные запросы означают несколько одновременно обрабатываемых разговоров. Для первого расчёта оставьте один. Последовательные действия одного агента не равны нескольким одновременным запросам. Сокращённый оконный кэш, копии внутренних состояний и Flash Attention меняйте только при понимании настроек вашей программы; увеличение точности оценки требует сведений о реальном запуске.

Как сохранить выбранный вариант

Настройки переходят между инструментами и сохраняются в этом браузере. Закрепление для сравнения помогает сопоставить варианты, а сохранение и экспорт — оставить конфигурацию или отчёт. Импорт возвращает значения из сохранённого файла.

Отчёт содержит план и допущения, а не измерение вашего компьютера. Перед очисткой данных браузера сохраните нужную конфигурацию. Чтобы действительно запустить модель, перенесите выбранные настройки в свою программу запуска и проверьте поведение на небольшом задании.

Что проверить, если результат не подходит

Файл модели меньше памяти, а весь расчёт не помещается? Уменьшите контекст или выберите более компактный файл: самой модели нужно оставить место для работы. Свободна RAM, но расчёт её не использует? Проверьте переключатель разрешения RAM, её объём и резерв для системы.

Каталог пуст? Снимите фильтры и проверьте перенесённый бюджет. Балансировка не помогает? Посмотрите защищённые замками части и фиксацию контекста. Токены помещаются, а память нет? Вернитесь в первый калькулятор: это две отдельные проверки.

Меняйте по одному условию и сравнивайте результат. Здесь можно спокойно пробовать варианты: сайт не меняет файлы и настройки модели на вашем компьютере.