GGML Universal File (GGUF) — формат файла, в котором хранятся веса модели и сведения для их чтения.
Для калькуляторов нужен JavaScript. После запуска локального сервера подключение к интернету не требуется.