Без доступа к Интернету

Если вы развертываете Compressa в закрытой сети без доступа к интернету, необходимо заранее с HuggingFace или через платформу Compressa скачать веса моделей. Также необходимо заранее скачать докер образы.

Файл конфигурации

Если модель скачивалась не через платформу, в папке с весами модели необходимо создать файл конфигурации compressa-config.json

compressa-config.json
config.json
generation_config.json
.gitattributes
LICENSE
merges.txt
model-00001-of-00008.safetensors
model-00002-of-00008.safetensors
model-00003-of-00008.safetensors
model-00004-of-00008.safetensors
model-00005-of-00008.safetensors
model-00006-of-00008.safetensors
model-00007-of-00008.safetensors
model-00008-of-00008.safetensors
model.safetensors.index.json
README.md
tokenizer_config.json
tokenizer.json
vocab.json

{
    "model_name": "Qwen/Qwen3-14B",
    "torch_dtype": "torch.float16",
    "device_map": "auto",
    "trust_remote_code": false,
    "backends": null,
    "config_class": "HFConfig"
}

Установка переменной окружения

Установите переменную окружения RESOURCES_PATH на папку data/compressa из архива.

export RESOURCES_PATH=./data/compressa

Запустите Compressa как обычно.

Модель будет доступна с первого запуска без необходимости в загрузке.