Compressa LLM

Compressa LLM - это готовая инфраструктура от Compressa для запуска и управления LLM моделями (а также моделями эмбеддингов, реранжирования, работы с аудио) на своем сервере.