Добро пожаловать в документацию Compressa!
Compressa предлагает готовый набор выгодных моделей с поддержкой русского языка для кастомной разработки LLM + RAG ассистентов на базе Langchain. Используя готовые API или копию платформы на своих серверах, вы можете создать нужного AI ассистента для своей бизнес-задачи.
Некоторые примеры возможных решений:
- QA-бот по вашему набору документов для разных отделов и задач
- Умный и точный поиск для сотрудников или клиентов
- Langchain-агент, который проходит несколько шагов для выполнения задачи
- Анализ и сегментация текстовой обратной связи от клиентов
Compressa предоставляет оптимизированные LLM, Embedding и Rerank модели для русского языка, но благодаря нативной интеграции с Langchain вы можете собрать сотни разных AI агентов.
При использовании on-prem формата, LLM также может быть быстро и недорого дообучена под вашу задачу с помощью LoRA адаптеров.
Как использовать наши модели?
Вы можете использовать наши модели и инструменты, используя несколько вариантов:
- Python SDK (Langchain): Мы предоставляем Python SDK для упрощения доступа к нашим моделям и инструментам из вашего Python-кода.
- REST API: Наш SDK использует публичный REST API, который вы можете вызывать напрямую из вашего кода на любом языке.
- Open AI: Наши API совместимы с OpenAI, поэтому мы можете просто использовать их библиотеку с нашими моделями.
Кто может использовать нашу платформу?
Текущая версия платформы лучше всего подходит для разработчиков, которые уже знакомы с Langchain и хотят использовать готовые модели от Compressa. Если вы еще не работали с этим фреймворком — Langchain содержит множество готовых шаблонов и библиотек, которые можно брать и использовать с нашими моделями. Также мы подготовили набор гайдов для быстрого старта и некоторых распространенных сценариев.
Если вам нужен другой / дополнительный функционал платформы — просим вас связаться с нами в телеграм чате поддержки.
Quick Start
Попробуйте наши модели на практике с одним из quickstart гайдов:
⁃ Быстрый старт с Python SDK (Langchain)
⁃ Быстрый старт с REST API
⁃ Переход с OpenAI