Установка на Linux
Системные требования
Для работы системы требуется как минимум:
- 1 машина AI Server
- 1 целевая машина (для проектов Умный OCR / AI Текст)
Таблица: Поддерживаемые ОС.
| ОС | Версия |
|---|---|
| Astra Linux Special Edition | 1.7 |
| Ubuntu | 22.04, 24.04 |
Машина Центра управления AI Server
| Параметр | Рекомендуемые |
|---|---|
| CPU | x86/x64, 8 ядер |
| RAM | 8 ГБ |
| Хранилище | 200 ГБ (ОС + базовые данные приложений) Дополнительно: + ~1-2 ГБ для обучения 1 модели; + ~1 ГБ в сутки при обработке 1000 изображений |
Целевые машины
| Компоненты | Вид LLM | CPU | RAM | HDD | GPU | Требования |
|---|---|---|---|---|---|---|
| Умный OCR | - | 4 ядра AVX512 | 8 Гб | 50 Гб | - | Минимальные |
| Умный OCR | - | 16 ядер AVX512 | 32 Гб | 2 Тб | - | Рекомендуемые |
| Умный OCR | - | 16 ядер AVX512 | 32 Гб | 2 Тб | NVIDIA (≥ 16 ГБ, 8.0 ≤ Compute Capability ≤ 12.0, 12.4 ≤ CUDA toolkit ≤ 12.8) | Рекомендуемые, оптимизация обучения |
| NLP | Ollama | 2 ядра AVX512 | 16 Гб | 250 Гб | - | Минимальные |
| NLP | Ollama | 2 ядра AVX512 | 16 Гб | 250 Гб | NVIDIA (≥ 24 ГБ, 8.0 ≤ Compute Capability ≤ 9.0, 12.4 ≤ CUDA toolkit ≤ 12.8) | Рекомендуемые |
| NLP | Ollama | 2 ядра AVX512 | 16 Гб | 250 Гб | NVIDIA (≥ 24 ГБ, Compute Capability 12.0, CUDA toolkit 12.8) | Рекомендуемые |
| NLP | vLLM | 8 ядра AVX512 | 32 Гб | 250 Гб | NVIDIA (≥ 24 ГБ, 8.0 ≤ Compute Capability ≤ 9.0, 12.4 ≤ CUDA toolkit ≤ 12.8) | Рекомендуемые |
⚠️
Если на 1 целевой машине установлены одновременно компоненты Умного OCR и NLP, то требования суммируются.
Проверить наличие инструкций AVX512 можно командой:
grep avx /proc/cpuinfoЕсли в выводе содержатся только AVX2-инструкции, обработка запросов моделью будет замедлена в разы, или, в зависимости от модели, невозможна. Если в выводе отсутствуют даже AVX2-инструкции, работа с LLM-моделями будет невозможна.
Общий порядок установки
- Установите Linux и выполните базовую настройку системы
- Установите Центр управления
- Для каждой Целевой машине произведите установку согласно инструкции
- Синхронизируйте время между компонентами AI Server