Skip to Content

Установка на Linux

Системные требования

Для работы системы требуется как минимум:

  • 1 машина AI Server
  • 1 целевая машина (для проектов Умный OCR / AI Текст)

Таблица: Поддерживаемые ОС.

ОСВерсия
Astra Linux Special Edition1.7
Ubuntu22.04, 24.04

Машина Центра управления AI Server

ПараметрРекомендуемые
CPUx86/x64, 8 ядер
RAM8 ГБ
Хранилище200 ГБ (ОС + базовые данные приложений)

Дополнительно:

+ ~1-2 ГБ для обучения 1 модели;

+ ~1 ГБ в сутки при обработке 1000 изображений

Целевые машины

КомпонентыВид LLMCPURAMHDDGPUТребования
Умный OCR-4 ядра AVX5128 Гб50 Гб-Минимальные
Умный OCR-16 ядер AVX51232 Гб2 Тб-Рекомендуемые
Умный OCR-16 ядер AVX51232 Гб2 ТбNVIDIA (≥ 16 ГБ, 8.0 ≤ Compute Capability ≤ 12.0, 12.4 ≤ CUDA toolkit ≤ 12.8)Рекомендуемые, оптимизация обучения
NLPOllama2 ядра AVX51216 Гб250 Гб-Минимальные
NLPOllama2 ядра AVX51216 Гб250 ГбNVIDIA (≥ 24 ГБ, 8.0 ≤ Compute Capability ≤ 9.0, 12.4 ≤ CUDA toolkit ≤ 12.8)Рекомендуемые
NLPOllama2 ядра AVX51216 Гб250 ГбNVIDIA (≥ 24 ГБ, Compute Capability 12.0, CUDA toolkit 12.8)Рекомендуемые
NLPvLLM8 ядра AVX51232 Гб250 ГбNVIDIA (≥ 24 ГБ, 8.0 ≤ Compute Capability ≤ 9.0, 12.4 ≤ CUDA toolkit ≤ 12.8)Рекомендуемые
⚠️

Если на 1 целевой машине установлены одновременно компоненты Умного OCR и NLP, то требования суммируются.

Проверить наличие инструкций AVX512 можно командой:

grep avx /proc/cpuinfo

Если в выводе содержатся только AVX2-инструкции, обработка запросов моделью будет замедлена в разы, или, в зависимости от модели, невозможна. Если в выводе отсутствуют даже AVX2-инструкции, работа с LLM-моделями будет невозможна.

Общий порядок установки

  1. Установите Linux и выполните базовую настройку системы
  2. Установите Центр управления
  3. Для каждой Целевой машине произведите установку согласно инструкции
  4. Синхронизируйте время между компонентами AI Server