Системные требования
Требования к машине сервера
Для сервера требуется машина под управлением Astra Linux 1.7+.
CPU
x86/x64, 8 ядер
RAM
8 Гб
Хранилище
200 Гб (ОС + базовые данные приложений)
Дополнительно:
+ ~1-2 Гб для обучения 1 модели;
+ ~1 Гб в сутки при обработке 1000 изображений
Требования к целевой машине с Умным OCR
Для целевой машины требуется рабочая станция под управлением Astra Linux 1.7+. Подробная информация о ПО для целевой машины приведена здесь.
CPU
Intel Core i5 / AMD Ryzen 5
Intel Core i7/i9 / AMD Ryzen 7/9
Intel Xeon / AMD EPYC
Кол-во физических ядер на 1 агента
4 (возможно замедление обучения модели)
8
16
RAM
8 ГБ
32 ГБ
64 ГБ
Хранилище
1Tb HDD ТБ (OS + Data)
2Tb SSD
NVMe SSD или RAID
GPU
-
NVIDIA GPU семейства Ampere (compute capability > 8.0) VRAM > 16
NVIDIA GPU семейства Ampere (compute capability > 8.0) (например, RTX 3090)
CUDA Toolkit
-
> 12.1
не ниже 12.1
Требования к целевой машине с NLP
Группа целевых машин NLP — набор из 4 сервисов, обеспечивающих работу LLM-модели в рамках NLP-задач. В набор сервисов входят Logics-сервер с агентом и LLM-ядро с агентом.
Группа целевых машин может:
представлять из себя единственную физическую/виртуальную машину с двумя docker-контейнерами и двумя агентами;
располагаться на двух разных машинах — на первой размещается Logics-сервер с агентом сервера, а на второй LLM-ядро с агентом LLM-ядра.
Наибольшие требования к производительности предъявляет машина с LLM-ядром, поэтому не рекомендуется размещать на ней другие ресурсоёмкие приложения. Производительность машины с LLM-ядром, которая использует GPU, выше в 30-40 раз.
Для группы целевых машин следует использовать рабочие станции под управлением Astra Linux. Версии ОС на целевых машинах могут отличаться. Групп целевых машин NLP может быть много, но все группы должны быть настроены одинаково. Подробные требования к группе машин представлены в таблице ниже.
CPU
4 физических ядра / 8 виртуальных ядер
16 физических ядра / 32 виртуальных ядер
8 физических ядра / 16 виртуальных ядер
RAM
8 Гб
32 Гб
32 Гб
HDD
50 Гб (OS + Data)
250 Гб (OS + Data)
250 Гб (OS + Data)
GPU
NVIDIA с памятью не менее 20 Гб, поколение Compute Capability не ниже 8.0
CUDA toolkit
не ниже 12.1
Примечание. В таблице указаны требования к Logics-серверу при установке на отдельную от LLM-ядра машину. Если Logics-сервер размещен на одной машине с LLM-ядром, проигнорируйте требования к машине с Logics-сервером.
Требования к единой целевой машине с Умным OCR и NLP
CPU
24 физических ядра / 48 виртуальных ядер
16 физических ядра / 32 виртуальных ядер
RAM
64 Гб
64 Гб
HDD
2Tb SSD
2Tb SSD
GPU
NVIDIA с памятью не менее 20 Гб, поколение Compute Capability не ниже 8.0
CUDA toolkit
не ниже 12.1
Примечание по экономии лицензий агентов. При установке целевой машины Умного OCR через Docker, агент внутри контейнера будет использовать отдельную лицензию. Если необходимо установить компоненты целевых машин Умного OCR и NLP на 1 машину, чтобы оптимизировать количество лицензий на агентов, воспользуйтесь вариантами установки целевой машины Умного OCR без Docker.
См. также
Last updated