Системные требования

Требования к машине сервера

Для сервера требуется машина под управлением Astra Linux 1.7+.

Параметр
Рекомендуемые

CPU

x86/x64, 8 ядер

RAM

8 Гб

Хранилище

200 Гб (ОС + базовые данные приложений)

Дополнительно:

+ ~1-2 Гб для обучения 1 модели;

+ ~1 Гб в сутки при обработке 1000 изображений

Требования к целевой машине с Умным OCR

Для целевой машины требуется рабочая станция под управлением Astra Linux 1.7+. Подробная информация о ПО для целевой машины приведена здесь.

Параметр
Минимальные
Рекомендуемые
Высокопроизводительные

CPU

Intel Core i5 / AMD Ryzen 5

Intel Core i7/i9 / AMD Ryzen 7/9

Intel Xeon / AMD EPYC

Кол-во физических ядер на 1 агента

4 (возможно замедление обучения модели)

8

16

RAM

8 ГБ

32 ГБ

64 ГБ

Хранилище

1Tb HDD ТБ (OS + Data)

2Tb SSD

NVMe SSD или RAID

GPU

-

NVIDIA GPU семейства Ampere (compute capability > 8.0) VRAM > 16

NVIDIA GPU семейства Ampere (compute capability > 8.0) (например, RTX 3090)

CUDA

-

12.1

12.1

Требования к целевой машине с NLP

Группа целевых машин NLP — набор из 4 сервисов, обеспечивающих работу LLM-модели в рамках NLP-задач. Набор состоит из Logics-сервера с агентом и LLM-ядра с агентом. Более подробную информацию о сервисах см. здесь.

Группа целевых машин может представлять из себя как единственную физическую или виртуальную машину с 2 docker-контейнерами и 2 агентами, так и располагаться на 2 разных машинах. При этом наибольшие требования к производительности предъявляет машина с LLM-ядром. Не рекомендуется размещать на машине с LLM-ядром другие ресурсоёмкие приложения. Групп целевых машин NLP может быть много. Все группы целевых машин NLP должны быть настроены одинаково, и на каждой целевой машине должен быть развернут агент.

Для группы целевых машин следует использовать рабочие станции под управлением Astra Linux, к которой предъявляются требования из таблицы ниже. Версии ОС на целевых машинах могут отличаться.

Параметр
Требование машины с Logics-сервером
Требование машины с LLM-ядром (без GPU)
Требование машины с LLM-ядром (с GPU)

CPU

4 физических ядра / 8 виртуальных ядер

16 физических ядра / 32 виртуальных ядер

8 физических ядра / 16 виртуальных ядер

RAM

8 Гб

32 Гб

32 Гб

HDD

50 Гб (OS + Data)

250 Гб (OS + Data)

250 Гб (OS + Data)

См. также

Last updated