Системные требования

Требования к машине сервера

Для сервера требуется машина под управлением Astra Linux 1.7+.

Параметр
Рекомендуемые

CPU

x86/x64, 8 ядер

RAM

8 Гб

Хранилище

200 Гб (ОС + базовые данные приложений)

Дополнительно:

+ ~1-2 Гб для обучения 1 модели;

+ ~1 Гб в сутки при обработке 1000 изображений

Требования к целевой машине с Умным OCR

Для целевой машины требуется рабочая станция под управлением Astra Linux 1.7+. Подробная информация о ПО для целевой машины приведена здесь.

Параметр
Минимальные
Рекомендуемые
Высокопроизводительные

CPU

Intel Core i5 / AMD Ryzen 5

Intel Core i7/i9 / AMD Ryzen 7/9

Intel Xeon / AMD EPYC

Кол-во физических ядер на 1 агента

4 (возможно замедление обучения модели)

8

16

RAM

8 ГБ

32 ГБ

64 ГБ

Хранилище

1Tb HDD ТБ (OS + Data)

2Tb SSD

NVMe SSD или RAID

GPU

-

NVIDIA GPU семейства Ampere (compute capability > 8.0) VRAM > 16

NVIDIA GPU семейства Ampere (compute capability > 8.0) (например, RTX 3090)

CUDA Toolkit

-

> 12.1

не ниже 12.1

Требования к целевой машине с NLP

Группа целевых машин NLP — набор из 4 сервисов, обеспечивающих работу LLM-модели в рамках NLP-задач. В набор сервисов входят Logics-сервер с агентом и LLM-ядро с агентом.

Группа целевых машин может:

  • представлять из себя единственную физическую/виртуальную машину с двумя docker-контейнерами и двумя агентами;

  • располагаться на двух разных машинах — на первой размещается Logics-сервер с агентом сервера, а на второй LLM-ядро с агентом LLM-ядра.

Наибольшие требования к производительности предъявляет машина с LLM-ядром, поэтому не рекомендуется размещать на ней другие ресурсоёмкие приложения. Производительность машины с LLM-ядром, которая использует GPU, выше в 30-40 раз.

Для группы целевых машин следует использовать рабочие станции под управлением Astra Linux. Версии ОС на целевых машинах могут отличаться. Групп целевых машин NLP может быть много, но все группы должны быть настроены одинаково. Подробные требования к группе машин представлены в таблице ниже.

Параметр
Требование машины с Logics-сервером*
Требование машины с LLM-ядром (без GPU)
Требование машины с LLM-ядром (с GPU)

CPU

4 физических ядра / 8 виртуальных ядер

16 физических ядра / 32 виртуальных ядер

8 физических ядра / 16 виртуальных ядер

RAM

8 Гб

32 Гб

32 Гб

HDD

50 Гб (OS + Data)

250 Гб (OS + Data)

250 Гб (OS + Data)

GPU

NVIDIA с памятью не менее 20 Гб, поколение Compute Capability не ниже 8.0

CUDA toolkit

не ниже 12.1

Примечание. В таблице указаны требования к Logics-серверу при установке на отдельную от LLM-ядра машину. Если Logics-сервер размещен на одной машине с LLM-ядром, проигнорируйте требования к машине с Logics-сервером.

Требования к единой целевой машине с Умным OCR и NLP

Параметр
Без GPU
С GPU

CPU

24 физических ядра / 48 виртуальных ядер

16 физических ядра / 32 виртуальных ядер

RAM

64 Гб

64 Гб

HDD

2Tb SSD

2Tb SSD

GPU

NVIDIA с памятью не менее 20 Гб, поколение Compute Capability не ниже 8.0

CUDA toolkit

не ниже 12.1

Примечание по экономии лицензий агентов. При установке целевой машины Умного OCR через Docker, агент внутри контейнера будет использовать отдельную лицензию. Если необходимо установить компоненты целевых машин Умного OCR и NLP на 1 машину, чтобы оптимизировать количество лицензий на агентов, воспользуйтесь вариантами установки целевой машины Умного OCR без Docker.

См. также

Last updated