Установка Docker

Файлы из комплекта поставки

Скопируйте на машину с AI Server файлы, приведенные в таблице ниже — они находятся в комплекте поставки Primo RPA AI Server.

Определение {distribution}

Установка Docker

Настоящее краткое руководство основано на официальных инструкций:

• Install Docker Engine from binaries .
• NVIDIA Container Toolkit Installation Guide 

1. Загрузка архива

При наличии интернета (или доступа к репозиторию), загрузите свежий архив с официального сайта согласно официально инструкции.

В отсутствие интернета воспользуйтесь предоставленной версией согласно ОС (см. таблицу выше).

2. Распаковка архива

Распакуйте архив во временную папку:

mkdir -p distr/externals/{distribution}/docker

unzip distr/externals/{distribution}/docker.zip -d distr/externals/{distribution}/docker

sudo dpkg -i distr/externals/{distribution}/*.deb

3. Установка системных служб

sudo cp docker/docker.service /etc/systemd/system/

sudo systemctl enable docker.service

sudo systemctl daemon-reload

sudo systemctl restart docker

Создание группы docker

Добавьте группу пользователей docker для использования команды docker:

sudo groupadd docker

Раздача прав

Добавьте пользователей, которые будут пользоваться командой docker и docker-compose, в группу docker. Например, для пользователя primo и agent:

sudo usermod -aG docker primo

sudo usermod -aG docker agent

Если текущий пользователь в их числе, зарегистрируйте его в группе docker и затем выполните для текущего сеанса:

newgrp docker

Выполните перезагрузку сервера, чтобы все пользователи получили требуемые полномочия на запуск команды docker.

Взаимодействие Docker с GPU

1. Архитектура.

Взаимосвязь между GPU и приложениями происходит по следующей цепочке:

Таким образом, для работы с GPU из Docker необходимо:

• Совместимая GPU NVIDIA
• CUDA-драйвер на машине-хосте
• NVIDIA Container Toolkit (nvidia-docker2)

При этом компоненты должны взаимодействовать друг с другом по версиям. Пример совместимых версий:

Используйте команду для определения рекомендованной версии драйвера (только для Ubuntu):

 ubuntu-drivers devices

Рекомендованная версия будет отмечена флагом recommended, например:

vendor   : NVIDIA Corporation
model    : AD102 [GeForce RTX 4090]
driver   : nvidia-driver-580-server - distro non-free
driver   : nvidia-driver-535 - distro non-free
                                                        ↓↓↓
driver   : nvidia-driver-580-open - distro non-free recommended
                                                        ↑↑↑
driver   : nvidia-driver-535-server-open - distro non-free
driver   : nvidia-driver-580-server-open - distro non-free
driver   : nvidia-driver-535-open - distro non-free
driver   : nvidia-driver-570-server - distro non-free
driver   : nvidia-driver-570-server-open - distro non-free
driver   : nvidia-driver-570-open - distro non-free
driver   : nvidia-driver-535-server - distro non-free
driver   : nvidia-driver-580 - distro non-free
driver   : nvidia-driver-570 - distro non-free
driver   : xserver-xorg-video-nouveau - distro free builtin

2. Установка драйвера.

Если доступны драйверы в apt

• Удалите текущие драйверы.

sudo apt-get remove --purge '^nvidia-.'

sudo apt-get remove --purge '^libnvidia-.'

sudo apt-get remove --purge '^cuda-.*'

Если драйверы были установлены, перезагрузите сервер

sudo reboot

• Установите выбранный драйвер

sudo apt install nvidia-driver-580-open nvidia-dkms-580-open nvidia-utils-580

sudo reboot

Если в apt нет подходящих драйверов

• Выберите run-файл для установки в комплекте поставки. Если подходящего файла нет, скачайте его из https://www.nvidia.com/en-us/drivers/unix/  (архивные: https://download.nvidia.com/XFree86/Linux-x86_64/ )
• Установите драйвер:

sudo chmod +x ./distr/externals/NVIDIA-Linux-x86_64-570.124.04.run && \
./distr/externals/NVIDIA-Linux-x86_64-570.124.04.run

3. Установка nvidia-docker2 / Nvidia Container Toolkit

Распакуйте архив во временную папку:

mkdir -p distr/externals/{distribution}/nvidia-docker2

unzip distr/externals/{distribution}/nvidia-docker2.zip -d distr/externals/{distribution}/nvidia-docker2

Установите пакеты:

sudo dpkg -i distr/externals/{distribution}/nvidia-docker2/*.deb

4. Проверка.

Проверьте наличие драйвера в системе:

nvidia-smi

При наличии доступа к репозиториям docker проверьте доступность драйвера GPU внутри контейнера:

 docker run --rm --gpus all nvidia/cuda:12.8.0-base-ubuntu24.04 nvidia-smi

• Если драйвер доступен, в терминале будет информация по доступным устройствам Nvidia.
• В противном случае настройте драйвер принудительно и повторите проверку доступности:

sudo nvidia-ctk runtime configure --runtime=docker && \
    sudo systemctl restart docker