Настоящая статья описывает алгоритм установки образов компонентов AI Server. Если на машине нет Docker, установите его.

Алгоритм установки образов на машины с AI Server:

Выкачивание образов.
- Варианты:
  1. Либо непосредственно на машину с AI Server*.
  2. Либо на промежуточную машину инженера*
    - Перенос образов на машину с AI Server.
      - Сохранение образов в архивы.
      - Перенос архивов на машину с AI Server
      - Установка образов на машине с AI Server

*Машина должна иметь доступ к репозиторию образов Primo RPA, а также ключи доступа.

Авторизация


docker login https://nexus.primo-rpa.ru:8000/ -u user -p "password"

Определить список образов

Создайте переменную $images со списком имен образов:

1. Сервер


names="ai-server-api ai-server-auth ai-server-inference ai-server-logs ai-server-ui"
externals="redis:latest rabbitmq:3.10.7-management postgres:latest"
for name in $names; do
    images+=" primo-rpa/$name"
done
for external in $externals; do
    images+=" externals/$external"
done

2. Целевая машина

Умный OCR @ CPU


images+=" primo-rpa/ai-server-smartocr-cpu"

Умный OCR @ GPU


images+=" primo-rpa/ai-server-smartocr-gpu"

NLP / Ollama


images+=" primo-rpa/ai-server-logics primo-rpa/ai-server-ollama"

NLP / vLLM @ CPU


images+=" primo-rpa/ai-server-logics primo-rpa/ai-server-vllm-cpu"

NLP / vLLM @ GPU


images+=" primo-rpa/ai-server-logics primo-rpa/ai-server-vllm-gpu"

Выкачивание образов

1. Сервер.


for image in $images; do
    docker rmi $image
    docker pull nexus.primo-rpa.ru:8000/$image
    docker tag nexus.primo-rpa.ru:8000/$image $image
    docker rmi nexus.primo-rpa.ru:8000/$image
done

Сохранение образов в архивы

⚠️

Пропустите этот шаг, если образы выкачаны непосредственно на машину с AI Server.


for image in $images; do
    docker save -o $image.tar $image:latest
done

Перенос архивов на машину с AI Server

⚠️

Пропустите этот шаг, если образы выкачаны непосредственно на машину с AI Server.

⚠️

Шаг выполняется вручную.

Установка образов на машину с AI Server

⚠️

Пропустите этот шаг, если образы выкачаны непосредственно на машину с AI Server.

⚠️

Заполните переменную $images согласно руководству выше (“Определить список образов”).


for image in $images; do
    docker rmi $image:latest
    docker load -i $image:tar
done