Установка Primo.AI.Api
- Подключаемся к серверу по SSH с пользователем с правами root.
- Создаем папку
/app/Primo.AI/Api
:sudo mkdir -p /app/Primo.AI/Api
- Разархивируем
Api-linux.zip
в/app/Primo.AI/Api
:sudo unzip /srv/samba/shared/install/distr/Api-linux.zip -d /app/Primo.AI/Api
- Установим владельца папки с инсталляцией:
sudo chown -R primo:primo-ai /app/Primo.AI/Api
Создаем и настраиваем службу
- Копируем файл службы, который идет с комплектом поставки, в
/etc/systemd/system
:sudo cp /app/Primo.AI/Api/Primo.AI.Api.service /etc/systemd/system/Primo.AI.Api.service
- Перезагружаем systemctl:
sudo systemctl daemon-reload
- Помещаем службу в автозапуск:
sudo systemctl enable /etc/systemd/system/Primo.AI.Api.service
Редактируем конфигурационный файл
-
Открываем в vim конфигурационный файл:
sudo nano appsettings.ProdLinux.json
-
Редактируем строки подключения к БД:
Cм. инструкцию по установке PostgreSQL.
В HOST указываем адрес сервера, где установлен PostgreSQL.
В USER ID указываем пользователя БД
primo
, в PASSWORD — его пароль. -
Настраиваем Primo.AI.Api на работу с сервисом получения параметров оборудования для лицензирования — вводим адрес этого сервиса:
-
Настраиваем подключение к RabbitMQ:
-
Опционально — настраиваем MinIO:
-
Опционально — настраиваем Redis:
-
Настраиваем параметр
Security > EnabledOrigins
для кроссдоменных запросов:
Размещаем файлы ИИ-моделей
-
Размещаем файлы моделей Умного OCR:
sudo cp -r /srv/samba/shared/install/data/models/SmartOCR/* /app/Primo.AI/Api_Models/
-
Размещаем файлы моделей AI Текст.
Модели AI Текст:
Имя модели LLM-ядро Мультимодальность Имя файла base-LLM-01 (Vllm, 8B) vLLM Нет e255188e-d9f6-41d3-b170-0c25bc0bd02f base-LLM-02 (Ollama, 8B) Ollama Нет ddc02d8d-0117-4c67-acb3-2dd0549d2985 base-LLM-03 (Vllm, 7B) vLLM Нет b1bf77a1-ca4e-4088-942c-8ec83086611b base-LLM-04 (Vllm, multimodal, 7B) vLLM Да ebe98258-1c21-4d19-af56-cf39f7e3883d base-LLM-05 (Ollama, 7B) Ollama Нет f55425a0-87c8-4d9e-a4cd-abc56f96ab1e base-LLM-06 (Vllm, multimodal, 7B) vLLM Да 78e57e23-363c-4b1e-b4e2-36fb31da5b48 base-LLM-07 (Vllm, 8B) vLLM Нет e161b94d-3272-4afa-9aad-d191b61c67d3 Файлы моделей объемные, поэтому можно скопировать только отдельные (укажите вместо ‘xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx’ имя файла модели, воспользовавшись столбцом “Имя файла” из таблицы выше).
sudo cp /srv/samba/shared/install/data/models/NLP/xxxxxxxx-xxxx-xxxx-xxxx-xxxxxxxxxxxx /app/Primo.AI/Api_Models/
Либо, если места достаточно, скопируйте все модели:
sudo cp /srv/samba/shared/install/data/models/NLP/* /app/Primo.AI/Api_Models/
Если разместить только часть моделей, то при попытке использования остальных моделей, интерфейс системы будет выдавать ошибку.
-
Размещаем стандартный контекст NLP-запросов:
sudo cp -r /srv/samba/shared/install/data/context/* /app/Primo.AI/Api_ContextFiles/
Запускаем службу
- Даем права на запуск:
sudo chmod -R 770 /app/Primo.AI/Api/Primo.AI.Api
- Запускаем службу:
sudo systemctl start Primo.AI.Api
- Проверяем состояние службы:
sudo systemctl status Primo.AI.Api
Что дальше
Теперь вы можете перейти к установке компонента Api.Auth.