Мониторинг загрузки целевых машин

На странице Мониторинг вы можете просмотреть загруженность целевых машин — сколько процессов разного вида выполняет машина на заданном промежутке времени и какое количество запросов к ней поступает. Это помогает определить, нужны ли вам дополнительные лицензии агентов и следует ли улучшить аппаратные характеристики какой-либо машины.

Просмотр загрузки машины

1. Перейдите на страницу Мониторинг, выбрав одноименный пункт в навигационном меню.

   

2. Сверху расположены фильтры:

   • Дата события — начало и конец временного отрезка, за который вы хотите просмотреть график загруженности машины. После выбора даты и времени не забудьте нажать в календаре кнопку ОК.
   • Компонент — компонент AI Server. Доступные значения:
     • Умный OCR — отобразится график загруженности машин для компонента Умный OCR.
     • NLP — отобразится график загруженности машин для компонента AI Текст, в рамках которого модели решают NLP-задачи.
   • Целевая машина — название целевой машины, загруженность которой вы хотите просмотреть.

3. После указания фильтров, откроется график загруженности выбранной целевой машины.

Пример графика для машины Умного OCR

На графике ось X — выбранная дата событий, а ось Y — количество запущенных процессов и запросов.

На графике отображаются события:

• Процессов инференс (фиолетовая кривая) — какое количество процессов инференса выполняется на машине. На одной машине в определенный промежуток времени должен выполняться либо 1 процесс инференса, либо 1 процесс обучения — это позволяет оптимально использовать ресурсы машины.
• Запросов инференс (зеленая кривая) — какое количество запросов на инференс, т.е. изображений для распознавания, поступает машине от роботов. Для машины с 16-ю виртуальными ядрами максимальной нагрузкой является 7 запросов, если их больше 7-ми — значит, машина перегружена.
• Процессов тест (оранжевая кривая) — какое количество тестовых процессов инференса выполняется на машине. Под тестовым процессом подразумевается инференс тестового датасета — он запускается кнопкой Запустить тест в разделе с процессами инференса. Тестовый инференс позволяет проверить на тестовом датасете, насколько хорошо обучена модель. Тестовых процессов инференса может быть несколько на одной машине.
• Процессов обучения (красная кривая) — какое количество процессов обучения выполняется на машине. На одной машине в определенный промежуток времени должен выполняться либо 1 процесс инференса, либо 1 процесс обучения.