Управление ключами маршрутизации

Ключ маршрутизации используется для решения NLP-задач и является обязательным параметром запроса к AI Server. С помощью ключа сервер выбирает модель, которой следует направить запрос на обработку.

Ключ маршрутизации важно знать разработчику RPA-проекта, чтобы правильно настроить запрос к AI Server.

Ключи маршрутизации по умолчанию

В сервисе есть предустановленные ключи маршрутизации, которые не нуждаются в дополнительной настройке администратором. Они приведены в таблице ниже.

Ключ маршрутизации	Цель	Описание
nlp	NLP	NLP-модель без настроенного навыка, которая ведет себя аналогично навыку Генерация
nlp-extraction	NLP	NLP-модель с навыком Экстракция
nlp-generation	NLP	NLP-модель с навыком Генерация
nlp-classification	NLP	NLP-модель с навыком Классификация
nlp-summarization	NLP	NLP-модель с навыком Суммаризация

Перечисленные ключи маршрутизации имеют общую конфигурацию, которая представляет собой рекомендуемые настройки для данного ключа. Конфигурация ключа служит значением по умолчанию для конфигурации в проекте.

Вы можете изменить конфигурацию по умолчанию непосредственно в проекте или в запросах робота.

Управление ключами маршрутизации

Управление ключами маршрутизации осуществляется на странице Настройки ➝ Ключи маршрутизации.

Администратор может добавить ключ маршрутизации, изменить, удалить из системы.

alt

Добавить ключ маршрутизации

Перейдите в раздел Настройки ➝ Ключи маршрутизации.
Нажмите кнопку Добавить ключи маршрутизации.
В открывшейся форме укажите параметры:
- Имя* — название будущего ключа маршрутизации.
- Описание — дополнительная информация о ключе. Описание отобразится в таблице ключей под названием вашего ключа.
- Цель* — ключевая задача модели. Доступные значения:
  - NLP_ — целью модели является решение задач по обработке произвольного текста на естественном языке
  - Экспертная система — в настоящей версии не используется.
- Навык — выберите из выпадающего списка навык NLP-модели. Доступные значения:
  - Классификация — ответ на запрос из заранее определенного списка вариантов ответов.
  - Суммаризация — краткое изложение текста с ацентом на определенные темы.
  - Экстракция — извлечение из текста информации по заданным ключам поиска.
  - Генерация — создание текста на основе заданного контекста или начального ввода.
- Файл с контекстом (.json) — содержимое файлов с контекстом подсказывает модели, как ей работать с запросами. Добавьте файл с контекстом по иконке загрузки.
LLM-движок — LLM-ядро, которое обеспечивают работу моделей на целевой машине. Доступные значения:
- Vllm — подходит для высокопроизводительных вычислений на графической карте.
- Llama — лучше работает на CPU, поскольку отличается меньшим временем генерации первого токена (текстовой единицы ответа). Llama на текущий момент не поддерживается для GPU.
Нажмите Сохранить.

Изменить ключ маршрутизации

ℹ️

В ключе маршрутизации нельзя изменить название, цель и навык, которые были указаны при создании.

Перейдите в раздел Настройки ➝ Ключи маршрутизации.
В таблице типов найдите нужную запись и нажмите значок ☰ для вызова меню действий.
Выберите Редактировать.
Измените необходимые свойства.
Нажмите Сохранить.

Удалить ключ маршрутизации

Перейдите в раздел Настройки ➝ Ключи маршрутизации.
В таблице типов найдите нужную запись и нажмите значок ☰ для вызова меню действий.
Выберите Удалить.
Подтвердите действие.