Управление ключами маршрутизации

Ключи маршрутизации используются только для компонента AI Текст. Для компонента Умный OCR используются типы моделей, которые выполняют схожую функцию.

Ключ маршрутизации используется для решения NLP-задач и является обязательным параметром NLP-запроса к AI Server. С помощью ключа сервер выбирает модель с определенным навыком, которой требуется направить запрос на обработку.

Ключ маршрутизации важно знать разработчику RPA-проекта, чтобы правильно настроить запрос к AI Server.

Ключи маршрутизации из поставки

AI Server поставляется с предустановленными ключами маршрутизации, описание которых приведено в таблице ниже.

Ключ маршрутизации	Цель	Описание
nlp	NLP	Модель без настроенного навыка, которая ведет себя аналогично навыку Генерация
nlp-extraction	NLP	Модель с навыком Экстракция
nlp-generation	NLP	Модель с навыком Генерация
nlp-classification	NLP	Модель с навыком Классификация
nlp-summarization	NLP	Модель с навыком Суммаризация
nlp-ocr	NLP	Мультимодальная модель с навыком OCR

Ключи из поставки, кроме ключа nlp-ocr, содержат предустановленные файлы с контекстом — примерами запросов и ответов, которые помогают модели нужным образом обрабатывать NLP-запросы. Пользователь может изменить предустановленный файл с контекстом:

при выборе навыка в NLP-проекте, если для навыка он выбрал ключ из поставки;
во время тестировании навыка с ключом из поставки;
при создании запроса роботом.

Управление ключами маршрутизации

Управление ключами маршрутизации осуществляется на странице Настройки ➝ Ключи маршрутизации.

Администратор может добавить ключ, изменить, удалить из системы.

⚠️

Не рекомендуется удалять ключи маршрутизации из поставки.

alt

Добавить ключ маршрутизации

Перейдите в раздел Настройки ➝ Ключи маршрутизации.
Нажмите кнопку Добавить ключи маршрутизации.
В открывшейся форме укажите параметры:
- Имя* — название будущего ключа маршрутизации.
- Описание — дополнительная информация о ключе. Описание отобразится в таблице ключей под названием вашего ключа.
- Цель* — ключевая задача модели. Доступные значения:
  - NLP — модель должна решать NLP-задачи: обрабатывать текст на естественном языке или текст из изображений.
  - Экспертная система — в настоящее время не используется.
- Навык — выберите из выпадающего списка навык NLP-модели. Доступные значения:
  - Классификация — ответ на запрос из заранее определенного списка вариантов ответов.
  - Суммаризация — краткое изложение текста с ацентом на определенные темы.
  - Экстракция — извлечение из текста информации по заданным ключам поиска.
  - Генерация — создание текста на основе заданного контекста или начального ввода.
  - OCR — обработка текста из входного изображения. Навыком OCR могут обладать только мультимодальные модели.
- Файл с контекстом (.json) — содержимое файла подсказывает модели, как ей следует работать с запросами. Чтобы добавить файл с контекстом, нажмите значок загрузки.
LLM-движок — LLM-ядро, которое обеспечивают работу моделей на целевой машине. Доступные значения:
- vLLM — подходит для вычислений на графической карте или высокопроизводительном CPU.
- Ollama — модель на этом движке возможно запускать на низкопроизводительной целевой машине.
- llama-cpp-python — подходит для вычислений на графической карте или высокопроизводительном CPU.
Нажмите Сохранить.

Изменить ключ маршрутизации

ℹ️

В ключе маршрутизации нельзя изменить название, цель и навык, которые были указаны при создании.

Перейдите в раздел Настройки ➝ Ключи маршрутизации.
В таблице типов найдите нужную запись и нажмите значок ☰ для вызова меню действий.
Выберите Редактировать.
Измените необходимые свойства.
Нажмите Сохранить.

Удалить ключ маршрутизации

Перейдите в раздел Настройки ➝ Ключи маршрутизации.
В таблице типов найдите нужную запись и нажмите значок ☰ для вызова меню действий.
Выберите Удалить.
Подтвердите действие.