Управление ключами маршрутизации
Last updated
Last updated
Ключ маршрутизации используется для решения NLP-задач и является обязательным параметром запроса к AI Server. С помощью ключа сервер выбирает модель, которой следует направить запрос на обработку.
Ключ маршрутизации важно знать разработчику RPA-проекта, чтобы правильно настроить запрос к AI Server.
В сервисе есть предустановленные ключи маршрутизации, которые не нуждаются в дополнительной настройке администратором. Они приведены в таблице ниже.
nlp
NLP
NLP-модель без настроенного навыка, которая ведет себя аналогично навыку Генерация
nlp-extraction
NLP
NLP-модель с навыком Экстракция
nlp-generation
NLP
NLP-модель с навыком Генерация
nlp-classification
NLP
NLP-модель с навыком Классификация
nlp-summarization
NLP
NLP-модель с навыком Суммаризация
Перечисленные ключи маршрутизации имеют общую конфигурацию, которая представляет собой рекомендуемые настройки для данного ключа. Конфигурация ключа служит значением по умолчанию для конфигурации в проекте.
Вы можете изменить конфигурацию по умолчанию непосредственно в проекте или в запросах робота.
Управление ключами маршрутизации осуществляется на странице Настройки ➝ Ключи маршрутизации.
Администратор может добавить ключ маршрутизации, изменить, удалить из системы.
Перейдите в раздел Настройки ➝ Ключи маршрутизации.
Нажмите кнопку Добавить ключи маршрутизации.
В открывшейся форме укажите параметры:
Имя* — название будущего ключа маршрутизации.
Описание — дополнительная информация о ключе. Описание отобразится в таблице ключей под названием вашего ключа.
Цель* — ключевая задача модели. Доступные значения:
NLP — целью модели является решение задач по обработке произвольного текста на естественном языке
Экспертная система — в настоящей версии не используется.
Навык — выберите из выпадающего списка навык NLP-модели. Доступные значения:
Классификация — ответ на запрос из заранее определенного списка вариантов ответов.
Суммаризация — краткое изложение текста с ацентом на определенные темы.
Экстракция — извлечение из текста информации по заданным ключам поиска.
Генерация — создание текста на основе заданного контекста или начального ввода.
Файл с контекстом (.json) — содержимое файлов с контекстом подсказывает модели, как ей работать с запросами. Добавьте файл с контекстом по иконке загрузки.
LLM-движок — LLM-ядро, которое обеспечивают работу моделей на целевой машине. Доступные значения:
Vllm — подходит для высокопроизводительных вычислений на графической карте.
Llama — лучше работает на CPU, поскольку отличается меньшим временем генерации первого токена (текстовой единицы ответа). Llama на текущий момент не поддерживается для GPU.
Нажмите Сохранить.
🔷Примечание. В ключе маршрутизации нельзя изменить название, цель и навык, которые были указаны при создании.
Перейдите в раздел Настройки ➝ Ключи маршрутизации.
В таблице типов найдите нужную запись и нажмите значок ☰ для вызова меню действий.
Выберите Редактировать.
Измените необходимые свойства.
Нажмите Сохранить.
Перейдите в раздел Настройки ➝ Ключи маршрутизации.
В таблице типов найдите нужную запись и нажмите значок ☰ для вызова меню действий.
Выберите Удалить.
Подтвердите действие.
