Настройка навыков модели

Введение

Навык — это способность языковой модели выполнять определённую задачу, связанную с обработкой текста или изображения.

Каждый навык имеет собственные настройки, которые управляют тем, как модель интерпретирует и обрабатывает запросы.

Работа навыка опирается на три ключевых элемента:

• ключ маршрутизации, определяющий, какой навык должен обработать запрос;
• файл контекста, задающий примеры и логику ответов;
• системный промпт, формирующий базовое поведение модели.

Добавление навыка

Чтобы добавить навык модели:

1. Нажмите Добавить навык.
2. Из списка навыков выберите значение:
   • Классификация — ответ на запрос из заранее определенного списка вариантов ответов.
   • Суммаризация — краткое изложение текста с акцентом на определенные темы.
   • Экстракция — извлечение из текста информации по заданным ключам поиска.
   • Генерация — создание нового текста по заданным параметрам.
   • OCR — распознавание текста на изображении. С этим навыком могут работать только мультимодальные модели.
   • Файнтюнинг — выполнение задач моделью после обучения на пользовательских данных. Доступен только для модели, полученной в результате файнтюнинга в AI Server.
3. В параметр Ключ маршрутизации указан уникальный строковый код, используемый AI Server для маршрутизации запросов. Это используется в Тестировании, при обращении по API или через роботов. Ключ генерируется автоматически. Скопируйте его, и используйте в активности “Создать запрос NLP” NuGet-пакета для Primo RPA Studio , или укажите его в запросе:
   POST /inference/Nlp/{routingKey}/async
4. После выбора ключа автоматически подставится Файл с контекстом (.json), если он был предустановлен для этого ключа. Доступные действия (отображаются в виде значков):
   • загрузить файл — в случае, если он не был предустановлен;
   • скачать файл для просмотра;
   • заменить предустановленный файл другим файлом;
   • отредактировать файл с контекстом, который вы загрузили вместо предустановленного файла;
   • восстановить предустановленный файл в случае, если вы его заменили.
     
5. В поле Системный промпт отображается текстовая инструкция, определяющая базовое поведение модели. При нажатии значка карандаш вы сможете просмотреть текст инструкции или переопределить его. Если текст был изменен, но вы захотели вернуться к промпту по умолчанию, нажмите значок круговой стрелки.
   

Дополнительные навыки добавляются аналогично действиям выше.

Что дальше

Когда навыки настроены, переходите к следующему шагу: выбору целевой машины .